numpy вызывает sse2 через ctypes

Вкратце, я пытаюсь вызвать общую библиотеку из python, точнее, из numpy. Общая библиотека реализована на C с использованием инструкций sse2. Включив оптимизацию, т.е. создав библиотеку с параметрами -O2 или –O1, я столкнулся со странными segfaults при обращении к общей библиотеке через ctypes. Отключив оптимизацию (-O0), все работает как положено, как и в случае прямого подключения библиотеки к c-программе (оптимизированной или нет). В приложении вы найдете фрагмент, который демонстрирует описанное поведение в моей системе. При включенной оптимизации gdb сообщает о segfault в __builtin_ia32_loadupd (__P) по адресу emmintrin.h:113. Значение __P сообщается как оптимизированное.

тест.с:

#include <emmintrin.h>
#include <complex.h>
void test(const int m, const double* x, double complex* y) {

    int i;
    __m128d _f, _x, _b;
    double complex f __attribute__( (aligned(16)) );
    double complex b __attribute__( (aligned(16)) );
    __m128d* _p;

    b = 1;
    _b = _mm_loadu_pd( (double *) &b );

    _p = (__m128d*) y;

    for(i=0; i<m; ++i) {
        f = cexp(-I*x[i]);
        _f = _mm_loadu_pd( (double *) &f );
        _x = _mm_loadu_pd( (double *) &x[i] );      
        _f = _mm_shuffle_pd(_f, _f, 1);
        *_p = _mm_add_pd(*_p, _f);
        *_p = _mm_add_pd(*_p, _x); 
        *_p = _mm_mul_pd(*_p,_b);
        _p++;
    }
    return;
}

Флаги компилятора: gcc -o libtest.so -shared -std=c99 -msse2 -fPIC -O2 -g -lm test.c

test.py:

import numpy as np
import os

def zerovec_aligned(nr, dtype=np.float64, boundary=16):
    '''Create an aligned array of zeros.
    '''
    size = nr * np.dtype(dtype).itemsize
    tmp = np.zeros(size + boundary, dtype=np.uint8)
    address = tmp.__array_interface__['data'][0]
    offset = boundary - address % boundary
    return tmp[offset:offset + size].view(dtype=dtype)


lib = np.ctypeslib.load_library('libtest', '.' )
lib.test.restype = None
lib.test.argtypes = [np.ctypeslib.ctypes.c_int,
                     np.ctypeslib.ndpointer(np.float64, flags=('C', 'A') ),
                     np.ctypeslib.ndpointer(np.complex128, flags=('C', 'A', 'W') )]


n = 13
y = zerovec_aligned(n, dtype=np.complex128)
x = np.ones(n, dtype=np.float64)
# x = zerovec_aligned(n, dtype=np.float64)
# x[:] = 1.

lib.test(n,x,y)

Вызов test из C работает как положено:

call_from_c.c:

#include <stdio.h>
#include <complex.h>
#include <stdlib.h>
#include <emmintrin.h>

void test(const int m, const double* x, double complex* y);

int main() {

    int i; 
    const int n = 11;
    double complex *y = (double complex*) _mm_malloc(n*sizeof(double complex), 16);
    double *x = (double *) malloc(n*sizeof(double));
    for(i=0; i<n; ++i) {
        x[i] = 1;
        y[i] = 0;
    }

    test(n, x, y);
    for(i=0; i<n; ++i)
            printf("[%f %f]\n", creal(y[i]), cimag(y[i]));

    return 1;

}

Скомпилируйте и вызовите:
gcc -std=c99 -otestc -msse2 -L. -ltest call_from_c.c
export LD_LIBRARY_PATH=${LD_LIBRARY_PATH}:.
./testc
... работает.

Моя система:

  • Ubuntu Linux i686 2.6.31-22-общий
  • Компилятор: gcc (Ubuntu 4.4.1-4ubuntu9)
  • Python: Python 2.6.4 (r264:75706, 7 декабря 2009 г., 18:45:15) [GCC 4.4.1]
  • Нампи: 1.4.0

Я принял положения (см. Код Python), что y выровнен, и выравнивание x не должно иметь значения (я думаю, явное выравнивание x не решает проблему).

Также обратите внимание, что я использую _mm_loadu_pd вместо _mm_load_pd при загрузке b и f. Для версии только для C _mm_load_pd работает (как и ожидалось). Однако при вызове функции через ctypes с использованием _mm_load_pd всегда возникают ошибки сегментации (независимо от оптимизации).

Я несколько дней безуспешно пытался решить эту проблему ... и я на грани того, чтобы избить свой монитор до смерти. Приветствуется любой ввод. Даниэль


person Daniel    schedule 15.06.2010    source источник
comment
Вы получили ту же ошибку, если вызвали тестовую функцию из C?   -  person Tarantula    schedule 16.06.2010
comment
Нет. Вызов теста из C проходит гладко... Я обновил исходный пост примером вызова из C.   -  person Daniel    schedule 16.06.2010
comment
Как насчет удаления numpy из уравнения и прямого использования ctypes?   -  person tonfa    schedule 22.08.2010


Ответы (3)


Я только что укусил это, пытаясь вызвать какой-то SSE-код из python, проблема, похоже, в том, что GCC хочет предположить, что стек выровнен по 16-байтовым границам (самый большой собственный тип в архитектуре, т.е. SSE-типы ) и вычисляет все смещения с учетом этого предположения. Когда это предположение ложно, SSE-инструкции сработают.

The answer seems to be to compile with

gcc -mstackrealign
which changes the function prologues to always align the stack to 16 bytes.

person dnaq    schedule 20.06.2011

Попробуйте создать расширение с помощью системы сборки numpy, чтобы исключить возможные различия cflags/ldflags: http://projects.scipy.org/numpy/wiki/NumpySconsExtExamples

person shurik    schedule 28.08.2010

Пробовали ли вы обновиться до Numpy 1.5.0b2. Просто запустите следующее (но будьте осторожны, это может сломать другие вещи (вам придется перекомпилировать весь pyrex):

sudo easy_install -U numpy

У меня были аналогичные проблемы с ctypes, когда я пытался использовать H5PY (мне пришлось перекомпилировать .deb, чтобы получить последнюю версию numpy), а также были серьезные проблемы с переплетением, которые были исправлены последним обновлением.

person sundae_startups    schedule 28.08.2010