Эффективные числовые массивы с множественной точностью

Отказ от ответственности: я поддерживаю gmpy2. Следующие тесты были выполнены с версией для разработки.

a и b — это списки из 1000 элементов, содержащие псевдослучайные значения gmpy2.mpfr с точностью 250 бит. Тест выполняет поэлементное умножение двух списков.

В первом тесте используется понимание списка:

%timeit [x*y for x,y in zip(a,b)]
1000 loops, best of 3: 322 µs per loop

Второй тест использует функцию map для выполнения цикла:

%timeit list(map(gmpy2.mul, a, b))
1000 loops, best of 3: 299 µs per loop

Третий тест — это реализация понимания списка на C:

%timeit vector2(a,b)
1000 loops, best of 3: 243 µs per loop

В третьей попытке vector2 пытается быть корректной функцией Python. Числовые типы обрабатываются с использованием правил преобразования типов gmpy2, выполняется проверка ошибок и т. д. Проверяются настройки контекста, по запросу создаются субнормальные числа, при необходимости возбуждаются исключения и т. д. Если вы проигнорируете все усовершенствования Python и примете все value уже gmpy2.mpfr, мне удалось сократить время с четвертой попытки:

%timeit vector2(a,b)
10000 loops, best of 3: 200 µs per loop

Четвертая версия не обеспечивает достаточной проверки ошибок, чтобы ее можно было использовать повсеместно, но возможна версия между третьей и четвертой попытками.

Можно уменьшить накладные расходы Python, но по мере увеличения точности эффективная экономия уменьшается.

Насколько мне известно, не существует библиотеки Python, которая поддерживает операции с векторизованными массивами для значений с множественной точностью. К сожалению, нет особенно эффективного способа использовать значения с множественной точностью в numpy ndarray, и крайне маловероятно, что когда-либо будет, поскольку значения с множественной точностью несовместимы с базовой моделью массива numpy.

Каждый элемент в ndarray numpy с плавающей запятой занимает одинаковое количество байтов, поэтому массив может быть представлен с точки зрения адреса памяти первого элемента, размеров и обычного смещения байтов (или шага) между последовательными элементами массива.

Эта схема имеет значительные преимущества в производительности — соседние элементы массива расположены по соседним адресам памяти, поэтому последовательное чтение/запись в массив выигрывает от лучшей локальности ссылок. Шаги также очень важны для удобства использования, поскольку они позволяют выполнять такие действия, как работа с представлениями одного и того же массива, без создания новых копий в памяти. Когда вы делаете x[::2], вы на самом деле просто удваиваете шаг по первой оси массива, так что вы обращаетесь ко всем остальным элементам.

Напротив, массив, содержащий несколько значений точности, должен содержать элементы неравного размера, поскольку значения с более высокой точностью будут занимать больше байтов, чем значения с низкой точностью. Таким образом, массив с множественной точностью не может регулярно перемещаться и теряет преимущества, упомянутые выше.

В дополнение к проблемам с построением массивов, даже простая арифметика для скаляров с множественной точностью, вероятно, будет намного медленнее, чем для скаляров с плавающей запятой. Почти все современные процессоры имеют специализированные блоки с плавающей запятой, тогда как арифметика с множественной точностью должна быть реализована программно, а не аппаратно.

Я подозреваю, что эти проблемы с производительностью могут быть большой частью причины, по которой еще нет библиотеки Python, которая обеспечивает искомую функциональность.

Текущий проект — qd, который сможет встраивать высокоточные числа в массивы Numpy, используя преимущества фиксированного размера в памяти своих значений. Прямо сейчас этот тип доступен для Numpy, но еще не как dtype; однако вы уже можете использовать его с объектом dtype.

(Если вы хотите увидеть, как будет выглядеть dtype, вы можете уже раскомментировать соответствующую строку для его компиляции с поддержкой Numpy; это должно работать для просмотра, но функция еще не реализована; следующий выпуск должен быть в сентябре или октябре.)