Вопросы по теме 'fixed-point'
Численное преобразование в C/C++
Мне нужно преобразовать C/C++ double в 64-битное дополнение до двух, где точка Radix находится в битовом номере 19 (включительно).
Это означает, что для формата, который я хочу преобразовать в
0x0000 0000 0010 0000 это число 1
0xFFFF FFFF...
461 просмотров
schedule
09.01.2023
Комплексные числа: быстрое декартово преобразование в полярное
Я ищу быстрый способ превратить массив комплексных чисел в полярное представление.
Например, учитывая комплексное число X, я хочу превратить его в полярное представление следующим образом:
Q.phase = atan2 (X.imag / X.real);
Q.magniude =...
2015 просмотров
schedule
15.04.2023
Преобразование с плавающей запятой из алгоритма с фиксированной запятой
У меня есть приложение, использующее 24-битные вычисления с фиксированной точкой. Я портирую его на оборудование, которое поддерживает плавающую точку, поэтому для оптимизации скорости мне нужно преобразовать все вычисления с фиксированной точкой в...
3098 просмотров
schedule
03.12.2022
Как выполнять математику с фиксированной точкой вместо чисел с плавающей точкой?
Я не дядя по математике, но настоящий мне сказал вот что:
"использовать фиксированную точку вместо плавающей для умножения, деления, суммирования, тригонометрии и интегрирования"
Итак, что мне делать вместо использования типов данных...
1194 просмотров
schedule
01.06.2023
как использовать собственный тип фиксированной точки (8.24) для обработки звука iOS
поэтому я хочу правильно масштабировать поплавки в диапазоне от -1 до +1 в формате, ожидаемом AUGraph, с форматом потока, настроенным следующим образом:
size_t bytesPerSample = sizeof (AudioUnitSampleType); // is 4 bytes...
1921 просмотров
schedule
03.08.2022
Есть ли в Objective-C десятичный объект с фиксированной точкой?
В других языках часто существует фиксированный десятичный объект, который можно использовать вместо IEEE float/double, чтобы гарантировать точность. Есть ли в Objective-C что-то подобное? Когда я искал, все, что я нашел, это NSNumber, который,...
910 просмотров
schedule
01.02.2023
преобразование с фиксированной точкой из реальной переменной в vhdl
У меня есть следующий фрагмент кода в vhdl:
signal s: signed(31 downto 0);
s <= to_signed(to_sfixed(1.2,8,-23),32);
Теперь я ожидаю, что версия 1.2 с фиксированной точкой будет доступна в сигнале 's'.
Но он всегда игнорирует дробную...
3873 просмотров
schedule
19.07.2023
Беззнаковое деление с фиксированной точкой в C
Мне нужен алгоритм для беззнакового деления с фиксированной точкой в C. Я могу использовать не более 32-битных слов.
Я хочу минимизировать количество битов, необходимых для представления целой части, при этом имея возможность использовать числа в...
9675 просмотров
schedule
19.03.2022
Как улучшить квадратный корень с фиксированной точкой для небольших значений
Я использую библиотеку фиксированной точки Энтони Уильямса, описанную в статье доктора Добба " Оптимизация приложений, интенсивно использующих математические вычисления, с помощью арифметики с фиксированной точкой " для расчета расстояния между...
3941 просмотров
schedule
31.12.2022
Как использовать расширение типов фиксированной точки GCC на ARM Cortex-M?
Я использую ARM Cortex-M3 и Cortex-M4. Я хочу использовать расширение типа с фиксированной точкой GCC. Я использую набор инструментов summon-arm-toolchain . Следующая строка кода
_Fract f = 0.1;
выдает следующую ошибку компиляции:...
5084 просмотров
schedule
26.04.2023
Как определить целесообразность использования чисел с фиксированной точкой в заданном (игровом) проекте?
Я рассматривал возможность публикации этого вопроса на GameDev , так как мой случай связан с игровым проектом, но я решил, что это больше подходит для более широкого программирования SE. . Пожалуйста, дайте мне знать, если этот вопрос будет лучше...
445 просмотров
schedule
18.02.2023
Использование двух uint для представления двойного числа, а затем умножение?
Я работаю с CUDA (программирование GPGPU) для некоторых исследований, и врожденная производительность Double Precision страдает по сравнению с производительностью Single Precision (в 24 раза!), Из-за новой аппаратной архитектуры. Я решил попробовать...
1118 просмотров
schedule
13.06.2022
Числа с плавающей и фиксированной точкой и производительность
Мне любопытно, насколько быстрые операции с плавающей запятой выполняются на выделенном оборудовании по сравнению с фиксированным.
С фиксированной точкой, скажем, у вас есть число 555 и вы хотите умножить его на 1,54, вы загрузите значения 555, 154...
860 просмотров
schedule
08.10.2023
Обнаружение переполнения при умножении с фиксированной точкой
Краткая версия: как я могу обнаружить переполнение с помощью умножения с фиксированной точкой, описанного здесь , но для подписанного типа?
Длинная версия:
У меня все еще есть некоторые проблемы с переполнением с моим типом фиксированной точки...
884 просмотров
schedule
07.02.2024
Арифметика с фиксированной точкой Java с использованием байта
У меня есть некоторые значения, которые принадлежат [-1,1]. Мне не нужна большая точность, но мне понадобится МНОГО этих значений. Теперь я больше разбираюсь в оборудовании, поэтому решение пришло ко мне без особых усилий: использовать арифметику с...
393 просмотров
schedule
06.01.2024
Matlab: как выполнять арифметику с фиксированной точкой без расширения базового типа данных?
Гугл молчит по этому поводу. В настоящее время я реализую числовой калькулятор только с 16-битной фиксированной точкой со знаком в Matlab. Но арифметическая операция с 16-битной фиксированной точкой приводит к расширению типа данных до следующего...
2530 просмотров
schedule
11.05.2022
Компиляция *.vhdl в библиотеку с помощью Altera Quartus II
Я пытаюсь использовать «Пакет с плавающей запятой и фиксированной точкой» как часть моего дизайна фильтра в VHDL. Я использую Altera Quartus II в качестве среды разработки. Я скачал пакет файлов с веб-сайта: http://www.vhdl.org/fphdl/ , теперь...
4744 просмотров
schedule
30.05.2022
Обозначение для представления с фиксированной точкой
Я ищу общепонятную нотацию для определения представления числа с фиксированной точкой. Нотация должна быть в состоянии определить как коэффициент степени двойки (с использованием дробных битов), так и общий коэффициент (иногда я вынужден использовать...
1207 просмотров
schedule
23.05.2022
почему умножение Q.15 не работает
Ссылаясь на обозначение для представления с фиксированной точкой , я пытался следовать, но я совсем запутался.
int q = 1<<15;
printf("(sys3.b0 * q) = %hx \n",((0.2929 * q)));
выход
((0.2929 * q)) = cc60
Я ожидаю увидеть 257d,...
85 просмотров
schedule
04.09.2023
Добавление библиотеки в проект VHDL
Я пытаюсь использовать числа с фиксированной точкой в своем проекте VHDL, но у меня по-прежнему возникают проблемы с реализацией библиотеки (см. здесь http://www.eda-stds.org/fphdl/fixed_pkg_c.vhdl ). Ошибка, которую я получаю при попытке...
6680 просмотров
schedule
17.07.2022
