Вопросы по теме 'floating-accuracy'
Каков простой пример ошибки с плавающей запятой / округления?
Я слышал об «ошибке» при использовании переменных с плавающей запятой. Теперь я пытаюсь решить эту головоломку и, кажется, получаю ошибку округления / с плавающей запятой. Итак, я, наконец, собираюсь разобраться в основах ошибки с плавающей запятой....
41596 просмотров
schedule
16.06.2022
Проблемы с десятичными разрядами с числами с плавающей запятой и десятичными числами.
Кажется, я теряю точность с поплавками.
Например, мне нужно решить матрицу:
4.0x -2.0y 1.0z =11.0
1.0x +5.0y -3.0z =-6.0
2.0x +2.0y +5.0z =7.0
Это код, который я использую для импорта матрицы из текстового файла:
f = open('gauss.dat')...
19146 просмотров
schedule
29.05.2023
Как я могу обойти ошибку округления, которая вызывает бесконечный цикл в Perl Statistics :: Descriptive?
Я использую библиотеку Statistics :: Descriptive в Perl для расчета частотного распределения и против проблемы с ошибкой округления с плавающей запятой.
Я передаю два значения, 0.205 и 0.205 (взятые из других чисел и спринт к ним) в модуль...
490 просмотров
schedule
03.08.2023
1.265 * 10000 = 126499.99999999999?
Когда я умножаю 1,265 на 10000, я получаю 126499.99999999999 при использовании Javascript.
Почему это так?
1584 просмотров
schedule
23.05.2022
Как сделать целое число log2 () в C ++?
В стандартных библиотеках C ++ я нашел только метод журнала с плавающей запятой. Теперь я использую журнал, чтобы найти уровень индекса в двоичном дереве ( floor(2log(index)) ).
Код (C ++):
int targetlevel = int(log(index)/log(2));
Боюсь,...
70557 просмотров
schedule
05.07.2022
Python float — str — странность с плавающей запятой
>>> float(str(0.65000000000000002))
0.65000000000000002
>>> float(str(0.47000000000000003))
0.46999999999999997 ???
Что здесь происходит? Как преобразовать 0.47000000000000003 в строку, а полученное значение обратно в...
6898 просмотров
schedule
29.03.2023
Существуют ли компиляторы, которые оптимизируют операции с плавающей запятой для точности (в отличие от скорости)?
Мы знаем, что компиляторы все лучше и лучше оптимизируют наш код и заставляют его работать быстрее, но мой вопрос: существуют ли компиляторы, которые могут оптимизировать операции с плавающей запятой для обеспечения большей точности?
Например,...
719 просмотров
schedule
04.08.2023
В чем разница между этими двумя сравнениями?
Возможный дубликат: Почему эти числа не равны?
0.9 == 1-0.1 >>> TRUE
0.9 == 1.1-0.2 >>> FALSE
3070 просмотров
schedule
27.03.2022
Проблема с плавающей запятой по модулю
Я наткнулся на очень странную ошибку. Прочтите комментарии в коде, чтобы узнать, в чем именно заключается ошибка, но, по сути, переменная по модулю 1 возвращает 1 (но она не равна 1!). Я предполагаю, что есть проблема с отображением, когда float...
4437 просмотров
schedule
30.04.2023
С++ потеря точности с плавающей запятой: 3015/0,00025298219406977296
Проблема.
Компилятор Microsoft Visual C++ 2005, 32-битная Windows XP SP3, процессор amd 64 x2.
Код:
double a = 3015.0;
double b = 0.00025298219406977296;
//*((unsigned __int64*)(&a)) == 0x40a78e0000000000
//*((unsigned...
1159 просмотров
schedule
06.06.2022
Параметры компилятора C ++ с плавающей запятой | предотвращение a / b - ›a * (1 / b)
Я пишу числовое программное обеспечение в реальном времени на C ++, в настоящее время компилируя его с помощью Visual-C ++ 2008. Теперь использую «быструю» модель с плавающей запятой ( /fp:fast ), различные оптимизации, большинство из которых полезно...
1707 просмотров
schedule
25.04.2022
Функция C pow() согласно заголовочному файлу ‹math.h› не работает должным образом
Я вижу, что для следующего кода получается результат, как показано ниже, есть идеи, почему вывод такой?
#include <stdio.h>
#include <math.h>
int main() {
int i = 0;
for(i = 0; i < 10; i++) {...
1686 просмотров
schedule
12.07.2023
Можно ли повысить точность арифметики с плавающей запятой с помощью gcc?
некоторая программа на C, которая выполняет обширные вычисления с плавающей запятой, дает правильные результаты на ПК с Linux, но неправильные результаты на SPE процессора ячейки, но не на PPU ячейки. Я использую компиляторы gcc. Интересно, есть ли...
1078 просмотров
schedule
19.02.2023
Поиск наименьшего целого числа, которое не может быть представлено в виде 32-битного числа с плавающей запятой IEEE-754
Возможный дубликат: Какое первое целое число не может быть точно представлено числом с плавающей запятой IEEE 754?
Во-первых, это вопрос домашнего задания, просто чтобы сразу все прояснить. Конечно, я не ищу решение, которое кормят...
4898 просмотров
schedule
24.11.2022
Могут ли эквивалентные выражения давать разные результаты с плавающей запятой?
Обсуждение этого ответа заставило меня задуматься о равенство и эквивалентность чисел с плавающей запятой. Я знаю, что числа с плавающей запятой не всегда могут быть представлены точно. Вопрос в том, существуют ли математически эквивалентные...
297 просмотров
schedule
28.04.2023
Как правильно и стандартно сравнивать поплавки?
Каждый раз, когда я начинаю новый проект и когда мне нужно сравнить некоторые переменные с плавающей или двойной точностью, я пишу такой код:
if (fabs(prev.min[i] - cur->min[i]) < 0.000001 &&
fabs(prev.max[i] - cur->max[i])...
48922 просмотров
schedule
26.08.2022
Работа с небольшими числами и точностью
У меня есть программа, в которой я имею дело с множеством очень маленьких чисел (ближе к нижнему пределу двойных пределов).
Во время выполнения моего приложения некоторые из этих чисел постепенно уменьшаются, что означает, что их «оценка» менее...
548 просмотров
schedule
20.07.2022
Как избежать ошибок точности с плавающей запятой с поплавками или удвоениями в Java?
У меня очень неприятная проблема с длинными суммами поплавков или удвоений в Java. В основном идея заключается в том, что если я выполню:
for ( float value = 0.0f; value < 1.0f; value += 0.1f )
System.out.println( value );
Что я...
50768 просмотров
schedule
23.10.2023
Ошибка добавления с ruby-1.9.2
Когда я добавляю 0.1+0.2 , я получаю 0.30000000000000004 , но когда я добавляю то же число в ruby 1.8.7 , я получаю правильный ответ 0.3 . Я получаю 0.3 путем округления, но я просто хочу получить 0.3 на ruby 1.9.2 , добавляя 0.1 и 0.2
846 просмотров
schedule
03.09.2022
проблема с плавающей запятой в R?
Возможный дубликат: Почему эти числа не равны?
Приведенное ниже выражение, которое оценивается как 0,1, считается большим, чем 0,1.
> round(1740/600,0) - 1740/600
[1] 0.1
> (round(1740/600,0) - 1740/600) <= 0.1
[1] FALSE...
17576 просмотров
schedule
28.03.2023
