Вопросы по теме 'double-precision'
Лучший базовый тип для работы с линейной алгеброй
Я пишу небольшую и неадекватную библиотеку линейной алгебры на C++ для проекта (извините). Я реализую матрицы и операции, используя числа двойной точности. Я делаю правильно? Должен ли я вместо этого реализовать класс шаблона? Есть ли более точный...
618 просмотров
schedule
17.04.2023
странный вывод по сравнению с float литералом
float f = 0.7;
if( f == 0.7 )
printf("equal");
else
printf("not equal");
Почему вывод not equal ?
Почему это происходит?
8164 просмотров
schedule
17.05.2024
Почему этот расчет подшипников такой неточный?
Это даже так неточно? Я повторно внедрил все это с произвольной точностью Apfloat, и это не имело значения, с чего я должен был начать!
public static double bearing(LatLng latLng1, LatLng latLng2) {
double deltaLong = toRadians(latLng2.longitude...
1949 просмотров
schedule
08.04.2023
Есть ли в JavaScript двойная точность чисел с плавающей запятой?
Я знаю, что это странный вопрос, но есть ли у JavaScript возможность работать с двойными, а не с одиночными числами с плавающей запятой? (64-битные числа с плавающей запятой против 32-битных.)
30644 просмотров
schedule
19.02.2024
целочисленное вычитание двойной точности с 32-битными регистрами (MIPS)
Я изучаю компьютерную арифметику. В книге, которую я использую (Паттерсон и Хеннесси), перечислены вопросы, приведенные ниже.
Напишите код mips для вычитания целых чисел двойной точности для 64-битных данных. Предположим, что первый операнд...
5349 просмотров
schedule
23.04.2023
Как правильно и стандартно сравнивать поплавки?
Каждый раз, когда я начинаю новый проект и когда мне нужно сравнить некоторые переменные с плавающей или двойной точностью, я пишу такой код:
if (fabs(prev.min[i] - cur->min[i]) < 0.000001 &&
fabs(prev.max[i] - cur->max[i])...
48922 просмотров
schedule
26.08.2022
Точность вывода выше, чем двойная точность
Я печатаю некоторые данные из программы C++ для обработки/визуализации с помощью ParaView, но у меня проблема с числами с плавающей запятой. Paraview поддерживает типы данных Float32 и Float64. Float64 эквивалентен double с типичными ограничениями...
801 просмотров
schedule
13.04.2023
точность Matlab и С++
Привет, я переписываю скрипт с MATLAB на C++, используя библиотеку armadillo для линейной алгебры и матрицы.
для получения более или менее такого же вывода я назвал метод cout:
cout.precision(4);
cout.setf(ios::fixed);
но я получаю...
1713 просмотров
schedule
31.07.2022
Вычисление вероятностей цепи Маркова со значениями, слишком большими для возведения в степень
Я использую формулу exp(X) в качестве скорости для цепи Маркова. Таким образом, соотношение выбора одной ссылки над другой равно exp(X1)/exp(X2). Моя проблема в том, что иногда X очень велико, поэтому exp(X) будет превышать диапазон double .
В...
897 просмотров
schedule
16.06.2023
когда использовать expm1 вместо exp в java
Я запутался в использовании функции expm1 в java. Документ Oracle java для Math.expm1 говорит:
Возвращает exp(x) -1. Обратите внимание, что для значений x, близких к 0, точная сумма expm1(x) + 1 намного ближе к истинному результату ex, чем...
2176 просмотров
schedule
20.04.2024
Java - максимальная потеря точности при одном двойном сложении/вычитании
Можно ли хотя бы приблизительно установить, какой будет максимальная потеря точности при работе с двумя значениями double в java (сложение/вычитание)? Вероятно, наихудший сценарий — это когда два числа не могут быть представлены точно, а затем над...
2856 просмотров
schedule
09.09.2022
Как сопоставить двойное значение с плавающим в Java?
На первый взгляд мой вопрос может показаться немного странным; но приведение двойного значения к значению с плавающей запятой - это не то, что я хочу. Поскольку, когда вы его используете, вы просто теряете некоторую точность по отношению к правилам,...
596 просмотров
schedule
18.02.2023
Точность линейного пространства и диапазона Matlab по сравнению с алгоритмом суммирования Каана
Я использую функцию Matlab linspace и оператор диапазона : для получения равноотстоящих векторов, но я неосторожно получаю неравномерно расположенные числа. Мой код следующий:
format long
x1 = linspace(3,5,20);
diff(x1)
x2 = 3:0.1:5;...
1094 просмотров
schedule
21.11.2022
Ошибка: возможная потеря точности
Это мой код:
static int compoundBalance(double db, double dbTwo, double dbThree) {
if(dbThree == 0) return db;
return (1 + dbTwo)*compoundBalance(db, dbTwo, dbThree-1);
}
И я получаю эти две ошибки. Я не уверен, что с ними делать. Любое...
699 просмотров
schedule
14.05.2022
Запрос postgres в столбце двойной точности не возвращает правильные результаты
У меня есть столбец двойной точности в моей базе данных под названием «позиция».
Если у меня есть строка со значением в этом столбце: 0.564593301435407
И у меня есть запрос с оператором WHERE, подобным следующему:
WHERE "position" >=...
3599 просмотров
schedule
13.12.2023
Тип данных с двойной точностью усечения
У меня есть значения, хранящиеся в базе данных как 0,05 и 0,10. Я создаю список, используя код С#, чтобы получить эти значения в списке, используя:
foreach (var objST in obj.LstTerms)
{
SubcriptionTermsModel objSubcriptionTerms = new...
95 просмотров
schedule
30.04.2023
Junit assertEquals для объектов с двойными полями
У меня есть два списка объектов. Эти объекты ссылаются на другие объекты, которые, в свою очередь, содержат дубликаты. Я хочу использовать assertEquals, чтобы проверить, одинаковы ли два объекта. Я вручную проверил, что они есть, но assertEquals...
454 просмотров
schedule
25.03.2023
Точное деление чисел двойной точности, точно представляющих целые числа (когда они делятся)
Учитывая, что 8-байтовые двойники могут точно представлять все 4-байтовые целые числа , мне интересно, деление двойного A, хранящего int, на double B, хранящее int (такое, что целое число B делит A) всегда будет давать точное двойное значение,...
441 просмотров
schedule
21.06.2022
64-битные литералы с плавающей запятой PHP
Я пытаюсь преобразовать 64-битное число с плавающей запятой в 64-битное целое число (и обратно) в php. Мне нужно сохранить байты, поэтому я использую функции упаковки и распаковки. Функциональность, которую я ищу, - это в основном метод Java...
1262 просмотров
schedule
05.08.2022
Рука двойной точности g++ против Intel
Вот изображение, показывающее вывод одной и той же программы в Intel, а затем в ARM:
http://screencast.com/t/1eA64D4rF
Оба показывают результат чтения двоичного файла с числами в первом столбце в формате двойной точности с плавающей запятой....
641 просмотров
schedule
20.06.2022
