Вопросы по теме 'floating-point-precision'
Проблемы с поплавками в Objective-C
У меня небольшая проблема, и я не могу ее решить!
Мой код (это всего лишь образец кода, но мой исходный код делает что-то вроде этого):
float x = [@"2.45" floatValue];
for(int i=0; i<100; i++)
x += 0.22;
NSLog(@"%f", x);
вывод...
2202 просмотров
schedule
18.10.2022
Путаница с числами с плавающей запятой
int main()
{
float x=3.4e2;
printf("%f",x);
return 0;
}
Выход:
340.000000 // It's ok.
Но если записать x=3.1234e2 , вывод будет 312.339996 , а если x=3.12345678e2 , вывод будет 312.345673 .
Почему такие выходы? Я думаю, что...
293 просмотров
schedule
27.02.2023
Большое количество чисел с плавающей запятой без дополнительной библиотеки
у меня есть значение с плавающей запятой, которое состоит из сотен цифр (например, первые 100 цифр пи - 3), и мне нужен способ работать с ним. Есть ли способ хранить и работать с поплавком, который имеет большое количество десятичных знаков и...
1981 просмотров
schedule
15.06.2023
базовая структура данных для float в python
Возник вопрос относительно базовой структуры данных с плавающей запятой (и точности) в Python:
>>> b = 1.4 + 2.3
>>> b
3.6999999999999997
>>> c = 3.7
>>> c
3.7000000000000002
>>> print b, c
3.7 3.7...
1348 просмотров
schedule
01.06.2023
Точность вывода выше, чем двойная точность
Я печатаю некоторые данные из программы C++ для обработки/визуализации с помощью ParaView, но у меня проблема с числами с плавающей запятой. Paraview поддерживает типы данных Float32 и Float64. Float64 эквивалентен double с типичными ограничениями...
801 просмотров
schedule
13.04.2023
Добавление 32-битных чисел с плавающей запятой.
Я узнаю больше, чем когда-либо хотел знать о числах с плавающей запятой.
Допустим, мне нужно было добавить:
1 10000000 00000000000000000000000
1 01111000 11111000000000000000000
форма дополнения 2.
Первый бит — это знак, следующие 8 бит...
4504 просмотров
schedule
29.07.2023
Проблемы с точностью в Visual Studio 2010
У меня есть приложение, написанное на Microsoft Visual C++ 6.0. Теперь я переписал приложение в Visual Studio 2010 с помощью C#, но результаты не совпадают из-за проблем с точностью. Одной из таких проблем точности является следующая.
float a =...
1173 просмотров
schedule
15.02.2023
Является ли это допустимым сравнением с плавающей запятой, учитывающим заданное количество знаков после запятой?
Я пишу метод расширения для сравнения двух чисел с плавающей запятой, используя заданное количество десятичных знаков (значащих цифр), чтобы определить, равны ли они, вместо допуска или разницы в процентах. Просматривая другие вопросы, касающиеся...
1765 просмотров
schedule
16.07.2022
Неоднозначность операций с плавающей запятой
Возможный дубликат: Почему неточна ли арифметика с плавающей запятой в C #?
Почему в операциях с плавающей запятой существует предвзятость? Какая-то конкретная причина? Выход: 160139
static void Main()
{...
1061 просмотров
schedule
17.04.2023
Как Double.ToString() отображает больше символов, чем точность Double?
?(1.0-0.9-0.1)
-0.000000000000000027755575615628914
?((double)1.0-(double)0.9-(double)0.1)
-0.000000000000000027755575615628914
?((double)1.0-(double)0.9-(double)0.1).GetType()
{Name = "Double" FullName = "System.Double"}...
429 просмотров
schedule
04.10.2022
Java - максимальная потеря точности при одном двойном сложении/вычитании
Можно ли хотя бы приблизительно установить, какой будет максимальная потеря точности при работе с двумя значениями double в java (сложение/вычитание)? Вероятно, наихудший сценарий — это когда два числа не могут быть представлены точно, а затем над...
2856 просмотров
schedule
09.09.2022
Точность с плавающей запятой в Python
Я написал эту функцию на python:
import math
def radical(a, b, k):
return (1-((a**2-b**2)/a**2)*(math.sin(math.pi*(2*k-1)/180))**2)**.5
def f(a, b):
sigma = 0
for k in range(1,180/4):
sigma = sigma + radical(a, b, k)
return...
1359 просмотров
schedule
15.06.2022
Раунд с плавающими значениями
Я разрабатываю кассовый аппарат, в котором мне нужно сравнить 2 значения с плавающей запятой, и я получаю ошибку каждый раз при сравнении, потому что я не могу округлить разницу в сумме до 2 десятичных цифр и сравнить ее со значениями.
для...
139 просмотров
schedule
11.05.2022
Многоточная библиотека Python, которая хорошо сочетается с boost::multiprecision или другими опциями?
Я работаю над проектом, который вращается вокруг «комплексных» чисел с высокой точностью, в частности, это приложение на основе набора Мандельброта, но с изюминкой, требующей приличного соответствия между выходными данными (быстрого) модуля расширения...
351 просмотров
schedule
18.04.2024
Обработка десятичных чисел в mysqli
Я должен указать цену некоторых предметов в таблице mysql. При создании таблицы я использую DECIMAL(10,2) , так как мне не нужно более 2 цифр после запятой (например: 123,45 будет принято в качестве входных данных, но 123,456 будет округлено до...
12046 просмотров
schedule
31.12.2023
Биты точности для чисел с плавающей запятой IEE 754 (32 бита) от -1 до 1
Учитывая диапазон представимых чисел с плавающей запятой, как я могу рассчитать количество бит точности, которое я смогу сохранить в 32-битном веществе с плавающей запятой IEE 754 в этом диапазоне.
Например, при выполнении математических...
152 просмотров
schedule
05.01.2023
Превратить float в строку
Я перешел к тому, когда мне нужно преобразовать числа одинарной и двойной точности IEEE-754 в строки с основанием 10 . Доступна инструкция FXTRACT , но она предоставляет только показатель степени и мантиссу для основания 2, так как формула...
2405 просмотров
schedule
30.01.2023
тип данных для хранения точности более чем в два раза в Matlab
Я работаю в Matlab, в последнее время занимаюсь исследованиями в области обработки изображений. на этот раз я реализую исследовательскую работу эту статью , в которой у меня возникает проблема хранить точность более чем в два раза. Пожалуйста,...
740 просмотров
schedule
03.10.2022
Вызывает недополнение в формате с плавающей запятой IEEE-754 с помощью вычитания
Это кажется простым, но у меня много проблем с ответом на следующий вопрос:
Задайте два числа X и Y, представленные в формате IEEE754, так что вычисление X-Y приведет к потере значимости.
Насколько я понимаю, каждая операция потенциально может...
1597 просмотров
schedule
08.06.2023
Почему поведение Double.toString отличается от поведения MathContext.DECIMAL64 при построении BigDecimal в Java?
Мне кажется, что Double должен следовать тем же правилам, что и стандарт IEEE, используемый в MathContext.DECIMAL64, однако в этом случае я получаю другое поведение:
import java.math.BigDecimal;
import java.math.MathContext;
public class...
476 просмотров
schedule
27.03.2023
