Публикации по теме 'rounding'
Почему 0,1 + 0,2 !== 0,3?
Короткий ответ: потому что двоичный!
Более длинный ответ заключается в том, что компьютеры хранят данные в двоичном виде, и хотя это нормально для целых чисел, для дробей это становится немного сложнее.
Вы, наверное, знаете это, но в 8 битах у вас было бы:
+=====+======+======+=====+=====+=====+=====+=================+
| 64 | 32 | 16 | 8 | 4 | 2 | 1 | Number base 10 |
+=====+======+======+=====+=====+=====+=====+=================+
| 0 | 0 | 0 | 0 | 1 | 1..
Вопросы по теме 'rounding'
Округление до произвольного количества значащих цифр
Как можно округлить любое число (не только целые числа> 0) до N значащих цифр?
Например, если я хочу округлить до трех значащих цифр, я ищу формулу, которая могла бы принимать:
1,239,451 и доход 1,240,000
12.1257 и возврат 12.1
.0681 и...
40409 просмотров
schedule
08.06.2023
Соответствие округления FORTRAN в C #
FORTRAN предоставляет несколько функций для преобразования числа двойной точности в целое значение. Метод, используемый для усечения / округления, отличается. Я конвертирую сложные научные алгоритмы, которые их используют.
Согласно документации...
3818 просмотров
schedule
18.02.2024
Как скруглить углы значка myapp
В режиме симулятора у моего приложения есть значок с закругленными углами, но на реальном iPhone углы не закруглены.
3404 просмотров
schedule
20.05.2022
обнаружение округления с плавающей запятой
Я использую java и имею в виду «двойной» тип данных. Короче говоря, я читаю некоторые значения из стандартного ввода, которые я читаю в своем коде как двойные (я бы предпочел использовать что-то вроде BigInteger, но сейчас это невозможно).
Я...
769 просмотров
schedule
17.06.2023
В jQuery, какой лучший способ форматирования числа до 2 знаков после запятой?
Это то, что у меня есть прямо сейчас:
$("#number").val(parseFloat($("#number").val()).toFixed(2));
Мне это кажется грязным. Я не думаю, что правильно связываю функции. Должен ли я вызывать его для каждого текстового поля или я могу создать...
187319 просмотров
schedule
18.03.2022
Где Round () в C ++?
Дубликат: round () для float в C ++
Я использую VS2008 и включил math.h, но все еще не могу найти круглую функцию. Он существует?
Я вижу кучу добавлений 0.5 и преобразований в решения в Google. Это лучшая практика?
97765 просмотров
schedule
12.07.2023
NSTimeInterval в читаемый NSNumber
NSTimeInterval == двойной; (например, 169.12345666663)
Как мне округлить это число в два раза, чтобы после «точки» оставались только 2 цифры? Было бы очень хорошо, если бы результатом было NSNumber.
9024 просмотров
schedule
18.02.2023
Как я могу преобразовать двойное значение в ближайшее целое значение?
Как вы конвертируете double в ближайший int?
181156 просмотров
schedule
23.04.2023
Сделать пуговицу круглой
Я пытаюсь сделать раунд JButton в координатах (x, y) (150,210). Я хочу, чтобы кнопка была овальной размером (40,40). И цвет фона кнопок красный. Ему не нужен текст, так что я должен получить кнопку любого размера, которого я хочу, верно?
Я...
43410 просмотров
schedule
19.05.2023
Как отформатировать двойную валюту, округленную до ближайшего доллара?
Прямо сейчас у меня есть
double numba = 5212.6312
String.Format("{0:C}", Convert.ToInt32(numba) )
Это даст мне
$5,213.00
но я не хочу ".00".
Я знаю, что могу просто отбрасывать последние три символа строки каждый раз, чтобы...
86574 просмотров
schedule
03.05.2024
Как я могу обойти ошибку округления, которая вызывает бесконечный цикл в Perl Statistics :: Descriptive?
Я использую библиотеку Statistics :: Descriptive в Perl для расчета частотного распределения и против проблемы с ошибкой округления с плавающей запятой.
Я передаю два значения, 0.205 и 0.205 (взятые из других чисел и спринт к ним) в модуль...
490 просмотров
schedule
03.08.2023
Двойки с округлением - 0,5 - спринтф
Я использую следующий код для округления до 2dp:
sprintf(temp,"%.2f",coef[i]); //coef[i] returns a double
Он успешно округляет 6,666 до 6,67, но неправильно работает при округлении 5,555. Он возвращает 5,55, тогда как должен (по крайней...
13113 просмотров
schedule
10.05.2024
Есть ли какая-нибудь функция Java или класс util, который округляет таким образом: func (3/2) = 2?
Есть ли какая-нибудь функция Java или утилита class , которая округляет таким образом: func(3/2) = 2
Math.ceil() не помогает, что, по названию, должно было сделать. Я знаю BigDecimal , но мне это не нужно.
32657 просмотров
schedule
24.08.2023
Округление числа в меньшую сторону в Visual Basic
У меня есть приложение Visual Basic, которому необходимо округлить число в меньшую сторону, например, 2,556 станет 2,55, а не 2,26.
Я могу сделать это, используя функцию для удаления символов более 2 прямо из десятичной точки, используя это:...
53424 просмотров
schedule
28.06.2022
Правило Oracle Bankers
Почему Oracle не использует правило банкиров (метод округления)?
4862 просмотров
schedule
17.05.2023
Округление чисел с плавающей запятой с неточным представлением
У нас есть проблема с округлением чисел с плавающей запятой для некоторых финансовых расчетов.
По сути, мы хотим округлить денежные суммы, например 1000000000,555, до 2 десятичных знаков. Однако числовое представление этого числа с плавающей...
646 просмотров
schedule
24.06.2023
Округление результата деления в Javascript
Я выполняю следующую операцию в Javascript:
0.0030 / 0.031
Как округлить результат до произвольного числа разрядов? Какое максимальное число может содержать var ?
13531 просмотров
schedule
22.06.2023
Время округления до ближайшего 15-минутного интервала в Excel
У меня есть таблица Excel со столбцом, в котором указаны дата и время определенного события. Я хотел бы округлить это до ближайшего 15-минутного интервала, чтобы я мог подсчитать общее количество событий за этот период. Как лучше сделать округление?
82202 просмотров
schedule
25.06.2023
Как использовать Round с DataView RowFilter?
Я использую DataView.RowFilter для фильтрации DataView, и я хотел бы сравнить округленные двойные значения, а не полные двойные значения. Например, значения в столбце «Значение» являются двойными с большой точностью, тогда как значения, с которыми я...
2228 просмотров
schedule
15.01.2023
Как правильно отображать цену до двух знаков после запятой (центов), включая конечные нули в Java?
Есть хороший вопрос об округлении десятичных знаков в Java здесь . Но мне было интересно, как я могу включить конечные нули для отображения цен в моей программе, например: 1,50 доллара, 1,00 доллара.
Простое решение
String.format("%.2g%n",...
27813 просмотров
schedule
09.02.2024