Публикации по теме 'rounding'


Почему 0,1 + 0,2 !== 0,3?
Короткий ответ: потому что двоичный! Более длинный ответ заключается в том, что компьютеры хранят данные в двоичном виде, и хотя это нормально для целых чисел, для дробей это становится немного сложнее. Вы, наверное, знаете это, но в 8 битах у вас было бы: +=====+======+======+=====+=====+=====+=====+=================+ | 64 | 32 | 16 | 8 | 4 | 2 | 1 | Number base 10 | +=====+======+======+=====+=====+=====+=====+=================+ | 0 | 0 | 0 | 0 | 1 | 1..

Вопросы по теме 'rounding'

Округление до произвольного количества значащих цифр
Как можно округлить любое число (не только целые числа> 0) до N значащих цифр? Например, если я хочу округлить до трех значащих цифр, я ищу формулу, которая могла бы принимать: 1,239,451 и доход 1,240,000 12.1257 и возврат 12.1 .0681 и...
40409 просмотров
rounding algorithm significant-digits
schedule 08.06.2023
Соответствие округления FORTRAN в C #
FORTRAN предоставляет несколько функций для преобразования числа двойной точности в целое значение. Метод, используемый для усечения / округления, отличается. Я конвертирую сложные научные алгоритмы, которые их используют. Согласно документации...
3818 просмотров
c# rounding fortran truncation
schedule 18.02.2024
Как скруглить углы значка myapp
В режиме симулятора у моего приложения есть значок с закругленными углами, но на реальном iPhone углы не закруглены.
3404 просмотров
iphone icons rounding
schedule 20.05.2022
обнаружение округления с плавающей запятой
Я использую java и имею в виду «двойной» тип данных. Короче говоря, я читаю некоторые значения из стандартного ввода, которые я читаю в своем коде как двойные (я бы предпочел использовать что-то вроде BigInteger, но сейчас это невозможно). Я...
769 просмотров
rounding floating-point
schedule 17.06.2023
В jQuery, какой лучший способ форматирования числа до 2 знаков после запятой?
Это то, что у меня есть прямо сейчас: $("#number").val(parseFloat($("#number").val()).toFixed(2)); Мне это кажется грязным. Я не думаю, что правильно связываю функции. Должен ли я вызывать его для каждого текстового поля или я могу создать...
187319 просмотров
javascript jquery rounding number-formatting decimal-point
schedule 18.03.2022
Где Round () в C ++?
Дубликат: round () для float в C ++ Я использую VS2008 и включил math.h, но все еще не могу найти круглую функцию. Он существует? Я вижу кучу добавлений 0.5 и преобразований в решения в Google. Это лучшая практика?
97765 просмотров
c++ rounding
schedule 12.07.2023
NSTimeInterval в читаемый NSNumber
NSTimeInterval == двойной; (например, 169.12345666663) Как мне округлить это число в два раза, чтобы после «точки» оставались только 2 цифры? Было бы очень хорошо, если бы результатом было NSNumber.
9024 просмотров
objective-c cocoa rounding double floating-point
schedule 18.02.2023
Как я могу преобразовать двойное значение в ближайшее целое значение?
Как вы конвертируете double в ближайший int?
181156 просмотров
c# rounding
schedule 23.04.2023
Сделать пуговицу круглой
Я пытаюсь сделать раунд JButton в координатах (x, y) (150,210). Я хочу, чтобы кнопка была овальной размером (40,40). И цвет фона кнопок красный. Ему не нужен текст, так что я должен получить кнопку любого размера, которого я хочу, верно? Я...
43410 просмотров
java rounding swing jbutton
schedule 19.05.2023
Как отформатировать двойную валюту, округленную до ближайшего доллара?
Прямо сейчас у меня есть double numba = 5212.6312 String.Format("{0:C}", Convert.ToInt32(numba) ) Это даст мне $5,213.00 но я не хочу ".00". Я знаю, что могу просто отбрасывать последние три символа строки каждый раз, чтобы...
86574 просмотров
c# formatting rounding currency
schedule 03.05.2024
Как я могу обойти ошибку округления, которая вызывает бесконечный цикл в Perl Statistics :: Descriptive?
Я использую библиотеку Statistics :: Descriptive в Perl для расчета частотного распределения и против проблемы с ошибкой округления с плавающей запятой. Я передаю два значения, 0.205 и 0.205 (взятые из других чисел и спринт к ним) в модуль...
490 просмотров
rounding floating-point statistics perl floating-accuracy
schedule 03.08.2023
Двойки с округлением - 0,5 - спринтф
Я использую следующий код для округления до 2dp: sprintf(temp,"%.2f",coef[i]); //coef[i] returns a double Он успешно округляет 6,666 до 6,67, но неправильно работает при округлении 5,555. Он возвращает 5,55, тогда как должен (по крайней...
13113 просмотров
c++ rounding printf
schedule 10.05.2024
Есть ли какая-нибудь функция Java или класс util, который округляет таким образом: func (3/2) = 2?
Есть ли какая-нибудь функция Java или утилита class , которая округляет таким образом: func(3/2) = 2 Math.ceil() не помогает, что, по названию, должно было сделать. Я знаю BigDecimal , но мне это не нужно.
32657 просмотров
java rounding ceil
schedule 24.08.2023
Округление числа в меньшую сторону в Visual Basic
У меня есть приложение Visual Basic, которому необходимо округлить число в меньшую сторону, например, 2,556 станет 2,55, а не 2,26. Я могу сделать это, используя функцию для удаления символов более 2 прямо из десятичной точки, используя это:...
53424 просмотров
vb.net rounding math
schedule 28.06.2022
Правило Oracle Bankers
Почему Oracle не использует правило банкиров (метод округления)?
4862 просмотров
oracle rounding numbers
schedule 17.05.2023
Округление чисел с плавающей запятой с неточным представлением
У нас есть проблема с округлением чисел с плавающей запятой для некоторых финансовых расчетов. По сути, мы хотим округлить денежные суммы, например 1000000000,555, до 2 десятичных знаков. Однако числовое представление этого числа с плавающей...
646 просмотров
c rounding finance
schedule 24.06.2023
Округление результата деления в Javascript
Я выполняю следующую операцию в Javascript: 0.0030 / 0.031 Как округлить результат до произвольного числа разрядов? Какое максимальное число может содержать var ?
13531 просмотров
javascript rounding
schedule 22.06.2023
Время округления до ближайшего 15-минутного интервала в Excel
У меня есть таблица Excel со столбцом, в котором указаны дата и время определенного события. Я хотел бы округлить это до ближайшего 15-минутного интервала, чтобы я мог подсчитать общее количество событий за этот период. Как лучше сделать округление?
82202 просмотров
excel datetime rounding
schedule 25.06.2023
Как использовать Round с DataView RowFilter?
Я использую DataView.RowFilter для фильтрации DataView, и я хотел бы сравнить округленные двойные значения, а не полные двойные значения. Например, значения в столбце «Значение» являются двойными с большой точностью, тогда как значения, с которыми я...
2228 просмотров
asp.net rounding dataview
schedule 15.01.2023
Как правильно отображать цену до двух знаков после запятой (центов), включая конечные нули в Java?
Есть хороший вопрос об округлении десятичных знаков в Java здесь . Но мне было интересно, как я могу включить конечные нули для отображения цен в моей программе, например: 1,50 доллара, 1,00 доллара. Простое решение String.format("%.2g%n",...
27813 просмотров
java rounding double decimal-point
schedule 09.02.2024