Вопросы по теме 'significant-digits'
Округление до произвольного количества значащих цифр
Как можно округлить любое число (не только целые числа> 0) до N значащих цифр?
Например, если я хочу округлить до трех значащих цифр, я ищу формулу, которая могла бы принимать:
1,239,451 и доход 1,240,000
12.1257 и возврат 12.1
.0681 и...
40409 просмотров
schedule
08.06.2023
Есть ли способ получить значащие цифры десятичной дроби?
Обновлять
Хорошо, после некоторого расследования и во многом благодаря полезным ответам, предоставленным Джоном и Хансом, это то, что я смог собрать воедино. Пока я думаю, что это работает хорошо. Я, конечно, не ставлю свою жизнь на его полную...
4070 просмотров
schedule
08.04.2022
Как округлить число с плавающей запятой до указанного количества значащих цифр в Ruby?
Было бы неплохо иметь эквивалент R функция в руби.
Например:
>> (11.11).signif(1)
10
>> (22.22).signif(2)
22
>> (3.333).signif(2)
3.3
>> (4.4).signif(3)
4.4 # It's usually 4.40 but that's OK. R does not print the...
6841 просмотров
schedule
21.11.2022
Компактный обратный отсчет jQuery с двумя значащими цифрами
Когда я показываю компактный обратный отсчет с двумя значащими цифрами, он показывает что-то вроде:
«2d 12:00:00» и минуты/секунды останутся на «00» навсегда. Как я могу заставить его отображать что-то вроде: «2d 12h» вместо этого?
Как ни...
945 просмотров
schedule
14.09.2022
Сколько значащих цифр следует использовать для двойных литералов в Java?
Сколько значащих цифр следует использовать при определении литерала double в Java? Это предполагает, что я пытаюсь представить число с более значащими цифрами, чем может содержать двойное число.
В Math.java я вижу 20 и 21:
public static...
1102 просмотров
schedule
12.11.2022
Как заставить excel отображать определенное количество значащих цифр?
Я использую Excel, и я хочу отобразить значение для определенного количества значащих цифр.
Я попытался использовать следующее уравнение
=ROUND(value,sigfigs-1-INT(LOG10(ABS(value))))
где value заменено числом, которое я использую, а...
94690 просмотров
schedule
06.04.2023
Увеличить последнюю цифру числа
VB2010 У меня есть пользовательская форма, в которой пользователь вводит числовой формат. Затем подпрограмма циклически перебирает список пар чисел и отображает их в списке категорий:
User format "0.00"
0.00 - 164.04...
956 просмотров
schedule
06.09.2023
Округлите значения до определенной значащей цифры в R
Каким будет самый простой способ округлить значение до определенной значащей цифры?
Что-то вроде функции signif(), но выполнять округление только в большую сторону (а не в меньшую).
Например: округление 0,001145288 до 1 значащей цифры даст...
381 просмотров
schedule
05.10.2022
Lua значащие цифры
Я пытаюсь создать функцию, которая округляет число до определенного количества значащих цифр, заданных пользователем, например, если пользователь дает мне число
234.235534 с 5 значащими числами, функция должна вернуть 234,24
881 просмотров
schedule
03.04.2022
Округление до значащих цифр * только * с десятичной частью числа в R
Функция signif() округляет значения на основе определенного количества значащих цифр в данном значении. Однако функция применяется ко всем цифрам в числе, поэтому числа разных порядков округляются и усекаются по-разному. Например, с этим вектором...
2178 просмотров
schedule
20.03.2022
Как экспортировать список Mathematica в виде текстового файла с фиксированной шириной, сохраняя при этом сиг-фиги?
Мой первый вопрос: как мне экспортировать данные в формате с фиксированной шириной с помощью Mathematica? Мой второй вопрос заключается в том, как мне сохранить самые правильные 0.
Например, мне нравится сохранять {{1.12300, 11.12, 111.123},{2.1,...
870 просмотров
schedule
25.05.2022
Как округлить только числовые значения в кадре данных?
Я пытаюсь округлить все числовые значения в своем фрейме данных.
Проблема в том, что мой фрейм данных также включает строки, а не только в какой-либо конкретный столбец или строку. Я хочу избежать необходимости кодировать цикл, в котором я...
1525 просмотров
schedule
27.11.2022
Как получить первую значащую цифру из числа в Excel?
У меня есть столбец чисел в Excel 2016. Числа охватывают много порядков, но все они положительные. Некоторые меньше нуля. Как я могу вернуть первую значащую цифру каждой ячейки в новом столбце?
Например, для числа 1,9 результат должен быть 1. Для...
147 просмотров
schedule
03.04.2024
R formatC дает не тот же результат с тем же параметром
У меня есть числовое значение ( x1=0.01 ), которое я хочу отформатировать с двумя значащими цифрами:
> p_digits <- 2
> x1 <- 0.01
> str(x1)
num 0.01
> formatC(x1, format = "fg", digits = p_digits, flag = "#", big.mark = "'")...
95 просмотров
schedule
01.03.2023
Хранение отдельных битов в памяти
Итак, я хочу хранить в памяти случайные биты длиной от 1 до 8 (БАЙТ). Я знаю, что компьютер недостаточно эффективен, чтобы хранить отдельные биты в памяти, и что на большинстве современных машин мы должны хранить не менее байта данных. Я проводил...
219 просмотров
schedule
18.02.2022
Как установить диапазон ячеек для автоматического отображения точности данных?
Я искал простое решение, такое как правила условного форматирования, но не могу найти способ.
Мне нужен диапазон ячеек, скажем, столбец чисел, чтобы автоматически регулировать точность (число чисел после запятой) исключительно на основе...
7 просмотров
schedule
08.11.2022
Удалите цифры, представляющие нерелевантную точность, из числа с помощью JavaScript
Я ищу функцию в Javascript (или JQuery) для удаления цифр, представляющих нерелевантную точность из числа. Я рассчитываю оценочную вероятность, и это может быть диапазон значений — и точное десятичное число не очень важно — просто первое ненулевое...
105 просмотров
schedule
02.01.2023
