Вопросы по теме 'decimal'

Как отобразить десятичное значение с точностью до 2 знаков после запятой?
При отображении значения десятичной дроби в настоящее время с .ToString() , оно соответствует 15 десятичным разрядам, и, поскольку я использую его для представления долларов и центов, я хочу, чтобы результат был только двумя десятичными знаками....
1170534 просмотров
.net c# format decimal
schedule 02.03.2022
Проблемы с десятичными разрядами с числами с плавающей запятой и десятичными числами.
Кажется, я теряю точность с поплавками. Например, мне нужно решить матрицу: 4.0x -2.0y 1.0z =11.0 1.0x +5.0y -3.0z =-6.0 2.0x +2.0y +5.0z =7.0 Это код, который я использую для импорта матрицы из текстового файла: f = open('gauss.dat')...
19146 просмотров
python decimal floating-point floating-accuracy
schedule 29.05.2023
Десятичная и двойная скорость
Я пишу финансовые приложения, в которых постоянно противостою решению использовать двойное или десятичное. Вся моя математика работает с числами с не более чем 5 десятичными знаками и не более ~ 100000. У меня такое ощущение, что все это в любом...
26006 просмотров
decimal finance double
schedule 02.08.2022
Количество десятичных знаков по умолчанию для вывода в PHP
Я работаю с php в своем ящике разработчика дома, где у меня есть элементарная установка LAMP. Когда я просматриваю свой веб-сайт на своем домашнем ящике, любые числа, которые я повторяю, автоматически усекаются до минимально необходимой точности....
10618 просмотров
php decimal numbers
schedule 01.07.2023
Производительность C # Decimal типа данных
Я пишу финансовое приложение на C #, где производительность (то есть скорость) имеет решающее значение. Поскольку это финансовое приложение, мне приходится интенсивно использовать тип данных Decimal. Я максимально оптимизировал код с помощью...
24268 просмотров
c# performance decimal
schedule 26.06.2023
Как рассчитать проценты с десятичными знаками в SQL?
Как я могу преобразовать это в десятичное число в SQL? Ниже приведено уравнение, и я получаю ответ как 78 (целое число), но реальный ответ — 78,6 (с десятичным числом), поэтому мне нужно показать это, иначе отчет не будет соответствовать 100%...
79527 просмотров
sql decimal sum
schedule 16.02.2023
Как в SQL преобразовать денежный тип данных в десятичный?
Я хочу преобразовать денежный тип данных в десятичный, потому что я хочу записать результаты до 8 знаков после запятой. Например, в таблице курсов валют я вижу курс, хранящийся как 2871047428,20, как денежный тип данных; используя Microsoft SQL...
64551 просмотров
types sql decimal currency
schedule 06.02.2023
Как читать и обрабатывать двоичные (с основанием 2) логические представления из файла
У меня есть файл, содержащий 800 строк, например: id binary-coded-info --------------------------- 4657 001001101 4789 110111111 etc. где каждый 0 или 1 означает наличие некоторой функции. Я хочу прочитать этот файл и выполнить...
1906 просмотров
python shell binary decimal awk
schedule 29.11.2022
Как преобразовать десятичную дробь в двоичную в Java?
Мне нужно преобразовать 0,5 по основанию 10 в основание 2 (0,1). я пытался использовать Double.doubleToRawLongBits(0.5) и он возвращает 4602678819172646912 , который, я думаю, находится в шестнадцатеричном формате, но для меня это не имеет...
7694 просмотров
java binary decimal
schedule 27.03.2024
Когда мне следует использовать двойное вместо десятичного числа?
Я могу назвать три преимущества использования double (или float ) вместо decimal : Использует меньше памяти. Быстрее, потому что математические операции с плавающей запятой изначально поддерживаются процессорами. Может представлять...
57132 просмотров
types c# decimal double floating-point
schedule 28.01.2023
Преобразуйте действительно большое число из двоичного в десятичное и распечатайте его
Я знаю, как преобразовать двоичное в десятичное. Я знаю как минимум 2 метода: настольный и силовой ;-) Я хочу преобразовать двоичное число в десятичное и распечатать это десятичное число. Более того, меня не интересует эта "десятичная дробь"; Я...
8286 просмотров
c binary decimal bignum bcd
schedule 26.12.2022
Регулярное выражение для десятичного числа
Мне нужно проверить ввод textbox , и я могу разрешить только десятичные вводы, такие как: X,XXX (только одна цифра перед десятичным знаком и точность 3). Я использую C# и попробую это ^[0-9]+(\.[0-9]{1,2})?$ ?
131245 просмотров
c# regex decimal
schedule 10.04.2024
Почему я не могу распаковать int как десятичное?
У меня есть IDataRecord reader , из которого я получаю десятичную дробь следующим образом: decimal d = (decimal)reader[0]; По какой-то причине это вызывает недопустимое исключение приведения, говоря, что «Указанное приведение...
23878 просмотров
c# decimal int unboxing
schedule 12.07.2022
xsl обрезать десятичное число
У меня есть файл xml с xsl, в котором я пытаюсь изменить способ отображения чисел. В xml все числа в формате 00:12:34 Мне нужно удалить первые 2 нуля и двоеточие и просто отобразить 12:34 Я не уверен, использую ли я подстроку или десятичный...
2518 просмотров
decimal xslt
schedule 30.04.2023
Добавить десятичную точку 2 символа справа под PHP
У меня есть большой массив, содержащий множество элементов, содержащих числовые данные. Пример: 3200 34300 1499 12899 Я хочу преобразовать их в: 32.00 343.00 14.99 128.99 Как я могу добиться этого элегантно в PHP, не используя...
11015 просмотров
php decimal point
schedule 07.04.2023
Преобразование представления из десятичного в числа с плавающей запятой - подводные камни
Я работаю над некоторыми функциями в финансовом приложении. Все числа представлены в виде десятичных знаков без ошибок округления как в коде, так и в базе данных. Однако у меня проблемы с производительностью, и я подумываю о переходе на числа с...
370 просмотров
decimal floating-point
schedule 04.12.2023
Отбросьте значение 0 в десятичных разрядах
Я хочу спросить, знает ли кто-нибудь запрос, чтобы отбросить значение 0 в десятичном виде. Например: Процент имени поля имеет эти значения Процентов 770.00000000000000000000, 340.670000000000000000000, 96.00000000000000000000,...
6623 просмотров
sql decimal
schedule 24.11.2022
DECIMAL против INT, какой лучший оптимизированный выбор?
Я уверен, что этот запрос неполный без точного контекста, поэтому я попытаюсь объяснить его, и я постараюсь быть ясным Мне нужно хранить все данные, представленные на странице в граммах, миллиграммах , микрограммы и килоджоули. Все эти данные...
7050 просмотров
mysql php types decimal integer
schedule 24.02.2023
С++ конвертирует десятичные часы в часы, минуты и секунды
У меня есть некоторое количество миль и скорость в милях в час, которую я преобразовал в количество часов, необходимых для преодоления этого расстояния с этой скоростью. Теперь мне нужно преобразовать это десятичное число в часы, минуты и секунды....
12660 просмотров
c++ time decimal
schedule 09.03.2022
Подкласс десятичной дроби в Python
Я хочу использовать класс Decimal в своей программе Python для финансовых расчетов. Десятичные числа не работают с числами с плавающей запятой - сначала требуется явное преобразование в строки. Поэтому я решил создать подкласс Decimal, чтобы иметь...
3227 просмотров
python decimal subclassing
schedule 20.03.2023