Двоичные значения представлены в форме 2-секундного дополнения. Если я должен добавить 110001 (-15) и 101110 (-18), а ответ должен быть сохранен в виде 6-битного целого числа, является ли это недополнением/переполнением.

Почему потеря значимости при делении возникает только тогда, когда делитель намного меньше делимого, разве это не должно происходить в любое время, когда знаменатель достаточно близок к нулю, независимо от размера дивиденда?

Вычисление в моем коде на C приводит к постепенному потере значимости, и когда это происходит, программа завершается с SIGFPE. Как я могу сбросить результат до нуля, когда в результате вычислений возникает постепенное недополнение (Denormal), а не...

Это кажется простым, но у меня много проблем с ответом на следующий вопрос: Задайте два числа X и Y, представленные в формате IEEE754, так что вычисление X-Y приведет к потере значимости. Насколько я понимаю, каждая операция потенциально может...

Я реализовал алгоритм MCMC на C++, используя библиотеку Eigen. Основная часть алгоритма представляет собой цикл, в котором сначала выполняются некоторые матричные вычисления, после чего получается определитель полученной матрицы и добавляется к...

Я знаю, что такое переполнение буфера . Однако я понятия не имею, что такое опустошение буфера . Я предполагаю, что это когда конкретный буфер получает вместо переполнения байтов недополнение байтов. char buffer[8]; fgets(buffer,...

Кто-нибудь знает, как обойти следующую ошибку в Postgres? ОШИБКА: значение вне диапазона: потеря значимости КОНТЕКСТ: Функция PL/pgSQL pgnumerics.poisspdf(двойная точность,двойная точность) строка 1 при назначении Функция PL/pgSQL...

Я попадаю в ситуацию, когда вычисление 1.77e-308/10 вызывает исключение потери значимости, а вычисление 1.777e-308/10 — нет. Это странно, потому что: Потеря значимости происходит, когда истинный результат операции с плавающей запятой...

Рассмотрим этот код: import numpy numpy.seterr(under='warn') x1 = 1 + 1j / (1 << 533) x2 = 1 - 1j / (1 << 533) y1 = x1 * 1.1 y2 = x2 * 1.1 z1 = x1 / 1.1 z2 = x2 / 1.1 print(numpy.divide(1, x1)) # 1-3.55641399918e-161j #...

Есть ли в стандартной библиотеке С++ какие-либо функции, которые вычисляют логарифм суммы экспонент? Если нет, то как мне написать свой собственный? Есть ли у вас предложения, не упомянутые в этой вики-статье ? Меня особенно беспокоит...

У меня возникла странная проблема в моем коде, и у меня никогда не было такой проблемы раньше. У меня есть программа, которая вычисляет два тела, движущихся по орбите под действием собственной гравитации и внутри цикла выполнения, который я использую...

Здесь у меня есть «e», который представляет собой массив массивов. e[i].val() возвращает длинное значение (положительное или отрицательное). Моя цель - сложить все эти значения и вернуть среднее значение. Проблема в том, что общая сумма...

Я программирую библиотеку с несколькими экземплярами длинных математических формул, которые иногда теряют значение при использовании двойных значений. Одним из примеров может быть: (Exp(-a*a) - Exp(-b*b))*Exp(c)*Exp(d) И a, b, c, d также...

По какой-то злой причине мне нужно вычислить логарифм суммы 500 сверхмалых вероятностей, каждый член вычисляется dmvnorm(X[,i], mean=rep(0,3), sigma=diag(3)) Иногда приведенные выше коды возвращают 0 из-за потери значимости, но можно...