问题标签 [underflow]
For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.
floating-point - 使用减法导致 ieee-754 浮点格式下溢
这似乎很基本,但我在回答以下问题时遇到了很多麻烦:
给出以 IEEE754 格式表示的两个数字 X 和 Y,这样计算 XY 将导致下溢。
据我了解,每个操作都可能导致下溢,但在我的一生中,我找不到减法的例子。
请帮忙!!!谢谢
c++ - 计算许多数字的几何平均值的有效方法
我需要计算大量数字的几何平均值,其值不受先验限制。天真的方法是
但是,这很可能会因为累积的下溢或溢出而失败product
(注意:long double
并没有真正避免这个问题)。因此,下一个选项是总结对数:
这可行,但需要std::log()
每个元素,这可能很慢。我可以避免吗?例如,通过分别跟踪(相当于)累积的指数和尾数product
?
c# - 未选中不工作
我只是在 c# 中尝试了一些示例问题,然后遇到了以下问题
在上述情况下,即使下溢/溢出发生在未经检查的块内,它也会抛出异常。请帮忙 。
c++ - 在 Eigen 中获取大矩阵的行列式时避免数值下溢
我已经使用 Eigen 库在 C++ 中实现了 MCMC 算法。该算法的主要部分是一个循环,其中首先执行一些矩阵计算,然后获得结果矩阵的行列式并将其添加到输出中。例如:
现在,在某些矩阵上,我不幸观察到数值下溢,因此行列式输出为零(实际上不是)。
我怎样才能避免这种下溢?
一种解决方案是获取行列式的对数,而不是行列式。然而,
- 我不知道该怎么做;
- 我怎么能把这些日志加起来?
任何帮助是极大的赞赏。
c - 下溢然后溢出无符号变量是否不好?
克拉阿。
我是一所编程学校的学生,要求我们用少于 25 行代码编写 C 函数。所以,基本上,每一行都很重要。有时,我需要像这样缩短作业:
这段代码的重要部分是size_t
名为 的计数器i
。为了节省几行代码,我想在循环的条件下预先增加它。但是,只要 C 标准定义size_t
为无符号类型而言,我在这里所做的基本上是使i
变量下溢(从 0 到一个非常大的值),然后将它上溢一次(从那个大值到 0)。
我的问题如下:无论必须缩短代码的不良做法如何,将( ) 变量设置为 -1 然后在每次迭代时预递增它是否安全unsigned
size_t
以浏览数组是否安全?
谢谢!
c++ - 将字符串提取为标量时的 C++ 处理溢出/下溢
当从字符串提取数据到标量(char、short、int ...)时,我怎么能很容易地知道我想要获取的值是否超过了类型限制?
error-handling - Java 溢出和下溢,为什么没有错误或异常?
为什么 Java 创建者决定在溢出或下溢发生时不抛出任何错误或异常,考虑到这种情况通常对任何软件都是致命的。
python - Python中的下溢问题
我需要绘制以下函数,也就是我所说的理论数据
对于以下情况,a=z-(L/2) b=z+(L/2)
- N=75
- 我=1
- L=0.16
- R=0.013
z 在 -0.011 和 0.011 之间。我的猜测是存在下溢问题。代码如下
输出是
这是完全错误的。预期的输出与实验数据一起或多或少是一条平滑的线:
更新新输出是
matlab - Matlab中的下溢
手动将具有大负指数(如 1e-300)的数字设置为零以避免 Matlab 中的下溢是一种好习惯吗?
如果不是,我们在实现 log(1+exp(x)) 等函数时如何避免下溢的危害?