0

我了解什么是下溢以及基于此的下溢何时发生。

但是，我的问题是，鉴于发生了下溢，是什么决定了精度损失的数量？

我正在用 C++ 计算一个数组，我确实看到了一些数值错误，例如1.333e-18数组实际上应该0无处不在。但是，整个数组的数值误差是不同的。是否有确定精度损失量的规则？

4

0 回答 0