floating-point - 在 Lua 中使用模数时不准确

Question

刚才我在 Lua 中使用了模 (%)，我注意到由于某种原因它非常不准确。我在魔兽世界中使用过它，但我认为它至少是最新的。

无论如何，使用以下示例，输出将为 1；

print((0.6/(0.1^(2-1)))%1)

但是当我使用以下内容时，它会返回 0；

print((0.6*(10^(2-1)))%1)

而据我所受的教育，0.6/0.1 应该相当于 0.6*10。

这不是一个真正的问题或问题，但我只是对原因感到好奇。在我看来，数学上的不准确性将是毁灭性的。

score 7 · Accepted Answer

如果您查看 Lua 手册，则%操作定义为

 a % b == a - math.floor(a/b)*b

所以表达

 6 - math.floor(6/1) * 1

将等于零。

但是，由于浮点数不准确（0.1不作为浮点数存在，最接近的应该是0.1000000014...），这些应该是您的中间结果：

> print(math.floor(0.6*10))
6
> print(math.floor(0.6/.1))
5

所以你得到

6 - 6 * 1 = 0
6 - 5 * 1 = 1

1 回答 1