5

当我对每次递增0.1的双精度值使用Math.floor函数时，我遇到了一个奇怪的错误。

它仅以 0.1 的增量发生并从值 5 开始

示例： math.floor(4) 返回4但 math.floor(5) 返回4！！！

你可以自己试试，用这段简单的代码：

for i=3,7,0.1 do 
    print("val : "..i.." floor : "..math.floor(i))
end

这是上面代码的结果：

 Corona Simulator[1494:707] val : 3 floor : 3
 Corona Simulator[1494:707] val : 3.1 floor : 3
 Corona Simulator[1494:707] val : 3.2 floor : 3
 Corona Simulator[1494:707] val : 3.3 floor : 3
 Corona Simulator[1494:707] val : 3.4 floor : 3
 Corona Simulator[1494:707] val : 3.5 floor : 3
 Corona Simulator[1494:707] val : 3.6 floor : 3
 Corona Simulator[1494:707] val : 3.7 floor : 3
 Corona Simulator[1494:707] val : 3.8 floor : 3
 Corona Simulator[1494:707] val : 3.9 floor : 3
 Corona Simulator[1494:707] val : 4 floor : 4
 Corona Simulator[1494:707] val : 4.1 floor : 4
 Corona Simulator[1494:707] val : 4.2 floor : 4
 Corona Simulator[1494:707] val : 4.3 floor : 4
 Corona Simulator[1494:707] val : 4.4 floor : 4
 Corona Simulator[1494:707] val : 4.5 floor : 4
 Corona Simulator[1494:707] val : 4.6 floor : 4
 Corona Simulator[1494:707] val : 4.7 floor : 4
 Corona Simulator[1494:707] val : 4.8 floor : 4
 Corona Simulator[1494:707] val : 4.9 floor : 4
 Corona Simulator[1494:707] val : 5 floor : 4
 Corona Simulator[1494:707] val : 5.1 floor : 5
 Corona Simulator[1494:707] val : 5.2 floor : 5
 Corona Simulator[1494:707] val : 5.3 floor : 5
 Corona Simulator[1494:707] val : 5.4 floor : 5
 Corona Simulator[1494:707] val : 5.5 floor : 5
 Corona Simulator[1494:707] val : 5.6 floor : 5
 Corona Simulator[1494:707] val : 5.7 floor : 5
 Corona Simulator[1494:707] val : 5.8 floor : 5
 Corona Simulator[1494:707] val : 5.9 floor : 5
 Corona Simulator[1494:707] val : 6 floor : 5
 Corona Simulator[1494:707] val : 6.1 floor : 6
 Corona Simulator[1494:707] val : 6.2 floor : 6
 Corona Simulator[1494:707] val : 6.3 floor : 6
 Corona Simulator[1494:707] val : 6.4 floor : 6
 Corona Simulator[1494:707] val : 6.5 floor : 6
 Corona Simulator[1494:707] val : 6.6 floor : 6
 Corona Simulator[1494:707] val : 6.7 floor : 6
 Corona Simulator[1494:707] val : 6.8 floor : 6
 Corona Simulator[1494:707] val : 6.9 floor : 6
 Corona Simulator[1494:707] val : 7 floor : 6

如果它有帮助，如果我们对错误值的结果应用模 1，我们会得到以下结果：0.99999999999999

4

2 回答 2

4

浮点数是魔鬼。不要将它们用作循环计数器。 

for i = 30, 70 do 
    local i = i / 10
    print("val : "..i.." floor : "..math.floor(i))
end
于 2013-03-20T12:59:02.427 回答
4

确实这是一个常见的浮动问题，

这是我从电晕支持收到的官方回复：

你好，

您所看到的是浮点数的一般问题。Lua 中的所有数字都是浮点数，因此会出现舍入误差。将 0.1 添加到另一个浮点数并不完全是 0.1，并且在反复使用时会累积错误。当你认为数字是 5.0 时，它可能是 4.99999999999999999，所以 floor 返回 4。打印语句可能在打印前四舍五入。

数学库是标准 Lua 代码 (v5.1)，尚未针对 Corona 进行修改。

您可以搜索主题或浮点舍入问题，但通常在使用浮点数学时需要小心。

问候，汤姆

-- Corona Labs - 支持 support@coronalabs.com

于 2013-03-21T10:27:08.870 回答