3

在我的引擎中，我有一个用于编写脚本的 Lua VM。在脚本中，我写了如下内容：

stage = stage + 1
if (stage == 5) then ... end

和

objnum = tonumber("5")
if (stage == objnum)

根据 Lua 来源，Lua 在比较双精度数时使用了一个简单的相等运算符，它使用的内部数字类型。

我知道处理浮点值时的精度问题，所以我想知道比较是否安全，即使用Lua默认的'=='操作简单地比较这些数字会有什么问题吗？如果是这样，我是否可以采取任何对策来确保 1+2 始终比较等于 3？将值转换为字符串会起作用吗？

4

4 回答 4

11

如果您只关心某些情况下的相等性，则最好转换为字符串然后比较结果。例如：

> print(21, 0.07*300, 21 == 0.07*300, tostring(21) == tostring(0.07*300))
21      21      false   true

当我给我的学生分配这些数字（0.07 和 300）并要求他们实施一个单元测试时，我学到了这个艰难的方法，然后抱怨 21 不等于 21 惨遭失败（它是在比较实际数字，但显示字符串化的值）。这是我们讨论比较浮点值的一个很好的理由。

于 2012-09-07T15:12:44.317 回答
2

我可以用来确保 1+2 总是比较等于 3？

你不用担心。Lua 中的数字类型是double，它可以容纳比 a 更多的整数long int。

于 2012-09-08T04:23:01.927 回答
1

在某些情况下，双打的比较和基本操作是安全的。特别是如果数字及其结果可以精确表达 - 包括所有低值整数。

所以2+1 == 3双打就好了。

pow注意：我相信某些数学函数（如and ）甚至有一些保证sqrt，如果您的编译器/库尊重这些，那么sqrt(4.0)==2.0或4.0 == pow(2.0,2.0)将可靠地为真。

于 2012-09-07T11:16:18.633 回答
1

默认情况下，Lua 是用 c++ 浮点数编译的，在幕后数字比较归结为 c/c++ 中的浮点比较，这确实是有问题的，并且在几个线程中讨论过，例如most-effective-way-for-float-and-double -比较。

Lua 通过将所有数字（包括 c++ 整数）转换为浮点数，只会使情况变得更糟。所以你需要记住它。

于 2012-09-07T14:08:03.663 回答