我知道浮点数很棘手。但是今天我遇到了一个我无法解释的案例(并且无法使用独立的 C++ 代码重现)。
大型项目中的代码如下所示:
int i = 12;
// here goes several function calls passing the value i around,
// but using different types (due to unfortunate legacy code)
...
float f = *((float*)(&i)); // f=1.681558e-44
if (f == 0) {
do something;
} else {
do something else;
}
这段代码会导致随机行为。使用gdb,可以确定随机行为是由于比较f == 0
给出随机结果,即有时为真,有时为假。代码中的错误是,在使用之前f
,它应该检查 4 字节是否应该被解释为整数(使用其他辅助信息)。解决方法是先将其转换回整数,然后将整数与 0 进行比较。然后问题就解决了。
此外,如果需要进行浮点数比较(在这种情况下,浮点数不是如上所示从整数转换),我还将比较更改为abs(f) < std::numeric_limits<float>::epsilon()
, 以更安全。
之后,我也想用一个简单的测试程序来重现它,但似乎我无法重现它。(但用于项目的编译器与我用于编译测试程序的编译器不同)。以下是测试程序:
#include <stdio.h>
int main(void){
int i = 12;
float f = *(float*)(&i);
for (int i = 0; i < 5; ++i) {
printf("f=%e %s\n", f, (f == 0)? "=0": "!=0");
}
return 0;
}
我想知道,与零比较的随机行为可能是什么原因?