2

在划分两个浮点值时，由于精度错误，我得到了不正确的答案。例如， 1001.05 / 5.0 应该等于 200.21 ，但我得到了 200.2099999999。

正确的结果是使用我们数学库中的除法函数而不是“/”获得的。那么这个库函数做了哪些额外的事情来纠正精度错误呢？您可以解释或指出有关用于纠正精度误差的标准算法的信息，该函数必须使用该算法。

4

1 回答 1

6

Your math library is not using floats, or is rounding the result when you print it out. 200.21 cannot be precisely represented with standard floating point numbers.

于 2012-05-21T09:09:14.093 回答