我正在尝试使用 fmod 函数，但没有得到我期望的结果。
问问题
500 次
3 回答
6
由于浮点不精确，它实际上返回 9.299999999999994。55.8 或 9.3 都不能精确地表示为以 2 为底的浮点数。
这是一个非常普遍的问题。一个很好的参考是What Every Computer Scientist Should Know About Floating-Point Arithmetic。
于 2012-08-16T17:15:18.947 回答
4
像大多数十进制分数一样，这些数字不能完全表示为二进制浮点值。假设 最常见的实现double，实际值大约是：
55.799999999999997158
和：
9.3000000000000007105
这些不完全划分，结果fmod大约是：
9.2999999999999936051
9.3显示到小数点后四舍五入。
这些值是使用以下 C++ 程序生成的：
#include <iostream>
#include <iomanip>
#include <cmath>
int main()
{
std::cout << std::setprecision(20);
double a = 55.8;
double b = 9.3;
std::cout << a << std::endl;
std::cout << b << std::endl;
std::cout << fmod(a,b) << std::endl;
}
于 2012-08-16T17:20:06.893 回答
1
您期望它接近 6 的事实意味着您的问题不是您不了解舍入，而是您不知道fmod实际做了什么。
fmod是除法的余数，而不是商。也就是说，它是减去除数的整数个副本后剩下的数量。在数学术语中，a = q*b + r、 其中q = int(a/b)和r = fmod(a, b)。
如果 a 和 b 正好是 55.8 和 9.3，那么 a/b 正好是 6，余数是 0。因此，您期望结果为 0 是完全合理的，并且在某些平台上，这可能是您实际得到的结果。
但是，在大多数平台上，可能最接近 55.8 和 9.3 的近似值大约是 55.799999999999997158 和 9.3000000000000007105（请参阅 Mark Ransom 的回答了解原因），这意味着商是 5.999999999999999，这意味着商的整数部分是 5，这意味着余数为 55.799999999999997158 - 9.3000000000000007105 * 5 = 9.299999999999997，显示为 9.3。
如果你仔细想想，这是有道理的。如果右余数为0，一个小的舍入误差不能使余数为1或6；实际上，所有可能的值都非常接近 0 或非常接近 9.3。（如果有帮助，请考虑模 9.3 算术，其中 0 和 9.3 是相同的数字。）
于 2012-08-16T17:46:14.630 回答