0

可能重复:
为什么 Visual Studio 2008 告诉我 .9 - .8999999999999995 = 0.00000000000000055511151231257827?
为什么像 1.82 这样的简单双打最终会变成 1.819999999645634565360?

当我编译并运行以下程序时,我得到了一个非常奇怪的行为:

#include <iostream>

#define DIV 10000ll

long long gcd(long long a, long long b) {
  if(b==0) return a;
  else return gcd(b, a % b);
}

int main() {
  int t;
  std::cin >> t;
  while(t--) {
    double n1;
    std::cin >> n1;
    long long inum=(long long)(n1*DIV);
    std::cout << inum << std::endl;
    if(inum==0) { std::cout << 1 << std::endl; }
    else std::cout << DIV/gcd(inum,DIV) << std::endl;
  }
  return 0;
}

当我作为输入输入时:

1
0.0006

我得到输出

5
2000

这意味着:(long long)0.0006*10000等于 5 而不是 6。为什么会这样?

4

3 回答 3

7

0.0006 不能完全表示为双精度数。最有可能存储的实际结果类似于 0.00059999999... 当此值乘以 10000 时,它给出的数字略小于 6。将其转换为整数类型会将其截断(向下舍入)为 5。

这不是奇怪的行为。这就是浮点运算的工作原理。如果你想得到值 6,你应该四舍五入到最接近的整数而不是截断。

有关的

于 2012-11-09T20:16:11.330 回答
2

我的猜测是它与浮点精度有关。.0006 可能类似于计算机中的 .0005999999999,然后将其乘以 10,000,然后将其转换为 long,这样会去掉小数,因此 5.999999 变为 5。

于 2012-11-09T20:17:41.297 回答
0

尝试使用 along double相反,它是一个浮点精度错误,修复它的简单方法是使用更精确的浮点类型。除非它是截断错误,在这种情况下,您需要在投射前四舍五入。

于 2012-11-09T20:18:15.483 回答