3

我有这个测试代码：

class Test
{
    static void Main()
    {
        decimal m = 1M / 6M;
        double d = 1.0 / 6.0;

        decimal notQuiteWholeM = m + m + m + m + m + m; // 1.0000000000000000000000000002M
        double notQuiteWholeD = d + d + d + d + d + d;   // 0.99999999999999989

        Console.WriteLine(notQuiteWholeM); // Prints: 1.0000000000000000000000000002
        Console.WriteLine(notQuiteWholeD); // Prints: 1.

        Console.WriteLine(notQuiteWholeM == 1M);  // False
        Console.WriteLine(notQuiteWholeD < 1.0);   // Prints: True. Why?

        Console.ReadKey();
    }
}

为什么这一行打印 1？

Console.WriteLine(notQuiteWholeD); // Prints: 1

一个这个，为什么打印True？

测试类输出

是否有自动舍入过程？我该怎么做才能打印正确/计算的值？

[注意：我在 Nutsheel第 30 页的 C# 5.0 中找到了这个示例代码：实数舍入错误]。

提前致谢。

4

3 回答 3

9

不像其他两个答案那样阅读你的问题。它的要点：doubleC# 中“圆形”的格式化字符串表示形式吗？

是的。

在内部double以完整的 IEEE-754 十进制数字精度（15-17 位）表示，这就是为什么：

notQuiteWholeD < 1.0 == true    // because notQuiteWholeD = 0.99999999999999989

但是，当将其格式化为字符串时，默认情况下它将使用 15 位精度 - 相当于：

String.Format("{0:G15}", notQuiteWholeD)   // outputs "1"

要获取完整内部表示的所有数字，您可以使用：

Console.WriteLine("{0:G17}", notQuiteWholeD);

或者：

Console.WriteLine("{0:R}", notQuiteWholeD);

在这种情况下，两者都将输出“0,99999999999999989”。

前者将始终使用 17 位精度。后者（“往返精度”）将使用 15 位数字，如果这足以满足以下条件，则将使用 17 位：

Double.Parse(String.Format("{0:G15}", notQuiteWholeD)) == notQuiteWholeD

奖励示例： ......何时G17和R不同：

Console.WriteLine("{0:G17}", 1.0000000000000699); // outputs "1.0000000000000699"
Console.WriteLine("{0:R}",   1.0000000000000699); // outputs "1.00000000000007"

1.0000000000000699（17 位有效数字）可以准确地表示为仅使用 15 位有效数字的往返。换句话说， 的double表示1.00...07与 for 相同1.00...0699。

因此1.00...07（15 位）是获得完全相同的内部（17 位）表示的较短输入。这意味着R将其四舍五入为 15 位，同时G17保留内部表示的所有数字。

意识到这一点时可能会更清楚：

Console.WriteLine("{0:G17}", 1.00000000000007); // outputs "1.0000000000000699"
Console.WriteLine("{0:R}",   1.00000000000007); // outputs "1.00000000000007"

...给出完全相同的结果。

于 2013-08-06T23:58:06.923 回答
5

Decimal以 10 Double为基数存储。以 2 为基数存储。这些基数都不能用有限的表示精确地表示 1 / 6。

这解释了除Console.WriteLine(notQuiteWholeD). 即使存储的实际值小于 1，您也会得到“1”作为输出。由于输出以 10 为底，它必须从 2 为底进行转换。部分转换包括舍入。

于 2013-08-06T23:20:45.103 回答
3

我们知道，1/6 = 0.1666（重复），decimal不能double 代表重复的数字，它们是在赋值时计算的。由于它们是由不同的支持数据结构构建的，它们代表一组不同的可能数字，并且在某些情况下以不同的方式舍入。

对于此代码：

Console.WriteLine(notQuiteWholeD < 1.0);   // Prints: True. Why?

因为notQuiteWholeD它0.99999999999999989打印的是真的。

我不打算介绍幕后的工作原理，但如果您有兴趣，这里有一些阅读材料double。decimal

于 2013-08-06T23:11:15.950 回答