IEE754(64 位)浮点应该正确表示 15 个有效数字,尽管内部表示有 17 个数字。有没有办法强制第 16 位和第 17 位数字为零?
参考: http: //msdn.microsoft.com/en-us/library/system.double (VS.80).aspx :。.
请记住,浮点数只能逼近十进制数,并且浮点数的精度决定了该数字逼近十进制数的准确度。默认情况下,Double 值包含 15 位精度的十进制数字,但内部维护最多 17 位数字。浮点数的精度有几个后果: . .
示例编号:d1 = 97842111437.390091
d2 = 97842111437.390076
d1 和 d2 的第 16 位和第 17 位小数不同,这不应该是重要的。寻找将它们强制归零的方法。即d1 = 97842111437.390000 d2 = 97842111437.390000