1

可能重复：
浮点不准确示例

我正在解析 xlsx 文件并遇到了这种行为。如果不描述重现问题的步骤，我不知道如何解释它。

 1.  Create new blank Excel file (xlsx)
 2.  Type '8.8' into cell A1
 3.  Save file
 4.  Close Excel, rename file with .zip extension and open
 5.  Find sheet1.xml and open
 6.  Value for 8.8 in A1 will be saved as '8.8000000000000007'

这给我带来了一个问题，因为当我解析 Excel 文件时，我想获取输入的值，'8.8' 而不是 '8.8000000000000007'。

有谁知道Excel为什么这样做？

编辑：当我打开该文件以仅显示“8.8”而不显示“8.8000000000000007”时，Excel 怎么知道？Excel 是否在特定的小数位四舍五入？

4

1 回答 1

3

具有有限十进制表示的浮点数不一定具有有限二进制表示。转换是有损的。

因为 8.8 是分母 (5) 不是 2 的幂的分数，所以它的二进制浮点表示是无限的。应用程序用来存储它的底层数据类型（在本例中为 Excel）是有限精度的，因此表示被截断。

于 2012-10-12T15:50:22.537 回答