所以我有一个如下所示的excel表：（我已经取出了所有不相关的信息）
列D是一个公式，已经被拖到所有单元格（改变行号）：
=IF(A2 = "",$D1-C2,A2 - C2)
如果您看到单元格D6，您会注意到它有某种错误。我已经包括了 2 个例子。表格的下半部分使用相同的公式可以正常工作。第一部分不起作用，我假设它是因为 0.985，它似乎只发生在它高于 0.9 但低于 1 时。
有没有人能够帮助找出问题所在？
问问题
162 次
2 回答
2
看起来像浮点数的舍入错误（有关更多信息，请参阅IEEE 浮点数）。round您可以通过使用特定数量的小数位
来解决此问题，例如round(D6, 3)，如果您需要，将 D6 舍入到小数点后 3 位以获得更好的精度。
于 2013-02-13T07:18:20.493 回答
1
这不是错误，这是科学记数法。它显示的值是3.33*10^(-16), 或 0.00000000000000333067 （希望我算对了）。
这基本上是一个舍入错误。如果您希望该列显示接近零的值为零，则将该列格式化为具有有限小数位数的数字。
于 2013-02-13T07:13:39.663 回答