0

我有一个包含缩放整数的数据库,最长的是 10 位数。我试图在 Excel 中将这些转换为十进制值,将小数点左移 4 位,即除以 10000。

鉴于这些整数目前低于 15 位有效数字限制,并且将保持如此,我是否有可能遇到舍入错误?

4

1 回答 1

0

是否有可能遇到舍入错误?

严格来说我认为是的。例如:

SO21916134 示例

但可能重要的是,如图所示的差异(所有格式都相同,由公式创建的较小的黑色,由上面的差异创建的红色)在小数点后十位,所以希望不是问题。

于 2014-02-20T21:49:54.437 回答