Find centralized, trusted content and collaborate around the technologies you use most.
Teams
Q&A for work
Connect and share knowledge within a single location that is structured and easy to search.
我有一个包含缩放整数的数据库,最长的是 10 位数。我试图在 Excel 中将这些转换为十进制值,将小数点左移 4 位,即除以 10000。
鉴于这些整数目前低于 15 位有效数字限制,并且将保持如此,我是否有可能遇到舍入错误?
是否有可能遇到舍入错误?
严格来说我认为是的。例如:
但可能重要的是,如图所示的差异(所有格式都相同,由公式创建的较小的黑色,由上面的差异创建的红色)在小数点后十位,所以希望不是问题。