我在我的图形计算器上进行了一次测试,以检查浮点错误,经过 48 小时的完全随机性,计算器没有丢失一个数字的精度。
TI 是如何实现这一目标的?
我在我的图形计算器上进行了一次测试,以检查浮点错误,经过 48 小时的完全随机性,计算器没有丢失一个数字的精度。
TI 是如何实现这一目标的?
TI-89 和 TI-92 通过使用符号计算准确存储值来避免错误。
实际的浮点计算(89/92 上的“近似”模式)确实有错误。它们更难被注意到,因为 TI 计算器显示的数字比它们存储的数字少。此外,他们使用十进制而不是二进制。
例如,如果您1/3*3-1
在 TI-89 上以“近似”模式输入表达式,您将得到答案,⁻1.ᴇ⁻14
而不是0
在精确模式下得到答案。在内部,计算如下:
1/3
给出0.33333333333333
,四舍五入到 14 位有效数字。0.99999999999999
。由于四舍五入,这显示为1.
-0.00000000000001
,或 -1e-14。