4

我在我的图形计算器上进行了一次测试,以检查浮点错误,经过 48 小时的完全随机性,计算器没有丢失一个数字的精度。

TI 是如何实现这一目标的?

4

1 回答 1

5

TI-89 和 TI-92 通过使用符号计算准确存储值来避免错误。

实际的浮点计算(89/92 上的“近似”模式)确实有错误。它们更难被注意到,因为 TI 计算器显示的数字比它们存储的数字少。此外,他们使用十进制而不是二进制。

例如,如果您1/3*3-1在 TI-89 上以“近似”模式输入表达式,您将得到答案,⁻1.ᴇ⁻14而不是0在精确模式下得到答案。在内部,计算如下:

  • 1/3给出0.33333333333333,四舍五入到 14 位有效数字。
  • 乘以 3 得到0.99999999999999。由于四舍五入,这显示为1.
  • 减去 1 得到-0.00000000000001,或 -1e-14。
于 2012-02-29T00:57:58.273 回答