Find centralized, trusted content and collaborate around the technologies you use most.
Teams
Q&A for work
Connect and share knowledge within a single location that is structured and easy to search.
当使用 IEEE 754 浮点数 a 和 b 进行评估时,就 (a - b) + b 之和的 a 和 b 的大小而言,最坏情况下的误差是多少?我可以期望它有多接近?
100%。b可能大到a-b产生-b,然后(a-b)+b产生零。
b
a-b
-b
(a-b)+b
例如,对于 IEEE-754 基本 64 位二进制,(1−2 54 )+2 54产生 0,具有舍入到最近的偶数。我们也可以在另一个方向上 100%。如果a是 1 并且b是 2 53 +2,则(a-b)+b产生 2。
a
此外,如果b是无穷大,则(a-b)+b产生 NaN。