1

例如,如果我以 pi 为例,找到一个从 1 到 1000 的随机数,然后将 pi 除以该数字。然后,将 pi 乘以该数字。

这会导致浮点错误吗?

(并且,处理器上可接受的错误是什么?)

4

2 回答 2

0

是的,这几乎肯定会导致错误(从某种意义上说,结果与原始值不同)。

如果您想找到错误,那么(在这种情况下)有什么问题original - final

于 2012-02-29T00:40:22.763 回答
0

您的问题非常广泛——太广泛了,无法在 Stack Overflow 上的几段中回答。相反,请尝试阅读这篇著名的论文,题为“What every Computer Scientist Should Know About Floating Point Arithmetic”:

http://www.math.umd.edu/~jkolesar/mait613/floating_point_math.pdf

于 2012-02-29T00:41:14.140 回答