例如,如果我以 pi 为例,找到一个从 1 到 1000 的随机数,然后将 pi 除以该数字。然后,将 pi 乘以该数字。
这会导致浮点错误吗?
(并且,处理器上可接受的错误是什么?)
例如,如果我以 pi 为例,找到一个从 1 到 1000 的随机数,然后将 pi 除以该数字。然后,将 pi 乘以该数字。
这会导致浮点错误吗?
(并且,处理器上可接受的错误是什么?)
是的,这几乎肯定会导致错误(从某种意义上说,结果与原始值不同)。
如果您想找到错误,那么(在这种情况下)有什么问题original - final
?
您的问题非常广泛——太广泛了,无法在 Stack Overflow 上的几段中回答。相反,请尝试阅读这篇著名的论文,题为“What every Computer Scientist Should Know About Floating Point Arithmetic”:
http://www.math.umd.edu/~jkolesar/mait613/floating_point_math.pdf