excel - Excel机器ε比较

Question

所以我了解到 Excel 中的机器 epsilon 是 2^(-1022) Get Machine epsilon in Microsoft Excel

假设我在单元格 A1 中有：=1+2^-1022

=1=A1返回TRUE

我究竟做错了什么？

Answer 1

您应该阅读对该问题的所有评论。你的答案在那里：

Microsoft 定义了 XL 的浮点数精度限制。最小的浮点数在 Microsoft 支持文章 ID：78113 中列为 2.2250738585072E-308。当我在电子表格中输入这个数字时，它实际上存储了一个浮点 0，但如果我存储 2.2250738585073E-308，（我添加了 1到最低有效数字）我可以看到所有数字。我看到您要求机器 epsilon，但由于您使用的是 XL，因此您真正看到的是 C/C++ 浮点库 epsilon。请参阅 Microsoft Developer Network xlfRegister (Form 1) 主题。