我在案例选择中遇到了一些逻辑语句的问题。但是，我已经通过 excel 将其归结为一些奇怪的数学。当我期望它为假时，以下公式在即时窗口中评估为真
?(0.09 /0.1)<0.9
谁能解释为什么会这样？
问问题
99 次
2 回答
2
浮点运算可能会在 Excel 中给出不准确的结果。
如需更深入的文章，请阅读每位计算机科学家应了解的浮点运算知识。
这是StackOverflow 上的一个相关问题。
@scott 在他的评论中有解决方案：
? round((0.09/0.1),1)<0.9
于 2012-11-08T16:07:32.210 回答
0
这可能是因为 vb 将表达式转换为解析为零的整数。尝试
? CDBL((0.09/0.1) < 0.9
于 2012-11-08T15:25:21.610 回答