0

可能的重复:
JavaScript 的数学被破坏了吗?

所以我正在编写一个程序,将数字计算为非常精确的值,并且我学会了数值永远不会与它们看起来完全一样的艰难方法。例如:

<script type="text/javascript">
var num=80.902
var difference=(num*10-Math.floor(num*10))/10;
document.write(difference);
</script>

这表明存在 0.0019999999999998181 的实际差异。有什么办法可以使这些数字准确吗?我猜这是某种记忆的东西,所以有没有办法让我把它变成双重或什么?将数据与小于 10^-13 的数字进行比较很烦人。

4

1 回答 1

0

这是 javascript 的固有限制。它不是为高精度浮点数数学而设计的。

这个问题是你想看的:如何在 JavaScript 中处理浮点数精度?在这里浮点数学被破坏了吗?

...我猜 JavaScript 是浮点精度最差的语言。

于 2012-11-07T07:16:43.347 回答