2

回答有关在 html 中添加增加浮点值的方法的问题时input,我遇到了我所知道的IEEE 浮点数学的常见问题。这是我所看到的一个示例(带有演示):

<input type="text" name="BoqTextBox" id="BoqTextBox" value="0.001" />
<input type="Button" id='AddButton' value="+" />
<script>
  $('#AddButton').on('click', function () {
    var input = $('#BoqTextBox');
    input.val(parseFloat(input.val(), 10) + 1);
  })
</script>

单击+按钮,首先会导致输入像这样递增(使用此转换器进行 IEEE 二进制表示):

                     S|   Exp   |      Mantissa
0.001              //0 0111 0101 000 0011 0001 0010 0110 1111
1.001              //0 0111 1111 000 0000 0010 0000 1100 0101
2.001              //0 1000 0000 000 0000 0001 0000 0110 0010
3.001              //0 1000 0000 100 0000 0001 0000 0110 0010
4.0009999999999994 //0 1000 0001 000 0000 0000 1000 0011 0001
5.0009999999999994 //0 1000 0001 010 0000 0000 1000 0011 0001
6.0009999999999994 //0 1000 0001 100 0000 0000 1000 0011 0001
7.0009999999999994 //0 1000 0001 110 0000 0000 1000 0011 0001
8.001              //0 1000 0010 000 0000 0000 0100 0001 1001
9.001              //0 1000 0010 001 0000 0000 0100 0001 1001
10.001             //0 1000 0010 010 0000 0000 0100 0001 1001
... then predictably like this until ...
15.001             //0 1000 0010 111 0000 0000 0100 0001 1001
16.000999999999998 //0 1000 0011 000 0000 0000 0010 0000 1100
17.000999999999998 //0 1000 0011 000 1000 0000 0010 0000 1100
18.000999999999998 //0 1000 0011 001 0000 0000 0010 0000 1100
19.000999999999998 //0 1000 0011 001 1000 0000 0010 0000 1100
... then predictably like this until ...
31.000999999999998 //0 1000 0011 111 1000 0000 0010 00001100
32.001             //0 1000 0100 000 0000 0000 0001 00000110
33.001             //0 1000 0100 000 0100 0000 0001 00000110
... then predictably like that up to 256 (a power of 8 seemed fitting to test) ...

我还不知道的是,为什么这种行为会以这些特定的值表现出来,我可以采取哪些合乎逻辑的步骤来减轻其影响?出于显示目的进行舍入,同时将实际计算值存储在其他地方?

4

1 回答 1

3

正如您所猜测的,您应该仅在四舍五入后打印输出。该行为是十进制和二进制基数之间差异的结果,因为有十进制数在浮点数的二进制格式中没有精确表示,因此在将其存储为二进制然后再次读取时会丢失一些准确性. 浮点数在 CPU 中以1.XXXX...XXXX * 2^P的形式表示,因此从这种形式您可以看到,并非所有十进制数都具有长度有限的这种表示形式XXXXXX...XXX

于 2013-03-22T20:02:11.807 回答