2

我正在尝试将 0.3 转换为 IEEE754 格式。我得到的是:0011111010011001100110011001 1001,但我应该得到的是:0011111010011001100110011001 1010。如您所见,最后 4 位数字不同。我将 0.3 乘以 2 直到找到句点,然后在尾数中填充 001 后,在尾数的其余部分中填充句点 (1001)。我究竟做错了什么?

4

1 回答 1

3

你必须四舍五入,而不是截断。在第 25 位,模式继续:10011001...由于第 25 位及以后的位置 > 1/2 ULP,您必须四舍五入。这会给你你所期待的答案。

于 2016-02-01T01:33:48.160 回答