0

只是出于好奇问这个。

我正在使用irb终端并试图从浮点数中减去浮点数。

我发现

irb(main):003:0> 49.4 - 0.1

给我

=> 49.3

但如果我这样做

irb(main):003:0> 49.3 - 0.1

然后我得到

=> 49.199999999999996

如果irb,这与实施有关吗?我的意思是为什么 49.3 - 0.1 给出了这样的表示。(这是 49.3 - 0.1 特有的,我从来没有得到过这个)

我使用irb 0.9.6

4

1 回答 1

5

你应该阅读每个计算机科学家应该知道的关于浮点运算的知识。这与 Ruby 或 IRB 无关。

于 2012-07-03T10:39:47.730 回答