ruby - Ruby Float#round 方法在 round(2) 中的行为不正确

Question

我了解到建议使用BigDecimal而不是Float，但这要么是一个错误，要么突出了Float. Float#round(2)“1.015”、“1.025”和“1.035”似乎有问题。

1.015.round(2)
 => 1.01    # => WRONG .. should be 1.02
1.025.round(2)
 => 1.02    # => WRONG .. should be 1.03
1.035.round(2)
 => 1.03    # => WRONG .. should be 1.04
1.045.round(2)
 => 1.05    # => CORRECT
1.016.round(2)
 => 1.02    # => CORRECT

round(3)工作正常。

1.0015.round(3)
 => 1.002  # => CORRECT
1.235.round(2)
 => 1.24   # => CORRECT 

为了在 Rails 应用程序中修改这个，我这样做了：

config/initializers/float_mp.rb

require 'bigdecimal'

class Float
  def round(val=0)
     BigDecimal.new(self.to_s).round(val).to_f
  end
end

这似乎是一种奇怪且昂贵的解决方法。这可能是一个错误Float#round吗？

Answer 1

AFAICS ruby​​ round() 工作正常。大概它只是 libm 中 round() 函数的一个包装器。

所以原因是你的浮点文字不能用二进制精确表示。例如，“1.015”多打印几位小数给出“1.0149999999999999”；因此，当四舍五入到两位小数时，1.01 比 1.02 更接近真实值。对于您的其他示例，依此类推。

另请记住，默认的 IEEE 754 舍入模式是“四舍五入，与偶数相等”，这与您在学校可能熟悉的“四舍五入，从零开始”不同。