2

可能重复：
红宝石中的算术

status_update 模型接受 2 个值，对它们进行一些简单的计算，然后从那里分配 'current_lbm' 和 'current_bf_pct'。

如果我不限制 current_lbm 和 current_bf_pct 将产生大量小数，因此我使用 .round(2) 方法将值限制为 2 个小数位。

这是执行此操作的方法。

after_initialize :default_values
.
.
def default_values      
 if self.current_bf_pct >= 0.5
   self.current_bf_pct /= 100
    if self.current_bf_pct <= 0.04
      self.current_fb_pct *= 100
    end 
 end
 self.current_fat_weight = self.current_weight * self.current_bf_pct
 self.current_lbm = self.current_weight - self.current_fat_weight
 self.current_fat_weight = self.current_fat_weight.round(2)
 self.current_lbm = self.current_lbm.round(2)
end

结果如下：

09/13/2012 186.0 4.5 177.63 8.37
09/13/2012 187.0 5.5 176.72 10.29
09/13/2012 188.0 6.5 175.78 12.22
09/13/2012 189.0 7.5 174.83 14.18
09/13/2012 190.0 8.5 173.85 16.15
09/13/2012 191.0 9.5 172.86 18.15
09/13/2012 192.0 10.5 171.84 20.16
09/13/2012 193.0 11.5 170.81 22.2
09/13/2012 194.0 12.5 169.75 24.25
09/13/2012 195.0 13.5 168.68 26.33
09/13/2012 196.0 14.499999999999998 167.58 28.42
09/13/2012 197.0 15.5 166.47 30.54
09/13/2012 198.0 16.5 165.33 32.67
09/13/2012 199.0 17.5 164.18 34.82
09/13/2012 200.0 18.5 163.0 37.0

我的问题是... 14.499999999999998 到底是怎么回事？

这些是视图的结果。current_bf_pct 行是日期中的第三行。它们不是小数，因为我在视图中将它们乘以 100。

4

1 回答 1

3

如果您按原样使用显示浮点数，则无法避免这种情况（请参阅ruby​​ 中的算术）。我建议您将浮点数转换为字符串以进行显示。

示例（您的实际结果可能会有所不同）：

>> 7.3-7.2
=> 0.09999999999999964

转换为小数点后 1 位的字符串：

>> '%.1f' % (7.3-7.2)
=> "0.1"

'%' 运算符是以下的简写：

sprintf '%.1f', (7.3-7.2)

继续阅读sprintf。这是一个学习曲线，但它非常强大。

另一种解决方案是使用 BigDecimal （第二个参数是精度 - 确保您理解这意味着什么）：

BigDecimal(7.3-7.2, 1).to_s

如果您使用足够大的精度，您将再次看到问题：

>> BigDecimal(7.3-7.2, 16).to_s
=> "0.09999999999999964"
于 2012-09-13T20:32:11.967 回答