虽然您可能听说过舍入错误,但您可能想知道为什么这里有舍入错误。
float a1 = 1.4f;
float b1 = 0.5f;
double c1 = 1.4;
double d1 = 0.5;
System.out.println(new BigDecimal(a1) + " - " + new BigDecimal(b1) + " is " +
new BigDecimal(a1).subtract(new BigDecimal(b1)) + " or as a float is " + (a1 - b1));
System.out.println(new BigDecimal(c1) + " - " + new BigDecimal(d1) + " is " +
new BigDecimal(c1).subtract(new BigDecimal(d1)) + " or as a double is " + (c1 - d1));
印刷
1.39999997615814208984375 - 0.5 is 0.89999997615814208984375 or as a float is 0.9
1.399999999999999911182158029987476766109466552734375 - 0.5 is
0.899999999999999911182158029987476766109466552734375
or as a double is 0.8999999999999999
如您所见,既不float
也double
不能准确地表示这些值,并且当打印 float 或 double 时,会发生一些舍入以向您隐藏它。在这种浮点数的情况下,四舍五入到小数点后 7 位会产生您期望的数字。在具有 16 位精度的 double 的情况下,舍入误差是可见的。
作为@Eric Postpischil,注意float
ordouble
操作是否有舍入误差完全取决于使用的值。在这种情况下,即使表示的值比双精度值更远离 0.9,浮点数似乎更准确。
简而言之:如果您要使用float
或double
应该使用明智的舍入策略。如果您不能这样做,请使用 BigDecimal。
System.out.printf("a1 - b1 is %.2f%n", (a1 - b1));
System.out.printf("c1 - d1 is %.2f%n", (c1 - d1));
印刷
a1 - b1 is 0.90
c1 - d1 is 0.90
当您打印浮点数或双精度时,它假定最接近的短十进制值是您真正想要的值。即在 0.5 ulp 以内。
例如
double d = 1.4 - 0.5;
float f = d;
System.out.println("d = " + d + " f = " + f);
印刷
d = 0.8999999999999999 f = 0.9