我希望能够以数学上正确的方式从我的变量中减去 1/3,这意味着:如果 1D 减去 1/3 三次,它应该是 0D。
但是,我不断得到一些微小的价值(1.1102230246251565E-16)
我已经尝试在每次减法后对其进行舍入(Math.round(input*1000000.0)/1000000.0),但是在第二次减法后我最终得到 0.333334,在第三次减法后得到 1.0E-6。为什么?
我希望能够以数学上正确的方式从我的变量中减去 1/3,这意味着:如果 1D 减去 1/3 三次,它应该是 0D。
但是,我不断得到一些微小的价值(1.1102230246251565E-16)
我已经尝试在每次减法后对其进行舍入(Math.round(input*1000000.0)/1000000.0),但是在第二次减法后我最终得到 0.333334,在第三次减法后得到 1.0E-6。为什么?