使用 MATLAB:为什么1-eps == 1-eps*4/3
返回FALSE
. 使用 M 尾数位,不应该是 1.0101...*2^-M从 1 中减去时eps*4/3
会四舍五入吗?eps
问问题
196 次
使用 MATLAB:为什么1-eps == 1-eps*4/3
返回FALSE
. 使用 M 尾数位,不应该是 1.0101...*2^-M从 1 中减去时eps*4/3
会四舍五入吗?eps