0

我正在尝试编写一些代码来计算是否a小于bn 位容差,其中ab是双精度变量。

例如,4.000000001 < 4.00000001会是TRUE,但4.0000000001 < 4.000000001会是FALSE3.99999999 < 4.00000000也会FALSE。另请注意,aandb可能为负数。

4

2 回答 2

3

这应该有效:

ndigits = 7;
round(a*10^ndigits) < round(b*10^ndigits) 
于 2013-11-10T20:01:53.693 回答
2

如果你真的要找<关系,我会做

x < y + tolerance

其中容差是一个值,它指示上面 y的哪些值应计为低于它的值。

于 2013-11-10T20:06:43.860 回答