0

我有一个pp用数字填充的列向量,例如:

23.234000
3.1237340
4.4359000

我想找到向量中最小的非零数字所占据的小数点右边的位数,在这种情况下是6,因为4in 3.123734。然后我想将向量中的每个数字乘以 10^6,以消除向量中的所有小数。我想这样做以消除舍入错误。完成这项工作的最佳方法是什么?

4

1 回答 1

2

实际值可能与MATLAB实际显示的值不同。例如,考虑以下示例:

>> x = 1.4 - [0.1; 0.09999999]

x =
   1.3000
   1.3000

MATLAB 显示这两个值都是 1.3,但实际上,它们都不是:

>> x - 1.3

ans =
  -2.2204e-16
   1.0000e-08

因此,我的建议是确定一个固定的精度(比如 6 位),然后乘以相应的 10 次方。

于 2013-07-31T13:30:23.110 回答