0

让向量v接近于零,如{7.000e-07, 5.000e-06, 4.000e-07}。在标准化之前乘以 1024 是个好主意吗?似乎这样的接近值在 PC 上运行良好,其中 double 内部为 80 位,而在 ARM FPU 上则不好。

4

1 回答 1

0

只要在您想要进行下溢的计算中没有任何中间结果(即,只要它们不接近 1E-308 in double, 1E-38 in float),它不会带来任何乘以 1024。

乘以 1024 不会损失任何东西(除非它导致溢出),但其他因素(例如 1000)也会导致精度损失。

于 2012-11-21T19:48:14.627 回答