让向量v
接近于零,如{7.000e-07, 5.000e-06, 4.000e-07}
。在标准化之前乘以 1024 是个好主意吗?似乎这样的接近值在 PC 上运行良好,其中 double 内部为 80 位,而在 ARM FPU 上则不好。
问问题
89 次
让向量v
接近于零,如{7.000e-07, 5.000e-06, 4.000e-07}
。在标准化之前乘以 1024 是个好主意吗?似乎这样的接近值在 PC 上运行良好,其中 double 内部为 80 位,而在 ARM FPU 上则不好。