我需要将 ddmm.mmmmm(小数点后 4 位的分钟数)格式的纬度转换为 ddmm.mmmmmm(小数点后 5 位的分钟数)格式。有什么好的公式可以转换吗?
问问题
1325 次
2 回答
1
我得到了答案
我们需要按照以下步骤进行此转换 1. 使用以下公式将 ddmm.mmmm 格式的值转换为 dd.ddddddd = dd + ( mm.mmmm / 60 )
转换回 ddmm.mmmmm = concat(dd, (.dddddd * 60))
例子:
从 ddmm.mmmm 格式转换 3323.8733
转换为度数 (dd.dddd) 格式 33 + (23.8733 / 60 ) = 33.397888333333334
转换回 ddmm.mmmmm 格式将小数部分乘以 60 即 0.397888333333334 * 60 => 23.87330000000004 附加度数 3323.87330000000004
因为我们需要 ddmm.mmmmm 我们可以四舍五入 5 位小数,即 3323.87330
于 2012-12-27T16:13:20.500 回答
0
没有其他信息,我建议遵循 mkk 的建议。
如果要将“ddmm.mmmmm”(小数点后 4 位)转换为“ddmm.mmmmm”(小数点后 5 位),您可能应该只在末尾添加一个零。
通过在小数点后第五位放置一个非零值,其他方法可能会给出更令人满意的结果。但他们不能添加比原始数字更多的信息。然而,由于数学计算中重要性的丧失,可能会丢失信息。
于 2012-12-27T21:01:23.577 回答