0

我需要将 ddmm.mmmmm(小数点后 4 位的分钟数)格式的纬度转换为 ddmm.mmmmmm(小数点后 5 位的分钟数)格式。有什么好的公式可以转换吗?

4

2 回答 2

1

我得到了答案

我们需要按照以下步骤进行此转换 1. 使用以下公式将 ddmm.mmmm 格式的值转换为 dd.ddddddd = dd + ( mm.mmmm / 60 )

  1. 转换回 ddmm.mmmmm = concat(dd, (.dddddd * 60))

    例子:

    从 ddmm.mmmm 格式转换 3323.8733

    1. 转换为度数 (dd.dddd) 格式 33 + (23.8733 / 60 ) = 33.397888333333334

    2. 转换回 ddmm.mmmmm 格式将小数部分乘以 60 即 0.397888333333334 * 60 => 23.87330000000004 附加度数 3323.87330000000004

      因为我们需要 ddmm.mmmmm 我们可以四舍五入 5 位小数,即 3323.87330

于 2012-12-27T16:13:20.500 回答
0

没有其他信息,我建议遵循 mkk 的建议。

如果要将“ddmm.mmmmm”(小数点后 4 位)转换为“ddmm.mmmmm”(小数点后 5 位),您可能应该只在末尾添加一个零。

通过在小数点后第五位放置一个非零值,其他方法可能会给出更令人满意的结果。但他们不能添加比原始数字更多的信息。然而,由于数学计算中重要性的丧失,可能会丢失信息。

于 2012-12-27T21:01:23.577 回答