5

我编写了以下算法以将十进制值转换为二进制/十六进制等。

string toFormatFromDecimal(long long t, Format format) {
    int digitCount = ceil(log(t) / log((int) format));
    string hex = "";
    for (int i = 0; i < digitCount; i++) {
        long double cur = (long double)t / (long double)(format);
        long long ganzzahl = (long long) cur;
        long double kommazahl = cur - ganzzahl;
        hex += digits[(long long) (kommazahl * format)];
        t = ganzzahl;
    }
    return string(hex.rbegin(), hex.rend());
}

我在 linux 中使用 GCC，在 Windows 上使用 Visual Studio c++ 编译器似乎我在这里的“整数”部门得到了不同的值：

long long ganzzahl = (long long) cur;

任何想法怎么会发生？Linux 和 Windows 上有不同的精度吗？

谢谢弗洛里安

- 解决方案 - 

string toFormatFromDecimal(long long t, Format format) {
    int digitCount = ceil(log(t) / log((int) format));
    string hex = "";
    for (int i = 0; i < digitCount; i++) {
        hex += digits[(int) (t%format)];
        t = t/format;
    }
    return string(hex.rbegin(), hex.rend());
}
4

1 回答 1

16

是的，GCC 和 Visual Studio C++ 有不同的long double类型。在为 x86 生成代码的 GCC 上，long double是 80 位双扩展 IEEE 754 格式 (*)，而 Visual Studio C++ 将其视为long double64 位双精度 IEEE 754 格式(*)。

所以(long double)t在两个平台上不必是相同的数字，并且划分也不相同。尽管您已将问题标记为“整数除法”，但它是不同浮点类型之间的浮点除法。

(*) 几乎：它的行为非常类似于具有 15 个指数位和 63 个有效位的 79 位IEEE 754类型，但它具有稍宽的指数范围，因为它使用显式位作为有效位的前导 1。

(**) 几乎：因为编译器在将 x87 配置为 53 位有效位后生成使用历史 x87 指令的指令，所以非正规结果可能会被双舍入（参考）。

于 2013-05-24T22:20:23.723 回答