3

我在 DLL 中有一个专有库（我没有代码），它在 VB6 中已使用多年。我正在尝试将 VB6 代码升级到 C#，并希望使 C# 代码完全复制 VB6 行为。当从每个环境调用时，我无法使在 DLL 中完成的某些计算的双精度结果完全匹配。

在VB6中我有这样的东西（注意文件读写是为了确保使用和生成完全相同的值）：

Dim a As Double, b As Double, c As Double, d As Double
Open "C:\input.txt" For Binary As #1
Get #1, , a
Get #1, , b
Get #1, , c
Get #1, , d
Close #1
Dim t As New ProprietaryLib.Transform
t.FindLine a, b, c, d
Open "C:\output.txt" For Binary As #1
Put #1, , t.Slope
Put #1, , t.Intercept
Close #1

在 C# 中，我有这样的东西：

System.IO.BinaryReader br = new System.IO.BinaryReader(System.IO.File.Open(@"C:\input.txt", System.IO.FileMode.Open));
double a, b, c, d;
a = br.ReadDouble();
b = br.ReadDouble();
c = br.ReadDouble();
d = br.ReadDouble();
br.Close();
ProprietaryLib.Transform t = new ProprietaryLib.Transform();
t.FindLIne(a, b, c, d);
System.IO.BinaryWriter bw = new System.IO.BinaryWriter(System.IO.File.Open(@"C:\output2.txt", System.IO.FileMode.Create));
bw.Write(t.Slope);
bw.Write(t.Intercept);
bw.Close();

我已经验证输入的读取方式相同（通过将二进制值重写到文件来验证），因此将相同的双精度数字提供给 DLL。输出值非常相似，但不完全相同（有时值在数字的最不重要部分是关闭的，在小数点后 15-17 位的噪音中，并且二进制写入文件验证它们是不同的二进制值） . 有没有人对为什么这些值的计算可能不完全相同或者我如何修复或调试这个有任何建议？

4

1 回答 1

4

这可能是因为用于双精度的不同标准

  • 出于（当时）性能原因，VB6 默认使用不太精确的内部标准。
  • .NET 符合二进制浮点运算的 IEEE 754 标准

您可以使用选项来编译 VB6 应用程序/OP以提高浮点一致性。

默认情况下，编译器使用协处理器的 80 位寄存器来保存浮点计算的中间结果。这提高了程序速度并减小了程序大小。但是，由于计算涉及在内存中以少于 80 位表示的浮点数据类型，因此通过冗长的计算携带额外的精度位（80 位减去较小浮点类型中的位数）可能会产生结果不一致。（来源：MSDN）

于 2012-04-13T19:57:12.967 回答