1

我目前正在使用带有 Visual Studio 2005 的 SQL Server 2005。我已经建立了一个数据仓库，它为 Microsoft 和 SAP 用户拉取许可费（以欧元计）除以 QTR。

我创建了一个将欧元成本转换为美元的计算。各个季度计算正确，但 SUM 是从列出的三个度量中计算的总和，而 Quater 总和会产生不准确的 SUM。

我已经验证所有表格数据都是正确的，并且我将错误追溯到计算。我只是不知道我缺少什么来更正 SUM 并让它仅对 QTR 的字段进行求和，而不是对事实表和可见总计中的每个列出的度量进行求和。

感谢您提供任何帮助。

4

1 回答 1

1

如果错误的类型为：1.01 + 1.02 + 1.03 = 3.0600001，那么这是浮点计算的预期行为。这是因为许多有限分数不能用二进制的有限位数表示——就像 1/3 不能用以十为底的有限位数表示一样。

（在谷歌电子表格中，例如 507.05 - 511.44 产生 -4.38999）

这可以在许多语言中通过使用变量类型“货币”来规避，这可以通过在内部以整数美分表示所有值并仅在显示结果时放置小数点来模拟。

于 2012-12-12T15:37:27.857 回答