问题标签 [floating-accuracy]

调试一些与金融相关的 SQL 代码发现了 numeric(24,8) 数学精度的奇怪问题。

在您的 MSSQL 上运行以下查询，您将得到 A + B * C 表达式结果为 0.123457

选择 A、B、C、A + B * C FROM ( SELECT CAST(0.12345678 AS NUMERIC(24,8)) AS A, CAST(0 AS NUMERIC(24,8)) AS B, CAST(500 AS NUMERIC(24) ,8)) 作为 C) T

所以我们丢失了 2 个重要符号。尝试以不同的方式解决此问题，我将中间乘法结果（为零！）转换为数字（24,8）可以正常工作。

最后有一个解决方案。但是我仍然有一个问题 - 为什么 MSSQL 会以这种方式运行，以及在我的示例中实际发生了哪些类型转换？

我在使用浮点变量时听说过“错误”。现在我正在尝试解决这个难题，我想我遇到了一些舍入/浮点错误。所以我终于要弄清楚浮点错误的基础知识了。

什么是浮点/舍入错误的简单示例（最好在 C++ 中）？

编辑：例如说我有一个成功概率为 p 的事件。我做了 10 次这个事件（p 不变，所有试验都是独立的）。恰好 2 次成功试验的概率是多少？我将此编码为：

这是浮点错误的机会吗？

我似乎在使用浮点数时失去了很多精度。

例如我需要求解一个矩阵：

这是我用来从文本文件中导入矩阵的代码：

我需要使用 gauss-seidel 求解，所以我需要重新排列 x、y 和 z 的方程：

这是我用来重新排列方程式的代码。b是一个系数矩阵，y是答案向量：

然而，我得到的答案并不精确到小数位。

例如，从上面重新排列第二个等式后，我应该得到：

我得到的是：

这似乎不是一个大问题，但是当您将数字提高到非常高的幂时，误差会很大。有没有解决的办法？我尝试了这Decimal门课，但它不适用于权力（即，Decimal(x)**2）。

有任何想法吗？

我的代码：

我想显示a为浮点值。

由于a是一个字符串，我尝试了：

我得到的结果是：

我想要这个问题的解决方案。请帮助我。

我正在关注本教程。

Pi 的单/双/扩展精度浮点表示精确到小数点后几位？

考虑以下代码：

为什么会出现这些错误？

我想知道是否有办法克服似乎是我的机器内部浮点数表示的结果的准确性问题：

为了清楚起见，将问题总结为：

在转换为整数类型之前，列计算的结果是 1.9999999999999996；距离 2.0 的预期结果如此接近但如此遥远。

欢迎提出任何建议。

我遇到了以下算术问题。

但是结果和正常的数学运算不同，为什么会这样呢？

因为 PHP 中的浮点数据类型不准确，并且 MySQL 中的 FLOAT 占用的空间比 INT 多（并且不准确），所以我总是将价格存储为 INT，在存储之前乘以 100 以确保我们有 2 个小数位的精度. 但是我相信 PHP 行为不端。示例代码：

产生的输出：

我很惊讶。当最终结果比预期低 1 时，我希望测试的输出看起来更像：

这将证明浮点类型的不准确性。但是为什么 floor(115) 返回 114？

优化我们正在开发的游戏，我们正在进入每个 CPU 周期获胜都很重要的阶段。我们使用弧度计算围绕其他对象旋转的对象的位置，我想减少查找表中不必要的精度。为此，我们大量使用了预定义的 Pi。这个 Pi 应该有多准确？

所以，我的问题是：

• 准确到什么程度才足够准确？
• 或者更好的是，如何确定所需的精度？