问题标签 [numerical]

我有点困惑为什么在这种情况下python会添加一些额外的十进制数，请帮忙解释

mysql 中 REAL() 数据类型的目的/意义是什么？你有我理解的浮点数、双精度和小数，但是“真实”数据类型在哪里出现？有任何想法吗？

先感谢您 ;-）

与浮点数或双精度数相同吗？

我一直在玩弄一些代码来使用 Levenberg-Marquardt 求解器来解决这个问题，但我对这里给出的内容感到困惑 http://www.itl.nist.gov/div898/strd/nls/data/LINKS/DATA/Misra1a .dat

当我插入认证值并查看预测值时，它们看起来与实际 Y 值完全不同......我肯定在这里做错了什么 - 什么？

我想也许基数是 10 并尝试了 power(10,...) 而不是 exp 但这似乎不是问题。

我遇到了一个方程，其中一侧包含第一类贝塞尔函数，另一侧包含修改后的第二类贝塞尔函数。我想知道它的确切解（u 的值）。方程如下：

其中 s 是任意整数，例如 2。

w 可以写成 u 的函数：

所以这个方程只有一个变量：u

我是 MATLAB 新手。我不知道我应该如何处理这个问题。有人可以帮我吗？

我知道这是一个奇怪的问题，但是 JavaScript 是否有能力使用双精度而不是单浮点数？（64 位浮点与 32 位。）

当我将 Matlab 软件的不同运行结果与相同的输入进行比较时，我遇到了问题。为了缩小问题范围，我做了以下事情：

• 使用 Matlab 的 save() 方法保存所有相关变量
• 调用计算某事的方法
• 使用 save() 再次保存所有相关的输出变量

在不更改被调用方法的情况下，我又运行了一次

• 加载上面保存的变量并使用 isequal() 与当前输入变量进行比较
• 使用当前输入变量再次调用我的方法
• 加载上面保存的 out 变量并进行比较。

我不敢相信最后“行”中的比较检测到细微的差异。计算包括单精度和双精度数，误差在 1e-10 的量级（输出为双精度数）。

我能想象的唯一可能的解释是，Matlab 在保存变量时会丢失一些精度（我认为这不太可能，我使用默认的二进制 Matlab 格式），或者包含像 a=b+c+d 这样的计算，这可以计算为 a=(b+c)+d 或 a=b+(c+d)，这可能会导致数值差异。

您知道上述观察结果的原因可能是什么吗？

非常感谢！

我刚开始用以下 cude 试验 cuda

在 mac book pro 上编译这个没有任何问题。但是，当我尝试运行它时，我得到了

我已经将我的样本与 Cuda By Example 中的样本进行了比较，除了类型之外，我没有发现任何重大差异。对此问题的任何指针表示赞赏。

我正在开发一个 CPU 密集型数值计算应用程序。无需赘述，这是一个计算数学研究项目，涉及为大整数 x 计算某个函数 f(x)。

现在一切都在 C++ 中以 x64 模式实现，使用本机 64 位整数。这将我限制在 x<2^64~1.8*10^19。我想更进一步，为此，我需要一个执行 128 位算术的库。而且它必须非常快。特别是整数除法应该很快。否则我会坐在这里等到感恩节的结果。我宁愿不重新发明轮子。

我在 Wikipedia 上找到了大约 20 个大整数库的列表，但其中大多数似乎针对的是任意精度的数字，这对我的任务来说太过分了，我不需要与此相关的额外成本。

有谁知道哪个库可以最快地处理 128 位整数？

我有一个图形程序，它导出带有数字的数据文件，例如：-1.33227e-015和-4.02456e-016.

长期以来，我一直对“e-”表示法感到困惑。它是用来表示无效数字的吗？我可以从上述数字中提取什么样的有效值？他们想表达什么？

好的，所以我知道您通常不应该比较两个浮点数是否相等。然而，在威廉·卡汉 (William Kahan) 的《浮点计算中对舍入的无意识评估有多无用？他显示了以下代码（我相信是伪代码）：

现在，我有兴趣在 C 或 C++ 中实现它，我有两个相关的问题：

a) 如果我将 T 设为双精度，那么在比较中 (T == 1) 或 (T == 0) 将 0 和 1 转换为双精度以保持多类型表达式中涉及的值的精度?

b）这仍然算作比较两个浮点数是否相等？