问题标签 [double-precision]

我试图理解Matlab中的双精度数。为什么这个 1 - 3*(4/3 - 1) 不等于零？

我想了解为什么这段代码：

返回比这个更精确的结果（没有rc变量赋值）：

另一个相关的问题：为什么n * n优于pow(n,2)？

乍一看，我的问题似乎有点奇怪。但将双精度值转换为浮点值不是我想要的。因为当你转换它时，你只是失去了 IEEE-754 定义的规则的一些精度，并且无法实现双精度值到浮点范围的实际映射；这是没用的。以下表达式有效，但是当您有大量输入时，它非常昂贵：

我可以通过某种按位运算将结果近似为上述“mappedVal”以加速相同的计算吗？

对于两个理论上相等的双精度数之间的减法，我应该期望什么数量级的差异？

我有两个双精度数组。预计它们在理论上是相同的。它们都是通过两种完全不同的方法计算的，因此它们之间存在一些数值差异。我逐个元素地检查了它们，我的最大差异是 6.5557799910909154E-008。我的老板说，对于双精度来说，这是一个非常大的差异，但我认为如果差异是 E-008 的数量级，那就可以了。

谢谢你，普拉迪普

我在一列中有双精度类型的坐标。我想检查小数点前（小数点前）的长度（必须为 7）。数字最多可以有 4 位小数。

我的第一个想法：

我正在将我的程序从浮点精度更改为双精度。尽管如此，我还是通过从二进制文件中读取浮点数来启动这个例程。

我继续进行双精度计算并将计算值写入文件：

（amxs 和 amxr 的大小是 double，l 是 int，matlabfile 是文件指针）

我的问题：当算术以双精度完成时， C如何处理浮点类型的输入参数，以及它如何在输出中舍入结果？是这么简单，还是我错过了什么？

编辑： 文件*vel，*matlabfile；

我有一个数据库访问权限，其中一个字段是双精度的。通常，如果我在文本框中设置 1.71 或 1,71，则数据库中的字段应包含 1.71。

但如果我执行查询，访问字段的值为 171 !!。

我错了什么？谢谢。

我只是在玩 SWIG 为特定的 C 库制作 python 模块。我遇到了 double 和 float 变量的麻烦。这里有一个例子：

和

结果是：

任何想法为什么会发生？

PS如果我从C代码调用函数......

一切安好：

我正在使用 Matlablinspace函数和范围:运算符来获得等距的向量，但我意外地收到了不等距的数字。我的代码如下：

向量差 ( diff) 的输出如下：

为了解决这个问题，我通过以下代码使用 Kahan 求和方法：

我现在正在获得一个等距向量

但是，这种方法是“顺序的”。是否有人知道 Kahan 求和方法的矢量化或并行实现以提高效率或将其移植到（CUDA）并行减少？

先感谢您。

如何使用 Python 编写双精度文件二进制文件？我目前正在执行以下操作，但它给了我单精度文件：