问题标签 [double]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
3 回答
1373 浏览

c - C: double == -0 是什么意思?

我只是使用 gdb 打印出一个 double 的值,令我惊讶的是它打印了 -0

C中-0值的双倍是什么意思?

顺便说一句,当我检查它与 0 的相等性时,它返回了 true:为了进行比较,我只做了以下操作

在 gdb 中

0 投票
18 回答
1093962 浏览

.net - .NET 中十进制、浮点和双精度的区别?

.NET和.NETdecimal中有什么区别?floatdouble

什么时候有人会使用其中之一?

0 投票
2 回答
1989 浏览

c# - Linq:双值列表 - 后继值之间的差异

我有一个双值列表...

1.23, 1.24, 1.78, 1,74...

所以我想计算后继者之间的差异 - >只添加(负值应该首先是正的)......以上4个值将是0,01 +0,53(-)-0,04(-)->让它积极...

使用for循环,很容易......知道如何用linq解决它吗?

0 投票
5 回答
10549 浏览

python - 从用 C 语言创建的二进制文件中读取双精度的最佳方法是什么?

AC 程序将连续的双精度数输出到二进制文件中。我希望将它们读入 Python。我尝试使用struct.unpack('d',f.read(8))

编辑:我在 C 中使用以下内容编写了一个随机双数

错误现在已修复,但我无法读取第一个值。对于全 0.000.. 数字,它读取为 3.90798504668055,但其余的都很好。

0 投票
8 回答
281168 浏览

c# - 如何将两个整数相除以获得双精度?

如何将两个整数相除以获得双精度数?

0 投票
2 回答
784 浏览

.net - 如何在 .NET 中将双精度值舍入为选定的小数位数?

我使用加速度传感器来计算当前加速度并返回双精度值。

但是我想将当前加速度与值 9.8 进行比较。在此之前,我必须对从传感器接收到的值进行四舍五入,所以问题是:如何在 .NET 中将双精度值四舍五入为选定的小数位数?

0 投票
8 回答
7493 浏览

c++ - 除法双精度时意外损失精度

我有一个函数 getSlope ,它以 4 个双精度数作为参数,并返回另一个使用给定参数计算的双精度数,方法如下:

问题是,当使用参数调用此函数时,例如:

返回的结果是:

这对我的计算来说不是一个好的结果。我已经使用 Mathematica 计算了斜率,相同参数的斜率结果是:

或更多数字以提高精度:

我的程序返回的结果在我进一步的计算中并不好。此外,我不明白程序如何从 10.845222072678331 开始返回 10.8557(假设这是除法的近似结果)?我怎样才能为我的部门取得好成绩?

提前谢谢你,马达琳娜


我使用命令行打印结果:

可能是我的参数可能不好,因为我从另一个程序中读取它们(它计算一个图表;在我从他的图表中读取这个参数之后,我刚刚显示它们以查看它们的值但可能显示的向量不一样计算值的内部精度..我不知道这真的很奇怪。出现了一些数值错误..)

当计算我从中读取参数的图形时,会使用一些用 C++(带有模板)编写的数值库。此计算不使用 OpenGL。

谢谢你,马达琳娜

0 投票
28 回答
750166 浏览

java - 如何在没有不必要的十进制 0 的情况下很好地将浮点数格式化为字符串

一个 64 位的 double 可以精确地表示整数 +/- 2 53

鉴于这一事实,我选择使用双精度类型作为我所有类型的单一类型,因为我的最大整数是一个无符号的 32 位数字。

但是现在我必须打印这些伪整数,但问题是它们也与实际的双精度数混合在一起。

那么如何在 Java 中很好地打印这些双打呢?

我试过String.format("%f", value)了,这很接近,除了我得到很多小值的尾随零。

这是一个示例输出%f

我想要的是:

当然,我可以编写一个函数来修剪这些零,但由于字符串操作,这会导致很多性能损失。我可以用其他格式代码做得更好吗?


Tom E. 和 Jeremy S. 的答案是不可接受的,因为他们都任意四舍五入到小数点后两位。请在回答之前了解问题。


请注意,这String.format(format, args...)取决于语言环境(请参阅下面的答案)。

0 投票
11 回答
1125 浏览

c# - 这个部门有什么问题?

我认为我有很多关于数据类型的知识。为什么会发生这种情况

它给出零..应该是37,5 ... :(

0 投票
3 回答
737 浏览

c# - 涉及双精度和整数的错误 C# 代码

任何人都可以看到该代码的任何直接问题吗?变量trtb始终评估为 0。

如果需要,我很乐意提供更多信息。