问题标签 [double]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
6 回答
469 浏览

c# - 寻找在 C# 中使用浮点数的更简单方法

由于多种原因,我必须在代码中使用浮点数而不是双精度数。要在我的代码中使用文字,我必须编写如下内容:

否则编译器会出错,因为它将“0.75”视为双精度。有什么我可以放入我的代码或在 Visual Studio 中设置的东西,可以让它将像“0.75”这样的文字视为浮点数,而不必每次都附加一个“F”?

0 投票
1 回答
22062 浏览

math - Visual Basic 6.0 中的十进制数据类型

我需要用非常大的数字进行计算(除法或乘法)。目前我正在使用Double并获得价值四舍五入的问题。我可以使用Decimal类型在 C# 上准确地进行相同的计算。我正在寻找一种在 VB6.0 中进行准确计算的方法,但在 VB6.0 中找不到Decimal类型。

什么数据类型用于进行具有大值的算术计算并且不会出现浮点舍入问题?

0 投票
2 回答
2260 浏览

java - 在 Hibernate 中选择 Double 的问题

当我想要读取对象时遇到问题,其中(双变量)这是我的代码:

BranchBuilding 表:

可嵌入地址:

这是我的查询管理器:

这是一个班级制造者:

我想通过它的地理坐标加载一个 buildingBranch 实体,但是当我设置 Query 时它返回 null。

但是当我使用下面的查询时,它会返回一个正确的结果(我在我的表中通过 lat = 0 和 long = 0 插入一些分支构建)

任何人都知道我的问题在哪里?

0 投票
7 回答
502921 浏览

c# - 十进制与双倍!- 我应该使用哪一个以及何时使用?

我一直看到人们在 C# 中使用双打。我知道我在某处读到双打有时会失去精度。我的问题是什么时候应该使用双精度类型,什么时候应该使用十进制类型?哪种类型适合货币计算?(即超过 1 亿美元)

0 投票
5 回答
184954 浏览

vb.net - 将字符串转换为双精度 - VB

VB中是否有一种有效的方法来检查字符串是否可以转换为双精度?

我目前正在通过尝试将字符串转换为双精度然后查看它是否引发异常来执行此操作。但这似乎减慢了我的应用程序。

0 投票
5 回答
8122 浏览

c# - 添加两个双给出错误的结果

我正在使用以下代码,在某些神秘的情况下,添加的结果与预期的不同:

我在我的应用程序中使用了一些本机 DLL,我怀疑某些 DLL 是造成这种“错误计算”的原因,但我需要弄清楚是哪一个。谁能给我一个提示如何找出我的问题的根源?

0 投票
3 回答
2095 浏览

c# - 浮点精度

我有一个用 C# 编写的程序,有些部分是用本机 C/C++ 编写的。我使用双精度来计算一些值,有时由于精度太小,结果是错误的。经过一番调查,我发现有人将浮点精度设置为 24 位。当我将精度重置为至少 53 位(使用 _fpreset 或 _controlfp)时,我的代码工作正常,但我仍然需要首先弄清楚谁负责将精度设置为 24 位。

有什么想法我可以做到这一点吗?

0 投票
2 回答
355 浏览

vb.net - VB.NET 双重问题

目前我有一个 Double 看起来像 12.53467345 .. 现在我想删除点后的数字所以我只得到“12”,我该怎么做?我猜想使用 TryParse,但并不真正了解如何去做。

谢谢!

0 投票
3 回答
527 浏览

.net - 托管 C++ 中的 double.Parse 中的问题

在托管 C++ 中解析双精度值时,我遇到了一个奇怪的问题。可能是我做错了什么。当我做:

结果的输出是0.006000000000001。为什么它附加一个1?

此外,当我将值四舍五入到小数点后 5 位时,它会失败。我在做:

result2总是0.006000000000001。我究竟做错了什么?

0 投票
7 回答
3762 浏览

double - 下一个更高/更低的 IEEE 双精度数

我正在做高精度的科学计算。在寻找各种效果的最佳表示时,我不断提出想要获得下一个更高(或更低)双精度数的理由。本质上,我想做的是在双精度的内部表示中的最低有效位上加一个。

困难在于 IEEE 格式并不完全统一。如果要使用低级代码并实际上将 1 添加到最低有效位,则生成的格式可能不是下一个可用的双精度。例如,它可能是一个特殊情况数,例如 PositiveInfinity 或 NaN。还有一些低于正常值的值,我不声称理解,但它们似乎具有与“正常”模式不同的特定位模式。

可以使用“epsilon”值,但我从未理解它的定义。由于 double 值的间距不均匀,因此不能将单个值添加到 double 以产生下一个更高的值。

我真的不明白为什么 IEEE 没有指定一个函数来获得下一个更高或更低的值。我不能成为唯一需要它的人。

有没有办法获得下一个值(没有某种尝试添加越来越小的值的循环)。