问题标签 [floating-point]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
12 回答
63468 浏览

c# - 如何在 C# 中将 Decimal 转换为 Double?

我想用 aTrack-Bar来改变 aForm的不透明度。

这是我的代码:

当我构建应用程序时,它给出了以下错误:

我曾尝试使用transand double,但随后Control不起作用。此代码在过去的 VB.NET 项目中运行良好。

0 投票
10 回答
2090 浏览

math - 一点点转向浮点(im)精度,第 1 部分

大多数数学家都同意:

e πi + 1 = 0

但是,大多数浮点实现不同意。我们能在多大程度上解决这个争端?

我很想听听不同的语言和实现,以及使结果尽可能接近零的各种方法。要有创意!

0 投票
2 回答
115813 浏览

python - 将字节转换为浮点数?

我有一个必须解析的二进制文件,我正在使用 Python。有没有办法获取 4 个字节并将其转换为单精度浮点数?

0 投票
33 回答
544276 浏览

c++ - 浮动和双重比较最有效的方法是什么?

double比较两个或两个float值的最有效方法是什么?

简单地这样做是不正确的:

但是像:

好像是废物处理。

有谁知道更智能的浮动比较器?

0 投票
15 回答
5393 浏览

variables - 比较 IEEE 浮点数和双精度数的相等性

比较 IEEE 浮点数和双精度数是否相等的最佳方法是什么?我听说过几种方法,但我想看看社区的想法。

0 投票
6 回答
41567 浏览

c# - 如何在 C# 中生成随机数?

我想在 2 个值之间生成一个随机浮点数。在 C# 中执行此操作的最佳方法是什么?

0 投票
5 回答
2320 浏览

c++ - cout 可以以某种方式改变变量吗?

所以我有一个看起来像这样的函数:

在某些时候,这个函数溢出并返回一个非常大的负值。为了尝试准确追踪发生这种情况的位置,我添加了一条 cout 语句,使函数看起来像这样:

它奏效了!当然,我通过使用 double 完全解决了这个问题。但是我很好奇为什么当我计算它时该功能可以正常工作。这是典型的,还是我在其他地方遗漏了一个错误?

(如果有帮助的话,存储在浮点数中的值只是一个整数值,并不是特别大的值。我只是将它放在浮点数中以避免强制转换。)

0 投票
20 回答
248111 浏览

python - round() 似乎没有正确舍入

round()函数的文档说明您将其传递给一个数字,并将小数点后的位置进行四舍五入。因此它应该这样做:

但是,实际上,很好的旧浮点怪异现象逐渐出现,你会得到:

出于 UI 的目的,我需要显示5.6. 我在 Internet 上浏览了一下,发现了一些文档,这取决于我对 Python 的实现。不幸的是,这发生在我的 Windows 开发机器和我尝试过的每台 Linux 服务器上。另请参见此处

没有创建我自己的圆形库,有什么办法解决这个问题吗?

0 投票
9 回答
22488 浏览

floating-point - 浮点数是如何存储的?什么时候重要?

在跟进这个问题时,似乎有些数字根本不能用浮点表示,而是近似的。

浮点数是如何存储的?

不同尺寸是否有共同标准?

如果我使用浮点数,我需要注意哪些问题?

它们是否跨语言兼容(即,我需要处理哪些转换才能通过 TCP/IP 将浮点数从 python 程序发送到 C 程序)?

0 投票
2 回答
42368 浏览

c# - 在 C# 中从科学计数法字符串转换为浮点数

使用 C# 从科学计数法字符串(例如“1.234567E-06”)转换为浮点变量的正确方法是什么?