问题标签 [floating-point]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
6 回答
466 浏览

c - 你如何处理离散的非整数集?

我有一个程序需要执行从一组已知值到另一组已知值的编译时可检查映射:

如果输入是整数或均匀间隔,这将很容易。我将遍历行,但也希望能够在可读的庄园中进行查找。

我目前的想法(我不喜欢)是定义一个像

然后将其设置为 2 次查找。

有更好的想法吗?

编辑:我主要关心的是限制我可以尝试查找的内容。如果代码可能会尝试查找无效的内容,我希望甚至无法编译的东西。

集合很小,迭代时间几乎完全不相关。

我还没有看到任何让我在枚举中获得任何东西的东西,所以现在我要这么做了。OTOH我会继续关注这个问题。

*注意:我不担心会发现指针问题等等,只是像 for 循环和变量赋值这样的直接代码。


本质:为了清晰和通用性,我过度简化了上述内容。我实际上有一个表,它有 3 个非整数、非均匀轴和一个非数字轴。在这一点上,我不确定我需要在哪些方向上列举它。

一些链接可以让我了解我正在寻找的内容:

Boost::SI和我的D想法一样

0 投票
10 回答
3119 浏览

actionscript-3 - 如何修复浮点不精确的输出?

我正在做一些浮点操作,最终得到以下数字:

算法如下:

我理解浮点数不能总是用一个字节准确表示的事实。例如 1/3。我也知道我的步长是 0.1。如果我有步长,我怎么能得到正确的输出?

奇怪的是,这是我第一次遇到这种类型的问题。也许我玩的浮动不够。

0 投票
38 回答
1577075 浏览

python - 如何检查字符串是否为数字(浮点数)?

检查字符串是否可以在 Python 中表示为数字的最佳方法是什么?

我目前拥有的功能是:

这不仅丑陋和缓慢,而且看起来很笨重。但是,我还没有找到更好的方法,因为float()在 main 函数中调用更糟糕。

0 投票
2 回答
393 浏览

floating-point - 我应该如何对 80 位 IEEE 浮点进行相等性测试?

相关:

但是关于x86 上的80 位 IEEE 浮点数(参见第 8.2 节)

特别是我喜欢使用操作数之间的可表示值计数的这种实现,因为它默认缩放。

一个用例是数值近似,其中两个值彼此接近,我需要检查它们是否足够接近。


ps 实现语言是D,但我可以翻译。此外,可以自动处理任何底层类型的实现(例如,如果只有 64 位实数可用)将是理想的。

当前使用的代码:

0 投票
9 回答
108711 浏览

java - Java 双重比较 epsilon

我写了一个类,用 Java 中的两个双精度来测试相等、小于和大于。我的一般情况是比较可以精确到半美分的价格。59.005 与 59.395 相比。我为这些情况选择的 epsilon 是否足够?

0 投票
2 回答
867 浏览

flash - Flash添加错误

在 Flash 中创建一个新的 AS3 文档,粘贴以下代码并运行它:

为什么会出错?我只是在做一个普通的高分辨率加法。

任何解决方法?

0 投票
5 回答
13264 浏览

c# - 在协议缓冲区中表示 System.Decimal 的最佳方式是什么?

这个问题开始,在协议缓冲区中表示 System.Decimal 对象的最佳方式是什么?

0 投票
6 回答
1125 浏览

f# - F# 浮点范围是实验性的,可能会被弃用

我正在尝试制作一个小函数来在具有给定增量的两个值之间进行插值。

编译器告诉我这已被弃用,并建议使用整数然后转换为浮点数。但是,如果我有一个分数增量,这似乎有点冗长 - 我是否必须将我的开始值和结束值除以我的增量,然后再乘以?(耶!)。

我曾经在某个地方看到过关于使用序列推导来做到这一点的东西,但我不记得是如何做到的。

请帮忙。

0 投票
30 回答
4476819 浏览

python - 如何将字符串解析为浮点数或整数?

在 Python 中,如何解析数字字符串,例如

到其对应的浮点值,

? 或者将字符串解析为"31"整数,31

我只想知道如何将float str解析为 a float,以及(单独)将int str解析为 an int

0 投票
1 回答
623 浏览

.net - 将字符串解析为具有“,”和“。”的浮点数的最佳方法 作为分数分隔符?(对于小于 5 的数字)

这有点与我之前的问题有关,但不是真的。我有一个我不了解文化的输入。所以它可以同时使用 ',' 和 '.' 作为分数的分隔符。但是这个数字永远不会大于 5,所以我们可以确定是否有分隔符,它将用于分数。

我在看TryParse方法。它接受一个NumberStyles论点。但我没有看到任何关于分数分隔符之类的东西..

我又错过了什么,还是有更好的方法来实现我的目标?