问题标签 [ieee-754]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
1 回答
526 浏览

apache-flex - 如何将字节转为数字(IEEE754 转数字)Actionscript

如何在 Actionscript 中编写这样的 C# 代码?

0 投票
8 回答
46907 浏览

c - 使用 c - printf 将 ieee 754 浮点数转换为十六进制

理想情况下,以下代码将采用 IEEE 754 表示形式的浮点数并将其转换为十六进制

我不太确定出了什么问题。它将数字转换为十六进制数字,但非常错误。

所以它在做某事,我只是不太确定是什么。

帮助将不胜感激

0 投票
3 回答
1715 浏览

c - memset(ary,0,length) 是一种在双数组中输入零的可移植方式

可能重复:
更快/首选 memset 或 for 循环将双精度数组清零

以下代码使用 memset 将所有位设置为零

我可以假设这将适用于所有平台吗?

double 数据类型是否始终符合 ieee-754 标准?

感谢您的回复,并感谢 ::fill 模板命令。但我的问题更多的是双数据类型。

也许我应该为纯 c 写我的问题。不过还是谢谢。

编辑:将代码和标签更改为 c

0 投票
3 回答
666 浏览

javascript - 将 Windows“二进制”浮点数读入 ASP jscript 变量

我需要读取由旧版 Windows 应用程序生成的文件,该应用程序以二进制形式存储实数(8 字节“双精度”类型)——即作为 8 字节的打包数组。我可以读取 8 字节组 OK,但是如何将它呈现给我的 ASP JScript 代码,这样我才能再次获得实数。

或者换一种说法:

假设一个文件是由 Windows (Delphi) 程序生成的:

检查文件将显示它包含 8 个字节,即:

这是IEEE格式的实数。假设我可以在 ASP 中读回这 8 个字节,是否有一种简单的方法可以再次取回实数?

0 投票
2 回答
1459 浏览

c# - 将 MBF Single 和 Double 转换为 IEEE

可用的后续行动:有更多详细信息的后续行动,请参阅将 MBF 转换为 IEEE

我有一些仍在使用的遗留数据,读取二进制文件不是问题,数字格式是。所有浮点数都以 MBF 格式(单双)保存。我在 MSDN 板上找到了一个关于该主题的主题,但该主题仅涉及 Single 值。我也想尽可能远离 API 调用。

有人有双打的解决方案吗?

编辑:以防万一有人需要它,这是Option Strict我最终得到的 VB.NET 代码(它是兼容的)(随意将其转换为 C# 并进行编辑):

0 投票
0 回答
100 浏览

java - 在 k_rem_pio2 文件函数中,对于 ih==2 的情况,是否有任何数字不包含进位!=0?

我正在使用数学计算处理应用程序。对于我的代码,我需要知道如何覆盖我正在使用的库的所有代码路径。尚未涵盖的一项已在k_rem_pio2 文件中。核函数有ih==2数字分支,然后有一个

我的问题是,对于什么数字不满足 if 条件......我假设唯一的情况是iq[i] = 0所有数字i < jz(我正在使用 prec = 2),但是哪个数字可以有iq[i] = 0

0 投票
4 回答
1484 浏览

objective-c - 使用 ieee-754 或二进制补码将 NSData 转换为原始变量?

我是Obj-Ccocoa的新程序员。我正在尝试编写一个用于读取二进制文件的框架(灵活的图像传输系统FITS二进制文件,通常由天文学家使用)。我有兴趣提取的二进制数据可以有多种格式,我通过读取FITS文件的标题来获取其属性。

到目前为止,我设法创建了一个类来存储FITS文件的内容,并将标头隔离到一个NSString对象中,并将二进制数据隔离到一个NSData对象中。我还设法编写了一种方法,该方法允许我从标题中提取对解释二进制数据非常有价值的键值。

我现在正在尝试将NSData对象转换为原始数组(数组doubleint... short)。但是,在这里,我被卡住了,希望能得到任何帮助。

根据我拥有的关于FITS文件的文档,我有 5 种可能性来根据BITPIX键的值来解释二进制数据:

我已经编写了如下所示的代码,以尝试将其转换NSData为原始数组。

但是,我在循环中打印的值与预期值有很大不同(使用官方 FITS 软件比较)。因此,我认为Obj-C double不使用IEEE-754约定以及Obj-C int不是二元补码。我真的不熟悉这两个约定(IEEEtwos-complement),并且想知道如何使用Obj-C进行这种转换。

提前非常感谢您提供的任何帮助或信息。

0 投票
2 回答
11780 浏览

javascript - 如何在Javascript中将浮点数转换为其二进制表示(IEEE 754)?

将浮点数转换为 Javascript 中的二进制表示的最简单方法是什么?(例如 1.0 -> 0x3F800000)。

我曾尝试手动执行此操作,这在某种程度上有效(使用通常的数字),但对于非常大或非常小的数字(无范围检查)和特殊情况(NaN、无穷大等),它会失败:

我在重新发明轮子吗?

编辑:我改进了我的版本,现在它可以处理特殊情况。

我仍然不确定这是否 100% 正确,但它似乎工作得很好。(我仍在寻找现有的实现)。

0 投票
7 回答
1603 浏览

c - Do-s 和 Don't-s 用于浮点运算?

浮点算术(IEEE754,以防出现混淆)有哪些好的做法和不应该做的事情,以确保您的结果具有良好的数值稳定性和高精度?

我知道有些人不会减去类似数量的数量,但我很好奇还有什么其他好的规则。

0 投票
9 回答
1089 浏览

floating-point - 为什么这个循环永远不会结束?

可能重复:
在 C# 中比较双精度值时出现问题

我在其他地方读过,但真的忘记了答案,所以我再次在这里问。这个循环似乎永远不会结束,无论你用任何语言编写它(我用 C#、C++、Java... 测试它):