问题标签 [ieee-754]
For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.
apache-flex - 如何将字节转为数字(IEEE754 转数字)Actionscript
如何在 Actionscript 中编写这样的 C# 代码?
c - 使用 c - printf 将 ieee 754 浮点数转换为十六进制
理想情况下,以下代码将采用 IEEE 754 表示形式的浮点数并将其转换为十六进制
我不太确定出了什么问题。它将数字转换为十六进制数字,但非常错误。
所以它在做某事,我只是不太确定是什么。
帮助将不胜感激
c - memset(ary,0,length) 是一种在双数组中输入零的可移植方式
以下代码使用 memset 将所有位设置为零
我可以假设这将适用于所有平台吗?
double 数据类型是否始终符合 ieee-754 标准?
感谢您的回复,并感谢 ::fill 模板命令。但我的问题更多的是双数据类型。
也许我应该为纯 c 写我的问题。不过还是谢谢。
编辑:将代码和标签更改为 c
javascript - 将 Windows“二进制”浮点数读入 ASP jscript 变量
我需要读取由旧版 Windows 应用程序生成的文件,该应用程序以二进制形式存储实数(8 字节“双精度”类型)——即作为 8 字节的打包数组。我可以读取 8 字节组 OK,但是如何将它呈现给我的 ASP JScript 代码,这样我才能再次获得实数。
或者换一种说法:
假设一个文件是由 Windows (Delphi) 程序生成的:
检查文件将显示它包含 8 个字节,即:
这是IEEE格式的实数。假设我可以在 ASP 中读回这 8 个字节,是否有一种简单的方法可以再次取回实数?
c# - 将 MBF Single 和 Double 转换为 IEEE
可用的后续行动:有更多详细信息的后续行动,请参阅将 MBF 转换为 IEEE。
我有一些仍在使用的遗留数据,读取二进制文件不是问题,数字格式是。所有浮点数都以 MBF 格式(单和双)保存。我在 MSDN 板上找到了一个关于该主题的主题,但该主题仅涉及 Single 值。我也想尽可能远离 API 调用。
有人有双打的解决方案吗?
编辑:以防万一有人需要它,这是Option Strict
我最终得到的 VB.NET 代码(它是兼容的)(随意将其转换为 C# 并进行编辑):
java - 在 k_rem_pio2 文件函数中,对于 ih==2 的情况,是否有任何数字不包含进位!=0?
我正在使用数学计算处理应用程序。对于我的代码,我需要知道如何覆盖我正在使用的库的所有代码路径。尚未涵盖的一项已在k_rem_pio2
文件中。核函数有ih==2
数字分支,然后有一个
我的问题是,对于什么数字不满足 if 条件......我假设唯一的情况是iq[i] = 0
所有数字i < jz
(我正在使用 prec = 2),但是哪个数字可以有iq[i] = 0
?
objective-c - 使用 ieee-754 或二进制补码将 NSData 转换为原始变量?
我是Obj-C和cocoa的新程序员。我正在尝试编写一个用于读取二进制文件的框架(灵活的图像传输系统或FITS二进制文件,通常由天文学家使用)。我有兴趣提取的二进制数据可以有多种格式,我通过读取FITS文件的标题来获取其属性。
到目前为止,我设法创建了一个类来存储FITS文件的内容,并将标头隔离到一个NSString
对象中,并将二进制数据隔离到一个NSData
对象中。我还设法编写了一种方法,该方法允许我从标题中提取对解释二进制数据非常有价值的键值。
我现在正在尝试将NSData
对象转换为原始数组(数组double
,int
... short
)。但是,在这里,我被卡住了,希望能得到任何帮助。
根据我拥有的关于FITS文件的文档,我有 5 种可能性来根据BITPIX
键的值来解释二进制数据:
我已经编写了如下所示的代码,以尝试将其转换NSData
为原始数组。
但是,我在循环中打印的值与预期值有很大不同(使用官方 FITS 软件比较)。因此,我认为Obj-C double
不使用IEEE-754约定以及Obj-C int
不是二元补码。我真的不熟悉这两个约定(IEEE和twos-complement),并且想知道如何使用Obj-C进行这种转换。
提前非常感谢您提供的任何帮助或信息。
javascript - 如何在Javascript中将浮点数转换为其二进制表示(IEEE 754)?
将浮点数转换为 Javascript 中的二进制表示的最简单方法是什么?(例如 1.0 -> 0x3F800000)。
我曾尝试手动执行此操作,这在某种程度上有效(使用通常的数字),但对于非常大或非常小的数字(无范围检查)和特殊情况(NaN、无穷大等),它会失败:
我在重新发明轮子吗?
编辑:我改进了我的版本,现在它可以处理特殊情况。
我仍然不确定这是否 100% 正确,但它似乎工作得很好。(我仍在寻找现有的实现)。
c - Do-s 和 Don't-s 用于浮点运算?
浮点算术(IEEE754,以防出现混淆)有哪些好的做法和不应该做的事情,以确保您的结果具有良好的数值稳定性和高精度?
我知道有些人不会减去类似数量的数量,但我很好奇还有什么其他好的规则。
floating-point - 为什么这个循环永远不会结束?
可能重复:
在 C# 中比较双精度值时出现问题
我在其他地方读过,但真的忘记了答案,所以我再次在这里问。这个循环似乎永远不会结束,无论你用任何语言编写它(我用 C#、C++、Java... 测试它):