问题标签 [floating-point-conversion]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
2 回答
1129 浏览

c - 如何将浮点输入转换为整数并保持最大精度?

我必须使用一种算法,它需要一个整数矩阵作为输入。我拥有的输入是真正有价值的,因此我想在将输入传递给算法之前将其转换为整数。

我虽然将输入缩放一个大常数,然后将其四舍五入为整数。这看起来是一个很好的解决方案,但是如何决定使用一个好的常量,特别是因为浮点输入的范围可能因情况而异?也欢迎任何其他想法?

0 投票
6 回答
5084 浏览

c++ - C 浮点精度

可能重复:
浮点比较

我对 C/C++ 中浮点数的准确性有疑问。当我执行下面的程序时:

结果:

我相信 float 应该有 32 位所以应该足以存储 101.1 为什么?

0 投票
4 回答
22978 浏览

c - 浮点类型的有效位数

C 中类型的描述float提到有效数字的数量是6。然而,

然后使用 printf() 打印它不打印12345.6,它打印12345.599609。那么double对于浮点类型来说,“6 位有效数字”(或“15 位”)是什么意思呢?

0 投票
3 回答
17484 浏览

c - 除以 1/n 总是返回 0.0

我正在尝试计算p1=(1/1)*(1/2)*...*(1/n),但出了点问题,这printf给了我0.000...0

0 投票
2 回答
116 浏览

c - 浮点错误

为什么在不同的循环中我得到不同的答案。有浮动错误吗?当我输入5000000sum时,16.002164235299但是当我使用 for (符号部分)的另一个循环时,我得到了 sum 16.002164235300

0 投票
1 回答
1317 浏览

c - 如何将浮点数舍入到小数点后的特定位数?

可能重复:
是否有在 C 中舍入浮点数的函数,还是我需要自己编写?
在 C 中将数字四舍五入到小数点后 2 位

我正在寻找 c 中的一个函数,它可以将我的浮点变量四舍五入到另一个浮点变量,小数点后有两位数,请帮助和演示。谢谢你

更新: 我需要这个函数来计算,而不是打印。

0 投票
5 回答
4300 浏览

c - 从c中的字符串中提取double

我想用 C 编写一个函数,它有一个字符串参数并返回一个双精度数。例如,当字符串是fsldnf213414fasfa它应该返回213414。但它也应该能够像fasfasf123.412412fasfffas一样返回浮点数123.412412

我已经有一个只能提取整数而不是浮点数的函数:

0 投票
6 回答
1090 浏览

assembly - 是否有 x87 FILD 和 SSE CVTSI2SD 指令的无符号等效项?

我想在 GHC Haskell 编译器中实现相当于 C 的uint-to -cast。double我们已经实现了int-to- doubleusing FILDor CVTSI2SD。这些操作是否有无符号版本,或者我应该uint在转换之前将最高位归零(从而失去范围)?

0 投票
2 回答
367 浏览

c - 从简单的浮点计算中得到错误的输出

可能重复:
C++:“float”的 printf() 格式规范是什么?

我对编程完全陌生,只是入门级别(仍然非常新手且容易出错:)

我的问题如下。我正在用 C 编写一个程序,将 27 华氏度转换为摄氏度。

代码如下:


得到以下输出:

没想到结果这么冷。我的计算器应该是-2.77。可能有什么问题?由于这样的计算,世界可能会冻结!))

我想这是我要问的基本原理,但对我来说听起来很有趣。感谢你的帮助。

0 投票
6 回答
16744 浏览

image - 使用浮点值写入图像

我的代码读取 RGB 图像,对其进行处理以产生浮点结果。如何在 Matlab 7.6.0 (R2008a) 中将这些值写为图像,保持这些浮点值?