问题标签 [floating-point-conversion]
For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.
c - 如何将浮点输入转换为整数并保持最大精度?
我必须使用一种算法,它需要一个整数矩阵作为输入。我拥有的输入是真正有价值的,因此我想在将输入传递给算法之前将其转换为整数。
我虽然将输入缩放一个大常数,然后将其四舍五入为整数。这看起来是一个很好的解决方案,但是如何决定使用一个好的常量,特别是因为浮点输入的范围可能因情况而异?也欢迎任何其他想法?
c - 浮点类型的有效位数
C 中类型的描述float
提到有效数字的数量是6
。然而,
然后使用 printf() 打印它不打印12345.6
,它打印12345.599609
。那么double
对于浮点类型来说,“6 位有效数字”(或“15 位”)是什么意思呢?
c - 除以 1/n 总是返回 0.0
我正在尝试计算p1=(1/1)*(1/2)*...*(1/n)
,但出了点问题,这printf
给了我0.000...0
c - 浮点错误
为什么在不同的循环中我得到不同的答案。有浮动错误吗?当我输入5000000
sum时,16.002164235299
但是当我使用 for (符号部分)的另一个循环时,我得到了 sum 16.002164235300
。
c - 如何将浮点数舍入到小数点后的特定位数?
我正在寻找 c 中的一个函数,它可以将我的浮点变量四舍五入到另一个浮点变量,小数点后有两位数,请帮助和演示。谢谢你
更新: 我需要这个函数来计算,而不是打印。
c - 从c中的字符串中提取double
我想用 C 编写一个函数,它有一个字符串参数并返回一个双精度数。例如,当字符串是fsldnf213414fasfa
它应该返回213414
。但它也应该能够像fasfasf123.412412fasfff
as一样返回浮点数123.412412
。
我已经有一个只能提取整数而不是浮点数的函数:
assembly - 是否有 x87 FILD 和 SSE CVTSI2SD 指令的无符号等效项?
我想在 GHC Haskell 编译器中实现相当于 C 的uint
-to -cast。double
我们已经实现了int
-to- double
using FILD
or CVTSI2SD
。这些操作是否有无符号版本,或者我应该uint
在转换之前将最高位归零(从而失去范围)?
c - 从简单的浮点计算中得到错误的输出
我对编程完全陌生,只是入门级别(仍然非常新手且容易出错:)
我的问题如下。我正在用 C 编写一个程序,将 27 华氏度转换为摄氏度。
代码如下:
得到以下输出:
没想到结果这么冷。我的计算器应该是-2.77。可能有什么问题?由于这样的计算,世界可能会冻结!))
我想这是我要问的基本原理,但对我来说听起来很有趣。感谢你的帮助。
image - 使用浮点值写入图像
我的代码读取 RGB 图像,对其进行处理以产生浮点结果。如何在 Matlab 7.6.0 (R2008a) 中将这些值写为图像,保持这些浮点值?