问题标签 [significant-digits]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
3 回答
1133 浏览

vb.net - 整数,但保持精确的数字

当我像这样调用此函数 Rounded(50.080, 3) 我得到“50.08”时,如何强制保留尾随零?

0 投票
2 回答
250 浏览

c++ - C++ 中 ostream 或 fprintf 的意义

我正在尝试将输出输出到文件,例如:

换句话说,我尝试设置我的输出的重要性,而不是我的精度。我试过了

无济于事。

任何帮助深表感谢。

干杯

编辑:对不起,不完整的问题。这是一个最小、完整且可验证的示例:

因此,无论精度如何,我都希望在每种情况下最多有 6 个有效数字,即:

好的,所以我最终将每个变量乘以小数点,减去并除以小数点。这似乎有效。疯狂的是,似乎没有在 C++ 中设置重要性的功能。

0 投票
1 回答
2100 浏览

python - 关于python中数字的有效数字

嗨,我有一个有点奇怪的问题。我正在转换一个数字列表(代表物理测量值),其中每个都报告为任意单位的特定精度,具体取决于它来自的研究。这是我的意思的一个例子:

这些当然是类型:

如果我打印出最后一个数字,例如:

但是,如果以这种方式访问​​,我会得到:

我知道浮点数默认为 64 位,因此使用它们进行计算(即 - 转换此测量列表)会返回一个 64 位的转换值。以下是转换值的示例:

以任何一种方式访问​​它们(使用打印或不使用),都会返回一个 64 位数字。但显然还有其他事情发生,否则打印功能将不知道如何显示真实的测量值。我想将转换后的值报告为与原始测量值相同的准确度。有没有办法在python中做到这一点?

0 投票
3 回答
1666 浏览

r - Trailing zeros after sequential rounding with round() followed by signif()

I am trying to apply a sequential rounding function on any real number so that the following condition is met: "Numbers should be reported with no more than two decimal digits and no more than two significant figures".

For example:
0.0236 should be reported as 0.02
0.236 should be reported as 0.24
2.36 should be reported as 2.4
23.6 should be reported as 24
236 should be reported as 240

It seems that whenever there are trailing zeros after rounding with round and signif, these are omitted (e.g. 0.90023 becomes 0.9 instead of 0.90). I have tried the following piece of code:

This works fine for any number except those like 195 (more than two significant figures in their integer part) which remains 195 instead of getting rounded to 200.

I would appreciate any help provided on this topic.
(R v3.1.0, 2014-04-10)

0 投票
1 回答
4276 浏览

python - 在Python中如何找到最低有效数字

我正在寻找一种希望简单的方法来查找数字(浮点数或整数)中的最低有效数字。

例如:

101 --> 1

101.2 --> 0.2

1.1003 --> 0.0003

10、100、1000 等案例的相关性稍差,但无论如何我都会感兴趣。

我并不特别关心格式,所以如果以更实用的方式识别结果更有意义,请随意。

例如:

101.2 --> 0.1 或 10^-1(或什至是相关幂/指数的 -1)就可以了。

对于其他上下文,我正在尝试做的事情:

假设我有一个数字 31.6,我希望能够将其转换为 31.5(将最低有效位减 1)。假设我有数字 16,我想把它变成 15(同样的想法)。如果我有数字 100,我仍然想把它变成 99,但我可能可以弄清楚那里的案例处理(没有指定 100.0,我认为 1 是最低有效数字,减 1 给你 0,这不是我想要的是)。这反过来又与手动操作数据范围中的分类中断有关(尽管离题了)。

展示我的作业: 这看起来很有希望(最不重要的SigDigit部分),但它返回的数字没有任何(数学)参考数字的力量(我也希望避免大量的字符串转换)。

这是我搜索 stackoverflow时出现的问题,但似乎没有帮助(如果我使用了错误的术语/搜索短语,我提前道歉)

0 投票
2 回答
89082 浏览

python - 在 matplotlib 图的轴上显示小数位和科学记数法

我正在使用 python 2.7 在 pyqt 程序中使用 matplotlib 绘制一些大数字。我有一个 y 轴,范围从 1e+18 到 3e+18(通常)。我希望看到每个刻度线都以科学计数法显示值并保留 2 个小数位。例如 2.35e+18 而不是 2e+18,因为 2e+18 和 3e+18 之间的值对于几个刻度线仍然只读取 2e+18。这是该问题的一个示例。

0 投票
2 回答
639 浏览

regex - 具有固定有效数字位数的浮点数的正则表达式

我正在尝试为具有固定最大(例如 4)个有效数字的浮点数找到正则表达式。

这应该与:

问题是点之前和之后的非零的数量总共最多为 4 个。

我试图拆分问题并找到解决方案:

但是对于在点之前和之后找到有效数字的情况,我没有找到解决方案。( examples: 1.23 2.345)


更新:我想我找到了解决方案:

0 投票
2 回答
268 浏览

c# - 格式化一个大的双精度以显示四个有效数字

例如,我有一个大双人床345533345.8993。但是,双精度值是用只有 4 位精度的测量值计算的。因此,在我的结果中,我想显示保证的位数,例如3455 * 10^5.

我可以自己写一些东西,但我正在寻找一种标准的方法来做到这一点。有没有办法呈现这个重要的测量数字?

0 投票
1 回答
12979 浏览

matlab - 四舍五入到 n 个有效数字

我正在尝试在 MATLAB 中编写代码,将数字四舍五入到某些(如我所问)有效数字。

我不知道该怎么做。有什么建议么?

0 投票
4 回答
4816 浏览

javascript - 如何舍入浮点数以使小数点后只有两位尾随数字?

我有一个浮点数,例如 137.57667565656,但我想对其进行舍入,以便小数点后只有两位尾随数字,例如新的浮点数将是 137.58。

到目前为止我试过这个:

但不幸的是,它将我的值四舍五入为 137.00。它将小数位添加为零,为什么?

我怎样才能实现上述目标?