问题标签 [significant-digits]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
4 回答
369 浏览

c# - Check decimal significant figure

I want to check if a decimal has a value in the 4th significant figure.

How can I test to see when there is a value in the 4th significant place.

I want to conditionaly display 3 or 4 decimal places depending if there is a non zero value in the 4th place.

What is the best way to do this?

Would this method work?

0 投票
10 回答
106761 浏览

excel - 如何让excel显示一定数量的有效数字?

我正在使用 excel,我想显示一定数量的有效数字的值。

我尝试使用以下等式

将 value 替换为我正在使用的数字,并将 sigfigs 替换为我想要的有效数字的数量。

这个公式有时有效,但有时无效。

例如,值 18.036 将更改为 18,它有 2 个有效数字。解决此问题的方法是更改​​源格式以保留 1 个小数位。但这可能会引入一个额外的重要数字。例如,如果结果是 182,然后小数位将其更改为 182.0,那么现在我将有 4 个 sig figs 而不是 3 个。

如何让 excel 为我设置 sig figs 的数量,这样我就不必手动计算了?

0 投票
3 回答
2629 浏览

java - 计算有效数字java

我正在尝试制作一个计算有效数字的程序,但我几乎完成了最后一件事,我完全陷入困境我无法弄清楚如何计算非零数字之间的零这是我的代码:

0 投票
1 回答
330 浏览

java - 根据 BigDecimals 的有效数字将其比较为可接受的接近

我有两个BigDecimals,我想根据它们的有效数字确定它们是否接近。

例如,考虑以下情况:

我希望能够确定a并且b接近(但事实c并非如此),因为它们仅相差一位有效数字,即使在原始数字中它们被数千分开。确定这一点的最佳方法是什么?

例如,可以用 替换最低有效数字0,但是这样会55.81 == 55.89在离开时产生,55.89 != 55.90因此这显然不是一个正确的解决方案。

0 投票
2 回答
1092 浏览

vb.net - 递增数字的最后一位

VB2010 我有一个用户输入数字格式的用户表单。然后该例程循环遍历数字对列表并将它们显示在类别列表中:

我想要做的是将第一个值增加一个数字,这样就没有重叠。就像是:

我正在尝试使它适用于用户输入的任何数字格式,例如“0.000”或“0.0”。我目前拥有的是(例如值 164.04)

似乎在我的 VB6 程序中工作,但想看看是否有人有更好的想法。我也不认为我解释了最后一位数字是 9。

更新:根据下面的建议,最终适用于正数和负数以及整数和浮点数的内容如下:

0 投票
0 回答
58 浏览

significant-digits - 有没有办法用二进制表示一个数字,其中位具有大致统一的意义?

我想知道是否可以将一个数字表示为一系列位,每个位具有大致相同的意义,这样如果我们翻转其中一个位,整体值不会发生太大变化。

例如,我们可以使用 4 位序列,其中每组代表一个从 0 到 15 的值,而整体值是所有这些值的总和。

现在翻转任何位只能导致最终值的最大差异为 8。

这种方法显然存在一些缺点:

  • 值有多种表示形式,其中一些值比其他值具有更多的表示形式(例如,数字 38 有 39280 种不同的表示形式,而数字 0 则只有 1 种);
  • 可以表示的值的数量大大减少(这种表示允许从 0 到 75 的整数,而 20 位通常可以表示 2 20到100 万个不同的整数)。

我能找到关于这个问题的任何资源吗?我似乎无法在网上找到任何东西,但也许我没有使用正确的关键字进行搜索。我的方法还有哪些其他选择?他们改善了它的缺点吗?

0 投票
3 回答
6043 浏览

java - 在 BigDecimal 中找到有效位数的巧妙方法?

我不想限制 BigDecimal 中的有效位数。我只想找到该数字的有效位数。

有没有办法在不将数字转换为字符串并计算数字字符的情况下做到这一点?

0 投票
1 回答
79 浏览

excel - 如果在显着数字限制下,Excel 中是否可能出现舍入错误?

我有一个包含缩放整数的数据库,最长的是 10 位数。我试图在 Excel 中将这些转换为十进制值,将小数点左移 4 位,即除以 10000。

鉴于这些整数目前低于 15 位有效数字限制,并且将保持如此,我是否有可能遇到舍入错误?

0 投票
4 回答
1302 浏览

c++ - 需要我的输出采用这种形式 XXX.XXX c++

例如,我得到一个三角形的面积为 6,我需要我的输出显示 006.000

我知道 setprecision 可以将小数位限制为三位,但我如何在我的解决方案前面放置零?

这就是我所拥有的

CTriangle Sides(3,4,5);

输出为

但无论我的解决方案是什么,我都需要以这种形式 XXX.XXX 提供所有答案。(因为值会改变)

任何帮助表示赞赏,谢谢!

0 投票
1 回答
1592 浏览

r - 使用 R(rugarch 和 fGarch 包)的 GARCH 模型中参数估计的不同意义

我一直在使用 fGarch 和 rugarch 这两个包来将 GARCH(1,1) 模型拟合到由 3980 个每日对数收益组成的汇率时间序列。

这两个模型显示以下结果:

fGarch:

地毯:

我找到了一个线程http://r.789695.n4.nabble.com/Comparison-between-rugarch-and-fGarch-td4683770.html关于为什么估计值不一样,但是我无法弄清楚很大的区别在标准误差中,因此对欧米茄有不同的意义。差异不是由平稳性约束引起的,因为 omega 仍然微不足道。有人知道如何计算估计参数(欧米茄、阿尔法、贝塔和 nu(形状))的标准误差吗?