问题标签 [significant-digits]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
3 回答
3763 浏览

r - r 使用 paste 或 paste0 时保持 0.0

这是一个简单的问题,但它开始让我烦恼,我找不到解决方案....

我希望能够在使用 paste 或 paste0 时将其用作输出时保留 0.0 所以如果我有以下内容:

我得到:

但想要:

0 投票
4 回答
15195 浏览

c++ - 将字符串流中的数字转换为具有设定精度的字符串

我想从 stringstream 获取一个数字并将其设置为 5 个有效数字。我该怎么做呢?到目前为止,这是我设法提出的:

但是,这不是编译。谢谢。

0 投票
2 回答
55 浏览

asp.net - 显示计算的 N 个有效数字的更优雅的方法是什么?

我创建了以下函数来显示数字的最后六位有效数字:

例如,输入 182736734,6 将得到 736734。

我确信有一种更有效的方法可以做到这一点,并希望得到一些建议。

谢谢。

0 投票
1 回答
1094 浏览

c# - 显示 2 位小数(除非有更多有效数字)

可能重复:
将浮点数显示为至少有 1 个小数位的字符串

给定以下值:

  • 23.50
  • 15
  • 19.3500
  • 31.505
  • 45.6670

如何实现以下显示:

  • 23.50
  • 15.00
  • 19.35
  • 31.505
  • 45.667

我要做的是强制保留 2 位小数,除非有更多“重要”数字,在这种情况下,我也想显示它们。

注意:该值当前存储为Decimal?

0 投票
2 回答
2485 浏览

delphi-2007 - 如何在 Delphi 中将浮点数转换为字符串,指定有效数字,而不是十进制数字(而不是 G 格式)

我通常打印具有特定数量的十进制数字的数字,但我现在需要打印具有指定数量的有效数字的数字。数字需要像“1.23”而不是“1.2 E0”。我看到 Delphi 将使用 G 格式执行后者,但我看不到如何以前一种格式执行此操作。

0 投票
2 回答
300 浏览

python - Python数学显着性水平

我从一个数据集中加载了 2 个值。

当然这些都是很小的数字,但我想做的就是平均它们。

但这给出了 avg = 0

啊!

0 投票
3 回答
1477 浏览

r - 输出中的四舍五入以将接近零的小量显示为零

我希望我的 R 控制台的输出看起来可读。为此,我希望 R 将我所有的数字四舍五入到最接近的 N 位小数。我取得了一些成功,但它并不完全有效:

我希望 0.000000001 显示为简单的 0。如何做到这一点?让我更具体一点:我想要对整个 R 会话进行全局修复。我意识到我可以通过四舍五入来开始修改事物,但这比简单地为整个会话设置事物的帮助要小。

0 投票
1 回答
1052 浏览

r - 更重要的数字

如何在 R 中获得更多有效数字?具体来说,我有以下示例:

但是,当我得到 p 值时:

显然,p 值不是 0。实际上它应该大于 1.967673e-32,因为我正在对一堆概率求和。如何获得额外的精度?

0 投票
2 回答
895 浏览

matlab - Matlab中数值积分的准确性

我正在尝试在矩形区域上集成一个分析函数(sqrt 和 trig 函数的组合)。它在该区域中没有奇点,似乎是一个完美的候选对象dblquad。我的问题是如何评估 Matlab 提供给我的数值的准确性。在不知道积分的确切值的情况下,我们如何证明有效数字的合理性?当您需要给出具有某些精度的值时,您应该能够证明这一点。考虑到使用 Matlab 计算的值,是否可以实现这一点?

0 投票
0 回答
153 浏览

python - python significant figures and float

I'm do not understand why 1.1 + 2.2 is not 3.3 if a computer calculates this. I am trying to understand the working of binairy floating points.. but I am not even sure of that float the cause is. could you explain this to me?, I have not been able to find a clear explanation.