问题标签 [significant-digits]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
8 回答
39614 浏览

c# - 在 C# 中使用有效数字格式化数字

我有一些十进制数据,我正在将其推送到要查看的 SharePoint 列表中。我想根据我对具体计算的了解来限制结果数据中显示的有效数字的数量。有时会是 3,所以 12345 会变成 12300,0.012345 会变成 0.0123。偶尔会是4个或5个。有什么方便的方法来处理这个吗?

0 投票
18 回答
41138 浏览

algorithm - 四舍五入到任意数量的有效数字

如何将任何数字(不仅仅是大于 0 的整数)四舍五入为 N 个有效数字?

例如,如果我想四舍五入到三位有效数字,我正在寻找一个可以采用的公式:

1,239,451 并返回 1,240,000

12.1257 并返回 12.1

.0681 并返回 .0681

5 并返回 5

自然,该算法不应该被硬编码为仅处理 3 的 N,尽管这将是一个开始。

0 投票
15 回答
69701 浏览

c# - 将双精度数舍入到 x 有效数字

如果我有一个 double (234.004223) 等,我想在 C# 中将其四舍五入为 x 有效数字。

到目前为止,我只能找到四舍五入到 x 位小数的方法,但是如果数字中有任何 0,这只会删除精度。

例如,0.086 到小数点后一位变成 0.1,但我希望它保持在 0.08。

0 投票
3 回答
900 浏览

sql-server-2005 - SQL Server 2005 中的一个数字可以存储多少位?

我有一个来自 47306832975095894070.85314746810624532 的 Oracle 数据库的号码。当我将它带入 SQL Server 时,它肯定不会显示那么多数字。它显示为 4.73068329750959E+19,该字段定义为 FLOAT。

我认为这可能包括所有有效数字,但有人问我这个数字是否可以完全按照 Oracle 的方式存储。是否有另一种数据类型可以存储所有数字?SQL Server 2005 中有没有办法以非指数形式显示数字,而是显示所有存储的数字?

0 投票
4 回答
21501 浏览

sql - 在 SQL 中四舍五入到 n 个有效数字

我希望能够在 SQL 中将一个数字四舍五入为 n 个有效数字。所以:

我知道 ROUND() 函数,它舍入到 n 位小数而不是有效数字。

0 投票
2 回答
690 浏览

c - 打印从最低有效位到最高有效位的数字数组?

您将如何打印从最低有效数字到最高有效数字的数字(如 x 轴上显示的数字)?谢谢

0 投票
4 回答
22552 浏览

python - 很好地表示python中的浮点数

我想将浮点数表示为四舍五入到一些有效数字的字符串,并且从不使用指数格式。本质上,我想显示任何浮点数并确保它“看起来不错”。

这个问题有几个部分:

  • 我需要能够指定有效位数。
  • 有效位数需要是可变的,这不能用字符串格式化操作符来完成。[编辑] 我已经更正了;字符串格式化操作符可以做到这一点。
  • 我需要它以人们期望的方式四舍五入,而不是像 1.999999999999

我已经想出了一种方法,虽然它看起来像一个工作回合,而且并不完美。(最大精度为 15 位有效数字。)

有一个更好的方法吗?为什么 Python 没有内置函数呢?

0 投票
4 回答
9536 浏览

c# - 带有效数字的字符串格式 %

我正在使用以下代码显示使用 String.Format 的百分比,但我也想将有效数字的数量限制为 2,这两者似乎不能很好地结合在一起。我怎样才能让两者正常工作?

所以我理想中想要的是这样的

0 投票
8 回答
7140 浏览

ruby - 如何将整数四舍五入在红宝石?

假设我有以下任何数字:

230957 或 83487 或 4785

Ruby 中有什么方法可以分别将它们返回为 300000 或 90000 或 5000?

0 投票
24 回答
274534 浏览

python - 如何在 Python 中将数字舍入为有效数字

我需要将浮点数舍入以显示在 UI 中。例如,一个有效数字:

有没有使用 Python 库的好方法,还是我必须自己编写?