问题标签 [significant-digits]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
2 回答
1775 浏览

floating-point - 哪种方法计算矩阵矩阵向量乘积 AB u 的精度更高?

我想计算向量,

s = AB u,

其中 s 和 u 是 N 维复数向量,A 是 N×M 复数矩阵,B 是 M×N 复数矩阵。当 A、B 和 u 的元素表示为浮点数时,以下两种方式中哪一种精度更高(有效位数更高)?

(1) 先计算 B u。

首先做矩阵向量乘法,

y = B u

然后,另一个矩阵向量乘法

s = A y

(2) 先计算AB。

首先做矩阵-矩阵乘法,

C = AB

然后,矩阵向量乘法

s = C u

有没有已知的一般规则?

顺便说一句,我知道方法(1)比方法(2)更有效。

0 投票
1 回答
173 浏览

printing - py3k print significant figures

In python3 is there a nice way to set significant figures - i.e if I have a list:

I can use the nice new print system and do

But I'm unclear as to how to set the sigfig with out doing

I was wondering if there was an option to print to just say - print all floats to 2 dp?

I guess I could use a loop but that seems not very Python like

0 投票
5 回答
9462 浏览

python - 在 Python 中计算有效数字?

Python中有没有办法计算双/浮点/等中的有效数字?我没有看到一个简单的方法来做到这一点,但我希望它会在图书馆里。

提前致谢。

0 投票
7 回答
7177 浏览

ruby - 如何在 Ruby 中将浮点数舍入到指定数量的有效数字?

如果在 Ruby中有一个等效于R 的 signif函数,那就太好了。

例如:

0 投票
3 回答
197 浏览

c++ - 有效数字增加

让我们,

dt从文本文件中读取为

然后我有一个for循环,

dt=0.05我输出std::cout << time << std::endl;我得到的时候,

那么,为什么一段时间后位数会增加?

0 投票
3 回答
4465 浏览

c++ - 在没有循环的情况下从 C++ 中的 int 中提取 n 个最重要的非零位

我想从 C++ 中的整数中提取 n 个最高有效位并将这些 n 位转换为整数。

例如

现在我想从该表示中提取 4 个最高有效数字,即 1111

并将它们再次转换为整数(十进制中的 1001 = 9)。

没有循环的简单 c++ 函数怎么可能?

0 投票
3 回答
4587 浏览

iphone - NSNumberFormatter 最多显示 3 位数字

我想这样做,所以我的 UILabel 之一最多只能显示 3 位数字。因此,如果关联值为 3.224789,我希望看到 3.22。如果值为 12.563,我希望看到 12.5,如果值为 298.38912,那么我希望看到 298。我一直在尝试使用 NSNumberFormatter 来完成此操作,但是当我将最大有效位数设置为 3它总是在小数点后有 3 位数字。这是代码:

我一直认为“有效数字”是指小数点前后的所有数字。无论如何,有没有办法使用 NSNumberFormatter 来完成这个?

谢谢!

0 投票
1 回答
1258 浏览

fortran90 - 如何在 FORTRAN90 中获得最多 7 位有效数字?

当我在里面写 5 或 6SELECTED_REAL_KIND时,它会输出 6 个有效数字,但当我尝试 7 时,它会输出超过 7。你能告诉我为什么吗?我哪里弄错了?赋值有问题?

带 5 和 6 输出-> 1.39256

有 7 个输出-> 1.3925623893

好吧,我在问一个简单的问题。我怎样才能输出这个数字 1.3925623893 的 7 个有效数字?

0 投票
2 回答
1169 浏览

java - Java - 如何将计算语句结果四舍五入为两位有效数字

Java 新手,编程方面相对较新。下面的代码是已经完美运行的程序的最后几行——我只想对最终结果(newTuition 变量)进行四舍五入并将其限制为两位有效数字。

newTuition、TUITIONINCREASE 和学费都是双倍的。

0 投票
2 回答
948 浏览

jquery - 具有两位有效数字的 jQuery Countdown 紧凑型

当我显示带有两位有效数字的紧凑倒计时时,它会显示如下内容:

“2d 12:00:00”和分钟/秒永远保持在“00”。我怎样才能让它显示类似:“2d 12h”的东西?

奇怪的是,如果我使用非紧凑输出,一切都按预期工作,即它只显示“2 天 12 小时”。