问题标签 [significant-digits]
For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.
floating-point - 哪种方法计算矩阵矩阵向量乘积 AB u 的精度更高?
我想计算向量,
s = AB u,
其中 s 和 u 是 N 维复数向量,A 是 N×M 复数矩阵,B 是 M×N 复数矩阵。当 A、B 和 u 的元素表示为浮点数时,以下两种方式中哪一种精度更高(有效位数更高)?
(1) 先计算 B u。
首先做矩阵向量乘法,
y = B u
然后,另一个矩阵向量乘法
s = A y
(2) 先计算AB。
首先做矩阵-矩阵乘法,
C = AB
然后,矩阵向量乘法
s = C u
有没有已知的一般规则?
顺便说一句,我知道方法(1)比方法(2)更有效。
printing - py3k print significant figures
In python3 is there a nice way to set significant figures - i.e if I have a list:
I can use the nice new print system and do
But I'm unclear as to how to set the sigfig with out doing
I was wondering if there was an option to print to just say - print all floats to 2 dp?
I guess I could use a loop but that seems not very Python like
python - 在 Python 中计算有效数字?
Python中有没有办法计算双/浮点/等中的有效数字?我没有看到一个简单的方法来做到这一点,但我希望它会在图书馆里。
提前致谢。
ruby - 如何在 Ruby 中将浮点数舍入到指定数量的有效数字?
如果在 Ruby中有一个等效于R 的 signif函数,那就太好了。
例如:
c++ - 有效数字增加
让我们,
我dt
从文本文件中读取为
然后我有一个for
循环,
当dt=0.05
我输出std::cout << time << std::endl;
我得到的时候,
那么,为什么一段时间后位数会增加?
c++ - 在没有循环的情况下从 C++ 中的 int 中提取 n 个最重要的非零位
我想从 C++ 中的整数中提取 n 个最高有效位并将这些 n 位转换为整数。
例如
现在我想从该表示中提取 4 个最高有效数字,即 1111
并将它们再次转换为整数(十进制中的 1001 = 9)。
没有循环的简单 c++ 函数怎么可能?
iphone - NSNumberFormatter 最多显示 3 位数字
我想这样做,所以我的 UILabel 之一最多只能显示 3 位数字。因此,如果关联值为 3.224789,我希望看到 3.22。如果值为 12.563,我希望看到 12.5,如果值为 298.38912,那么我希望看到 298。我一直在尝试使用 NSNumberFormatter 来完成此操作,但是当我将最大有效位数设置为 3它总是在小数点后有 3 位数字。这是代码:
我一直认为“有效数字”是指小数点前后的所有数字。无论如何,有没有办法使用 NSNumberFormatter 来完成这个?
谢谢!
fortran90 - 如何在 FORTRAN90 中获得最多 7 位有效数字?
当我在里面写 5 或 6SELECTED_REAL_KIND
时,它会输出 6 个有效数字,但当我尝试 7 时,它会输出超过 7。你能告诉我为什么吗?我哪里弄错了?赋值有问题?
带 5 和 6 输出-> 1.39256
有 7 个输出-> 1.3925623893
好吧,我在问一个简单的问题。我怎样才能输出这个数字 1.3925623893 的 7 个有效数字?
java - Java - 如何将计算语句结果四舍五入为两位有效数字
Java 新手,编程方面相对较新。下面的代码是已经完美运行的程序的最后几行——我只想对最终结果(newTuition 变量)进行四舍五入并将其限制为两位有效数字。
newTuition、TUITIONINCREASE 和学费都是双倍的。
jquery - 具有两位有效数字的 jQuery Countdown 紧凑型
当我显示带有两位有效数字的紧凑倒计时时,它会显示如下内容:
“2d 12:00:00”和分钟/秒永远保持在“00”。我怎样才能让它显示类似:“2d 12h”的东西?
奇怪的是,如果我使用非紧凑输出,一切都按预期工作,即它只显示“2 天 12 小时”。