问题标签 [scientific-notation]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
2 回答
269 浏览

matlab - Matlab中关于sprintf的问题

如何在 Matlab 中打印如下......

我努力了

它给了我

0 投票
1 回答
2448 浏览

r - 计算中位数

我有以下(指数)值,并想使用 R 计算它们的中位数:

这是我正在做的事情:

由于值是指数的,我没有得到正确的中位数。或者,您也可以建议如何将这些值更改为正常的浮点值。

0 投票
2 回答
2076 浏览

r - 如何在 R 中只打印 4 位而不是科学记数法的 p 值?

如何在 R 中只打印 4 位而不是科学记数法的 p 值?我尝试使用选项(数字 = 3,scipen = 12),但它不起作用......这是一个例子......

0 投票
1 回答
3272 浏览

c# - 用指数记数法赋值和计算

你有没有观察到这种现象:

如果我尝试在 Visual Studio 2010 C# .Net 的 ImmediateWindow 中计算以下计算,我会得到这个奇怪的解决方案。

即使我这样计算:

如果我在 Windows calc 中计算相同的计算,我会得到预期的结果:

如果有人对这种行为有所了解,我会很高兴获得信息。

0 投票
2 回答
3882 浏览

haskell - 如何让haskell输出不是科学计数法的数字?

我有一些项目要分成多个桶,这样每个桶都比最后一个大一些。

我确信有一种数学上更优雅的方法可以做到这一点,但这不是我的问题。最后一步总是以科学计数法打印出来。

如何获得简单的十进制输出?我已经查看了Numeric包,但我没有快速获得任何进展。

0 投票
1 回答
1794 浏览

java - Java中的紧凑数字格式化行为(在十进制和科学记数法之间自动切换)

我正在寻找一种方法以标准十进制格式或科学记数法动态格式化浮点数,具体取决于数字的值。

  • 对于中等幅度,数字应格式化为小数,并抑制尾随零。如果浮点数等于整数值,小数点也应该被抑制。
  • 对于极端震级(非常小或非常大),数字应以科学计数法表示。或者说,如果作为标准十进制表示法的表达式中的字符数超过某个阈值,则切换到科学计数法。
  • 我应该控制精度的最大位数,但我不希望附加尾随零来表示最小精度;应抑制所有尾随零。

基本上,它应该针对紧凑性和可读性进行优化。

2.80000->2.8

765.000000->765

0.0073943162953-> 0.00739432(在这种情况下将精度限制为 6 位)

0.0000073943162953-> 7.39432E-6(如果幅度足够小,则切换到科学记数法——小于1E-5这种情况)

7394316295300000-> 7.39432E+6(如果幅度足够大,则切换到科学记数法——例如,当大于 时1E+10

0.0000073900000000-> 7.39E-6(从科学记数法的有效数字中去除尾随零)

0.000007299998344-> 7.3E-6(从 6 位精度限制四舍五入会导致该数字的尾随零被去除)


这是我到目前为止发现的:

  • Number 类的.toString()方法完成了我想要的大部分工作,除了它不会在可能的情况下上转换为整数表示,并且它不会用科学计数法表示大的整数幅度。另外,我不确定如何调整精度。
  • 该函数的"%G"格式字符串String.format(...)允许我以可调整的精度以科学计数法表示数字,但不会去除尾随零

我想知道是否已经有一些满足这些标准的库函数。我想我自己写这篇文章的唯一绊脚石是必须从%G.

0 投票
3 回答
247 浏览

java - 科学记数法 Java

我正在解决我朋友给我的一个问题。我需要采用非零且可以为零x.yzw*10^p的形式输入数字。我已经制作了程序,但问题是当我们有数字时,十进制格式会制作它,但我需要让它成为,它必须始终输出为。有人可以告诉我这是怎么可能的。px.yzw0.0989.89.800x.yzw*10^p

代码:

0 投票
3 回答
35238 浏览

python - 在科学记数法中使用固定指数

考虑以下 Python 片段:

它生成以下输出:

有没有可能以某种方式“回去”?那是:

...我会指定我希望指数为e+09; 然后我在这个假设函数中抛出的任何数字都返回该指数中的数值?是否可以在每种情况下为整体和小数部分指定零填充?(即000.0200e9020.0000e9)?

0 投票
3 回答
9292 浏览

c++ - 科学记数法的类型

什么是类型,1e9它有多精确?(它是否正好等于 1000000000?)

如果可能的话,打印值/变量的类型stdout会很有用。

0 投票
1 回答
2037 浏览

mysql - 如何比较 mysql MIN() 聚合函数中的科学计数法和十进制数?

我如何在混合十进制值和科学计数值上应用 mysql MIN()。我需要在使用 MIN() 的 mysql 查询中使用纬度经度方程来获得最小距离。如果距离是十进制的,它就可以工作。但它不能正常工作,如果一些距离太小,如“5.89872212195226e-05”

问题是 MIN(4,5.89872212195226e-05) 在 mysql 查询中将始终返回“4”。

这是查询的一部分

有什么解决办法吗?谢谢你