问题标签 [scientific-notation]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
2 回答
5975 浏览

c++ - How to read float with scientific notation from file C++?

I have a file with this format:

I read it with this code:

Reading the scientific notation float results in a type mismatch.

How can I read all the numbers including the scientific notation float?

0 投票
1 回答
1049 浏览

performance - 计算数字的归一化和工程科学记数法的最快算法

测试用例 :

35000

-> 数字的标准化科学记数法是 3.5 * 10E4

-> 工程符号为 35 * 10E3

执行此操作的简单算法将继续将数字除以 10,直到我们获得所需的符号。然而,这意味着算法将是 O(零的数量)。我们能做得更好吗?

0 投票
3 回答
2481 浏览

mysql - 在 MySQL 命令行客户端中禁用科学计数法?

我有一个包含许多数字列(一些 INT,一些 FLOAT)的 MySQL 表。我想用 MySQL 命令行客户端(特别是mysql Ver 14.14 Distrib 5.1.41, for debian-linux-gnu (x86_64) using readline 6.1)查询它,如下所示:

不幸的是,如果任何数字字段的值超过 10^6,此客户端会以科学计数法显示结果,这使得读取结果变得困难。

我可以通过格式化查询中的每个字段来纠正问题,但是我想查询其中有很多字段和很多表。相反,我希望找到一个可以设置为禁用所有查询的科学记数法的客户端变量或标志。

我无法在页面--helpman页面中找到一个,也无法搜索 Google 或此站点。相反,我发现的只是在使用<insert-programming-language>MySQL API 时保留/删除科学记数法的讨论。

谢谢你的任何提示。

::编辑::

这是一个示例表...

和一些示例值...

现在,我加载到第三个字段中的实际值是:

如果我操纵该值,它们可以准确地看到:

客户端中的某些东西似乎在强制我只能看到六个有效数字,即使表中还有更多。

如果查询如

有可能,那太好了!否则,当我需要检查一些数据时,我真的不能花时间在“ROUND()”中单独包装 100 个列名。

有趣的是,我偶尔会使用一个 phpMyAdmin 界面来浏览其中一些表格的内容,并且该界面也有这个 6 位有效数字的限制。因此,它不仅限于 CLI。

0 投票
1 回答
657 浏览

csv - Mathematica 从 .csv 导入大整数?

我正在将一些数据从 CSV 导入 Mathematica。CSV 的前几行如下所示:

Mathematica 几乎完美地处理了这个问题:

问题是那些大时间戳被转换成科学记数法,并且精度丢失了:

如您所见,即使 1328661531035 与 1328661541700 不同,导入的数据也不再精确到无法区分两者,因为两者都以 1.32866*10^12 的形式导入。我知道 Mathematica 可以处理任意长度的整数,那么我怎样才能让它将这些数字作为(大)整数导入,而不是将它们转换成这种有损的科学记数法呢?

0 投票
4 回答
338724 浏览

r - 强制 R 不使用指数符号(例如 e+10)?

我可以强制 R 使用常规数字而不是使用e+10-like 表示法吗?我有:

在同一个向量中并希望看到:

我正在为一个老式程序创建输出,我必须使用cat. 到目前为止效果很好,但我根本不能在e+10那里使用符号。

0 投票
3 回答
11170 浏览

c++ - 在 C++ 中将科学计数法转换为十进制

我希望能够在我的代码中的所有情况下输出十进制而不是科学的。

如果我有 122041e+08 那么我希望它显示为 122041000

如果我有 4.6342571e+06 那么我希望它显示为 4634257.1

... 等等。

使用我的代码, 4.6342571e+06 的输出是 4634257.100000

有人可以向我解释为什么它会在末尾添加 0 以及是否可以删除它们。

0 投票
4 回答
172356 浏览

python - 从嵌套列表创建数组时抑制 Numpy 中的科学记数法

我有一个嵌套的 Python 列表,如下所示:

然后我导入 Numpy,并将打印选项设置为(suppress=True). 当我创建一个数组时:

我不能一辈子压制科学记数法:

如果我直接创建一个简单的 numpy 数组:

我没有问题,它打印如下:

有谁知道我的问题是什么?

0 投票
1 回答
8305 浏览

format - SAS - 从带有科学计数法数字的csv文件导入时如何保留实际数字

当我将具有长数字 ID 的文件从 csv 文件导入 SAS 时,我想将数字转换为文本。但是这些数字是以科学记数法存储的,所以当它们转换时,最后一个数字都变成了零。

例如,7.3139908E14 变成了 731399080000000,它应该是 731399076376199。

有没有办法解决这个问题?最终我需要做一些重复数据删除,然后将此文件导出为文本文件。

谢谢!

0 投票
1 回答
723 浏览

c# - 以更易读的格式显示双精度科学记数法

我正在通过第三方库从 PLC 读取一个值,但是当保存为双精度值时,该值似乎是科学计数法。

然而, PLC 中的值是1.234,在调试应用程序时,存储在 double 中的值是5.27326315571927E-315

我将其显示在标签中,但是我想将其显示1.234为科学记数法。

我怎样才能转换这个?

0 投票
1 回答
672 浏览

php - is_numeric 错误地标识了一个浮点数(这是一个随机字符串)

我正在寻找变量中的数字,如果找不到,我会引用该字符串 - 否则它不会被引用。例子:

碰巧该字符串是科学记​​数法,而 PHP 将其识别为数字。我应该如何解决这个问题?只是检查是否有字母字符会更好,还是有另一个类似于 is_numeric 的函数可以排除科学数字?