问题标签 [scientific-notation]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
2 回答
4199 浏览

python - 如何以正常方式而不是科学记数法强制显示 ndarray?

我正在尝试在屏幕上打印一个 ndarray。但是python总是用科学计数法显示,我不喜欢。对于标量,我们可以使用

但是如何为这样的 numpy.ndarray 做到这一点:

方法 .astype(float) 不会改变结果,并且 .round(4) 返回:

我只是想要 0.7472 0.3717 等。

0 投票
3 回答
1318 浏览

java - java中的科学记数法抽象

是否有一个 java 类抽象来表示科学数字(e.g. the number, 10 power modulus),这样我就可以在它们之上进行简单的操作,比如乘法或除法。

注意:在这里寻找类似于Fraction的东西。

0 投票
1 回答
1492 浏览

java - 将非常小的双精度值转换为字符串(使用科学计数法)(Java)

我正在尝试打印一个小的精度数字6.67e-11,但使用 Double.toString() 会返回0。我该怎么做才能让它打印 6.67e-11 (或类似的东西)呢?

0 投票
8 回答
30987 浏览

php - 将包含科学计数法数字的字符串转换为 PHP 中的双精度数

我需要帮助将包含科学计数法数字的字符串转换为双精度数。

示例字符串:“1.8281e-009”“2.3562e-007”“0.911348”

我正在考虑将数字分解为左侧的数字和指数,而不仅仅是进行数学运算来生成数字;但是有没有更好/标准的方法来做到这一点?

0 投票
1 回答
144 浏览

time - vxml 应用程序的响应时间

我正在开发一个voicexml应用程序,我想通过定义应用程序回答的最大响应时间来定义性能的一部分。

该应用程序位于由两个虚拟盒子实现的服务器上,由于 ISDN 连接,您可以调用它。

我正在寻找一些东西:

- 是否有任何“科学资料”描述了两个人或语音应用程序与人之间的对话中“正常”响应时间的长度?

--> 我可以假设哪个响应时间?(例如,当用户在两秒后选择“option1”时,应用程序会说“你选择了 option1” - 但是什么时间是现实的,例如两秒太长了吗?所以用户“感觉”这不是“真实的”沟通)

(- 从电话网络调用应用程序是否有任何特殊延迟?)

提前致谢

0 投票
2 回答
2966 浏览

javascript - 有没有办法在Javascript中截断科学记数法数字?

众所周知,因为它是关于 SO 的最受关注的话题之一,所以我遇到了舍入错误的问题(这实际上不是错误,我很清楚)。我将举例说明我有哪些可能的数字以及我希望能够获得哪些输入,而不是解释我的观点:

比方说

输出

我希望能够获得1.5e-8,但我不能只乘以 10e8、四舍五入并除以 10e8,因为我不知道它是 e-8 还是 e-45 或其他任何东西。

所以基本上我希望能够获得1.5000002部分,应用toFixed(3)并放回指数部分。

我可以转换成字符串并解析,但它似乎不正确......

任何的想法 ?


(如果您觉得这是许多重复项之一,我提前道歉,但我找不到类似的问题,只有相关的问题)

盖尔

0 投票
1 回答
1112 浏览

crystal-reports - 将 CR 值显示为科学计数法

我在 oracle 中存储了一系列非常小的正值和负值,我试图在水晶报告中显示它们。Crystal 将所有值显示为 0。但是,如果我打开最大小数位,我会看到一些值为 0.00...00XY。

我希望这些值简单地显示为科学记数法,例如 1.2E-12。

似乎水晶会自动将非常大的值转换为 SN,但不是非常小的值?

0 投票
3 回答
786 浏览

string - 如何在 Delphi 中将浮点值显示为科学参数

我们经常需要以带有乘数和单位的科学形式显示浮点值,例如 1500 V(伏特)的值将显示为 1.5 kV。1e-4 V 的非常小的电压将显示为 100 uV。多年来,我们一直使用内部创建的例程来进行这种浮点到字符串的转换,但我最近想知道这种方法是否更普遍可用?

0 投票
1 回答
4201 浏览

jsf - h:inputText 变为科学计数法

我有一个 h:inputText 控件,我可以在其中输入最多 7 位的数字,它会将它们转换为十进制表示(即,输入“9999999”,它将呈现“9999999.0”)。但是,当我输入任何 7 位或更多位的数字时,它会将其转换为科学计数法(即输入“10000000”并将其呈现为“1.0E7”)。

作为业务需求,我必须以十进制表示而不是科学记数法来显示它。有没有人有办法做到这一点?

编辑:经过进一步调查,似乎它是从“双”类型中获取当前格式的。(换句话说,您可以将“10000000”分配给双精度并打印它,它会以科学计数法显示给您)。

所以我进入了我的 getTableQuantity() 方法并将其更改为:

(双版)

(以字符串表示):

我在 xhtml 中将 "value="#{fee.tableQuantity}" 更改为 value="#{fee.tableQuantityFormatted}"

但是现在我在 xhtml 页面上收到以下错误:

数量值 10000000 不正确。/page/feeContent.xhtml @70,58 value="#{fee.tableQuantityFormatted}":属性 'tableQuantityFormatted' 在 java.lang.String 类型上不可写

0 投票
1 回答
202 浏览

java - 在数据结构中解析不同大小的数组 - Java

作为一名 Java 程序员新手,我在尝试为我的个人项目分析数据时遇到了相当大的障碍。我有一个包含 ~33.5k 数据点的文本文件,格式如下:

最后一行,即以 0 或 1 开头的行,对应于 Number of Accesses 行中的整数。我想解析文件并在每个访问实例之后打印 Lat、Lon 和两个值,只有 PointNumbers 具有超过 1 个访问次数。

我不确定是从扫描仪或标记器开始还是编译模式。哪种技术使仅存储有效的 PointNumber 更容易?直觉告诉我解析文件,将相关值放入对象中:

然后遍历对象并打印对象的值,如果访问数组长度> 1。另一方面,最好忽略不符合要求的信息。这可以通过在解析时检查 NumberOfAccesses 值然后跳转到下一个 string.startsWith("PointNumber:") 如果值 <= 1 来完成吗?

我感觉这个社区的绝大多数人都会尝试引导我使用 XML 或 YAML,但我更喜欢尝试用 Java 来解决这个问题。任何建议、方向或适用的例子总是非常感谢。