问题标签 [decimal]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
4 回答
14005 浏览

c# - 获取数字的小数部分和小数点后的位数(C#)

有谁知道一种仅获取数字小数部分的优雅方法?特别是我希望得到小数点后的确切位数,以便可以适当地格式化数字。我想知道是否可以在不使用文化特定小数分隔符进行任何类型的字符串提取的情况下执行此操作....

例如
98.0 将被格式化为 98
98.20 将被格式化为 98.2
98.2765 将被格式化为 98.2765 等等。

0 投票
1 回答
22062 浏览

math - Visual Basic 6.0 中的十进制数据类型

我需要用非常大的数字进行计算(除法或乘法)。目前我正在使用Double并获得价值四舍五入的问题。我可以使用Decimal类型在 C# 上准确地进行相同的计算。我正在寻找一种在 VB6.0 中进行准确计算的方法,但在 VB6.0 中找不到Decimal类型。

什么数据类型用于进行具有大值的算术计算并且不会出现浮点舍入问题?

0 投票
7 回答
502921 浏览

c# - 十进制与双倍!- 我应该使用哪一个以及何时使用?

我一直看到人们在 C# 中使用双打。我知道我在某处读到双打有时会失去精度。我的问题是什么时候应该使用双精度类型,什么时候应该使用十进制类型?哪种类型适合货币计算?(即超过 1 亿美元)

0 投票
2 回答
3275 浏览

android - 使用sqlite在android中显示整数

我有一个包含小数的数据库。该列设置为“.. decimal(5,2) not null。我要做的是找到列的总和并使用此代码将其显示在文本字段中..

然而,当返回值是一个整数。它应该是 20.75 而不是 20。

我对 SQLite 不是很熟悉,所以请帮忙。

0 投票
6 回答
1394 浏览

mysql - mysql计算问题:1+1=1.999999999

问题是这样的,当我从一个表中添加两个或多个双打到一个视图时,它没有给我正确的结果,而是增加了大约十个左右的数字。例如 0.5+1.5=1.99999999998 或 5.5+8.5=14.0000000001。有任何想法吗?(我知道这是一个 n00b 问题,我记得在 9 年级的考试中不得不处理类似的事情,但我只是不记得当时我是如何做到的:P)

0 投票
1 回答
2541 浏览

xslt - xsl 截断小数

我有一个带有 xsl 的 xml 文件,我正在尝试更改数字的显示方式。在 xml 中,所有数字的格式为 00:12:34

我需要删除前 2 个零和冒号,只显示 12:34

我不确定我是使用子字符串还是十进制格式。我对此很陌生,所以任何帮助都会很棒。

xsl中的代码如下:

0 投票
4 回答
747 浏览

c# - 如何接受“$1,250.00”之类的字符串并将其转换为 C# 中的小数?

如何接受“$1,250.00”之类的字符串并将其转换为 C# 中的小数?

我只是做一个替换(“$”,“”)和(“,”,“”)还是有不同的方式我应该处理这种输入?

0 投票
5 回答
19177 浏览

java - Java DecimalFormat 科学记数法问题

我正在使用 Java 的DecimalFormat类以科学记数法打印数字。但是,我有一个问题。无论值如何,我都需要字符串具有固定长度,并且十次方的符号将其丢弃。目前,这是我的格式:

这给了我以下组合:1.0E1、1.0E-1、-1.0E1 和 -1.0E-1。

我可以使用setPositivePrefix来获得:+1.0E1、+1.0E-1、-1.0E1 和 -1.0E-1,或者任何我喜欢的,但它不影响电源的符号!

有什么办法可以让我有固定长度的字符串吗?谢谢!

编辑:啊,所以没有办法使用 Java 现有的DecimalFormat API 来做到这一点?感谢您的建议!我想我可能不得不继承 DecimalFormat,因为我受到已经存在的接口的限制。

0 投票
2 回答
3577 浏览

c# - C# 十进制转数字(?,?)

我有一个问题,我还没有找到解决方案,所以我请求你的帮助。在我的数据库中,我有一些 int、decimal 和 string 需要以特定长度和精度的数字转换以包含在平面文件中。

前任:

它不能放逗号或点。有没有一个简单的解决方案我尝试了很多东西,但没有一个会给我我的结果,除了做循环 foreach 在我的平面文件中归档太脏!

编辑:

平面文件根据起点和长度获取信息,因此我包含在文件中的每个数据都必须是一定长度。以我为例的数字

我想知道如何根据 N( , )解析任何十进制或整数数据

0 投票
4 回答
37156 浏览

c# - 如何设置一个恒定的十进制值

我正在使用 C# 在我的配置类中为十进制值设置默认值

但它不会被编译并引发错误

属性参数必须是常量表达式,typeof 表达式

我发现一个帖子说:“这不是一个错误。“1000M”只是“new Decimal(1000)”的简写,它涉及一个方法调用,这意味着它不被认为是一个常量。只是因为编译让你假装它是一个大部分时间保持不变,并不意味着你可以一直保持不变。”

现在,我该如何解决它?