问题标签 [decimal]

简单的问题 - 为什么 Decimal 类型定义这些常量？何苦？

我正在寻找为什么这是由语言定义的原因，而不是对编译器的可能用途或影响。为什么一开始就把这个放在那里？编译器可以像 Decimal.Zero 一样轻松地内联 0m，所以我不购买它作为编译器快捷方式。

我有一个包含 800 行的文件，例如：

其中每个 0 或 1 代表某些特征的存在。我想读取这个文件并对二进制编码信息执行几个按位逻辑操作（这些操作取决于用户输入和来自具有 3000 行的第二个文件的信息）。然后，这些重新计算的二进制编码信息应写入文件（带有尾随零，例如

如果不编写自己的基本转换例程，我应该如何做到这一点？我对任何东西都开放，包括我不知道的语言，比如 python、perl 等。它应该可以在不编译的情况下工作。

到目前为止，我尝试按照自己的方式编写脚本、awk 和 sed。这将意味着（我认为）：批量读取为 base-2，转换为 base-10，根据用户输入和第二个文件进行按位运算，转换为 base-2，添加前导零并打印。使用 bc 的常用控制台提示似乎并不优雅，因为我在一个文件中有很多行。dc.sed 也是如此。并且 awk 似乎没有等同于将输入标记为二进制（如 "echo $((2#101010))" ），而且 printf 技巧不适用于二进制。那么，我将如何最优雅地做到这一点（或者，就此而言）？

我需要将基数 10 中的 0.5 转换为基数 2 (0.1)。我试过使用

它返回4602678819172646912我猜是十六进制的，但对我来说没有意义。

假设我们有一个 System.Decimal 数字。

举个例子，我们来看一个 ToString() 表示如下：

关于这个十进制可以说以下内容。出于我们的目的，比例定义为小数点右侧的位数。有效比例类似，但忽略小数部分中出现的任何尾随零。（换句话说，这些参数的定义类似于 SQL 小数加上一些附加参数，以说明 System.Decimal 小数部分尾随零的概念。）

• 精度：7
• 规模：4
• 有效精度：5
• 有效规模：2

给定一个任意的 System.Decimal，我怎样才能有效地计算所有这四个参数而不转换为字符串并检查字符串？该解决方案可能需要 Decimal.GetBits。

更多示例：

(?) 或者将这些精度解释为零也可以。

我如何四舍五入十进制值？
例子 ：

十进制值 =“ 19500.98”

我需要将此值显示到文本框，并像“19501”一样四舍五入

如果十进制值 =“ 19500.43”

然后

值 = " 19500 "

很可能是一个非常简单的问题，请保持任何答案易于理解我对此还是很陌生：

我正在制作一个小应用程序，我需要使用幂进行几次计算。经过一番研究，我在 cmath 中找到了 pow 函数，并玩了一把。最后我想出了这个片段，它有效：

它返回正确的答案 (4734.17)，但只保留两位小数。我最好是小数点后 5 位。

我在这里做错了什么？我是否使用了错误的数据类型（浮点数）？还是 pow 函数中仅使用 2dp 的限制？

我可以，如果它只是用我想要的值定义常量，因为它只会是我需要这个精度的 4 或 5 个总和，但如果可以让程序计算它，那就太好了。

谢谢

我可以说出使用double(or float) 而不是 的三个优点decimal：

1. 使用更少的内存。
2. 更快，因为处理器本身支持浮点数学运算。
3. 可以表示更大范围的数字。

但这些优势似乎只适用于计算密集型操作，例如建模软件中的那些。当然，当需要精度时，不应该使用双精度数，例如财务计算。那么有任何实际的理由选择double（或float）而不是decimal“正常”应用程序吗？

编辑补充：感谢所有伟大的回应，我从他们那里学到了。

还有一个问题：一些人指出双精度数可以更准确地表示实数。当声明时，我认为它们通常也更准确地代表它们。但是，当执行浮点运算时，准确度可能会降低（有时会显着降低），这是一个真实的说法吗？

我意识到值 0.00 不是有效的非负整数，甚至也不是整数。不幸的是，数据是以这种格式出现的。如果它以 .0 结尾，我不想将其丢弃，但我也不想将类型更改为 Decimal 并且可能以 .1 结尾的值作为有效值。

有没有办法我的 XSD 可以验证数字，使它们只是正整数，因此 0.00、0、1、1.0、2.0000000 等值都被接受，但 -1、1.1、2.2、3.3333 都是无效的？

谢谢-c

我试图找出 SQL Server 中列的十进制数据类型。我需要能够存储 15.5、26.9、24.7、9.8 等值

我分配decimal(18, 0)给列数据类型，但这不允许我存储这些值。

这样做的正确方法是什么？

我正在学习 Ruby，并想制作一个 Binary->Decimal 转换器。它获取一个二进制字符串并转换为等效的十进制。有没有办法跟踪 ruby​​ 中的当前迭代步骤，以便可以删除变量“x”？