0

为了在这里回答另一个问题，我创建了以下数据结构和行：

create table [resource] (Name varchar(16),date datetime, project varchar(16),hours int)
INSERT INTO resource
values ('Andy Sandy', '2013-03-02', 'Enhancements',40)
INSERT INTO resource
values('Fred Jones', '2013-10-02', 'Enhancements',40)

我已经执行了以下查询：

select 
case when sum(hours) > 0 Then
    CAST(SUM(hours) as DECIMAL(5,2))/40
else 0 end as [hours],
[DATE]
from resource group by date

结果如下所示：

Hours           Date
1.000000    2013-03-02 00:00:00.000
1.750000    2013-10-02 00:00:00.000

当我将小时数转换为小数时，我指定了 5 的精度和 2 的比例。我不明白为什么这个数字是这样的。如果我没有指定精度和比例，那么结果是一样的。为什么是这样？

4

2 回答 2

3

你在做numeric(5,2)/ 40。

从精度、比例和长度

+-----------+------------------------------------+---------------------+
| Operation |          Result precision          |   Result scale *    |
+-----------+------------------------------------+---------------------+
| e1 / e2   | p1 - s1 + s2 + max(6, s1 + p2 + 1) | max(6, s1 + p2 + 1) |
+-----------+------------------------------------+---------------------+

将 40 视为numeric(2,0)保留精度和比例的最小可能十进制表示。

所以

p1=5
s1=2,
p2=2
s2=0

然后将其插入 BOL 的公式中

Precision: 5 - 2 + 0 + max(6, 2 + 2 + 1) = 9
Scale: max(6, 2 + 2 + 1)                 = 6

所以结果是numeric(9,6)。

您也可以从

;WITH cte(thing) AS
(
 SELECT CAST(1 as DECIMAL(5,2))/40
)
SELECT thing, 
       sql_variant_property(thing,'basetype') AS basetype,
       sql_variant_property(thing,'precision') AS precision, 
       sql_variant_property(thing,'scale') AS scale, 
       sql_variant_property(thing,'maxlength') AS maxlength
FROM cte

退货

+----------+----------+-----------+-------+-----------+
|  thing   | basetype | precision | scale | maxlength |
+----------+----------+-----------+-------+-----------+
| 0.025000 | decimal  |         9 |     6 |         5 |
+----------+----------+-----------+-------+-----------+

（注：decimal和numeric是同义词）

于 2013-03-02T19:32:07.917 回答
2

多么奇怪。如果您运行sp_describe_first_result_set

sp_describe_first_result_set N'
select 
case when sum(hours) > 0 Then
    CAST(SUM(hours) as DECIMAL(5,2))/40
else 0 end as [hours],
[DATE]
from resource group by date'

您会看到要返回的小时数列被转换为十进制 (9,6)。

如果您将原始转换更改为 DECIMAL(10,6)，它将重新转换为 (14,10)。所以你认为它只是增加了 4 个级别的小数精度。不完全的！

将您的分频器从 40.0 更改为 400.0 - 现在它转换为 (15,11) - 它还根据分频器的精度增加了额外的精度级别。

将其更改为 40.0000（3 个额外的零） - 现在是 (20,15)。因此，有一个函数可以根据原始值和除数来确定精度。

小数点右边的每一个额外的精度级别都会为您的原始演员添加 (2,1)。左边的每个精度级别都会为您的原始演员添加 (1,1)。

要将小时列返回为小数（5,2），您只需要做

select 
case when sum(hours) > 0 Then
    CAST(SUM(hours) /40.0 as decimal(5,2))
else 0 end as [hours],
[DATE]
from resource group by date
于 2013-03-02T19:27:06.680 回答