1

我有一个变量，我想在小数点左侧返回最大 5，并且始终在右侧返回 3

CONVERT(VARCHAR(14),CONVERT(DECIMAL(8,3),
        DATEDIFF(MILLISECOND,@ProcessTime,GETDATE()))/@OneThousand)

现在变量定义为

DECLARE @ProcessTime DATETIME 
DECLARE @OneThousand DECIMAL(8,3)
SET @OneThousand = 1000.000

这总是返回类似

0.003000000000

我想我可以用左函数解决我的问题，但我的问题是为什么会发生这种情况。如果定义了十进制的最小变量@OneThousand，是 3，返回值不应该有 3 个小数吗？

4

2 回答 2

2

除以DECIMAL(8,3)by的结果给出了DECIMAL(8,3)一个数据类型DECIMAL(20,12)

DECLARE @ProcessTime DATETIME =getdate()
DECLARE @OneThousand DECIMAL(8,3)
SET @OneThousand = 1000.000

DECLARE @v SQL_VARIANT

SET @v = CONVERT(DECIMAL(8,3),
        DATEDIFF(MILLISECOND,@ProcessTime,GETDATE()))/@OneThousand

SELECT
    CAST(SQL_VARIANT_PROPERTY(@v, 'BaseType') AS VARCHAR(30)) AS BaseType,
    CAST(SQL_VARIANT_PROPERTY(@v, 'Precision') AS INT) AS Precision,
    CAST(SQL_VARIANT_PROPERTY(@v, 'Scale') AS INT) AS Scale

解释原因的 BOL 部分decimal(20,12) 在这里

Operation:        e1 / e2
Result precision: p1 - s1 + s2 + max(6, s1 + p2 + 1)
Result scale:     max(6, s1 + p2 + 1)

所以在你的情况下

Result precision: 8 - 3 + 3 + max(6, 3 + 8 + 1) = 20
Result scale:     max(6, 3 + 8 + 1)             = 12
于 2011-04-29T19:47:56.347 回答
1

尝试...

SELECT CAST(DATEDIFF(ms, @processDate, GETDATE()) / 1000.000 AS decimal(8,3))
于 2011-04-29T20:04:37.150 回答