3

可能重复:
T-SQL 小数除法精度

在 SQL Server 2005 中,如果我执行以下查询:

select  cast(1 as decimal(38,18))/cast(150 as decimal(38,18)) 

它返回 0.006666(6 位小数)

但是,如果我这样做:

select  cast(1 as decimal(24,18))/cast(150 as decimal(24,18))

它返回 0.00666666666666(14 位小数)

谁能解释一下这些结果?

4

0 回答 0