4

可能的重复:
精度、比例、总和、除.. 截断

我有个问题。我已经编写了一个函数,但是当我使用 convert 将 2 个数字相除时遇到了一些问题。这是一个例子:

Declare @A Numeric(18,6)
Declare @B Numeric(18,6)

Set @A = 1
Set @B = 130

如果我执行以下查询,结果是:0.007692307692307692

Select Convert(Decimal(30,18),@A / @B)

但如果我这样做,结果是:(0.007692300000000000丢失小数)

Select Convert(Decimal(30,18),Convert(Decimal(30,18),@A) / Convert(Decimal(30,18),@B))

如果我使用相同的精度和比例,有人可以解释为什么我会丢失小数吗?

4

0 回答 0