0

我正在使用 SQL Server 2008 R2 和 SQL Server 2012 尝试以下操作,并且在两者中都得到了相同的结果。

如果我写以下语句:

select round(4.005, 2)

我得到了预期的结果:4.01

但是,如果我写以下语句:

declare @result float
select @result = 4.005
select round(@result, 2)

我得到了一个意想不到的结果:4

但是,如果我在前面的语句中将float替换为real :

declare @result real
select @result = 4.005
select round(@result, 2)

我得到了预期的结果。

谁能告诉我为什么会这样?

4

2 回答 2

1

因为您没有指定用于以科学计数法存储浮点数尾数的位数,请试试这个,

declare @result float(5)
select @result = 4.005
select round(@result, 2)
于 2013-02-25T17:29:59.030 回答
0

这与 float 是一种近似数据类型有关。

见:http ://technet.microsoft.com/en-us/library/ms187912(v=sql.105).aspx

浮点数和实数数据类型称为近似数据类型。float 和 real 的行为遵循关于近似数值数据类型的 IEEE 754 规范。近似数字数据类型不存储为许多数字指定的确切值;它们存储的值非常接近。对于许多应用程序,指定值和存储的近似值之间的微小差异并不明显。但有时,差异会变得很明显。由于浮点数和实数数据类型的近似性质,当需要精确的数值行为时,不要使用这些数据类型,例如在金融应用程序中、在涉及舍入的操作中或在相等性检查中。相反,请使用整数、小数、货币或 smallmoney 数据类型。避免在 WHERE 子句搜索条件中使用浮点或实列,尤其是 = 和 <> 运算符。最好将浮点数和实数列限制为 > 或 < 比较。

IEEE 754 规范提供了四种舍入模式:四舍五入、向上舍入、向下舍入和舍入为零。Microsoft SQL Server 使用四舍五入。所有都准确到保证的精度,但可能导致浮点值略有不同。因为浮点数的二进制表示可能使用许多合法的舍入方案之一,所以不可能可靠地量化浮点值。

于 2013-02-25T19:10:36.660 回答