根据MSDN,REAL 值的范围是 - 3.40E + 38 到 -1.18E - 38、0 和 1.18E - 38 到 3.40E + 38。但是,我的表中有很多超出该范围的值。
以下查询返回许多非常小的值,而没有非常大的值:
SELECT MyColumn ,
*
FROM data.MyTable
WHERE MyColumn <> 0
AND ( MyColumn < CONVERT(REAL, 1.18E-38)
OR MyColumn > CONVERT(REAL, 3.40E+38)
)
AND ( MyColumn < CONVERT(REAL, -3.40E+38)
OR MyColumn > CONVERT(REAL, -1.18E-38)
)
很容易显示这些值如何最终出现在表中。我不能直接插入它们:
CREATE TABLE a(r REAL NULL);
GO
INSERT INTO a(r) VALUES(4.330473E-39);
GO
SELECT r FROM a
GO
DROP TABLE a;
----
0.0
但我可以划分两列并获取和超出范围值:
CREATE TABLE a
(
r1 REAL NULL ,
r2 REAL NULL ,
r3 REAL NULL
) ;
GO
INSERT INTO a
( r1, r2 )
VALUES ( 4.330473E-38, 1000 ) ;
GO
UPDATE a
SET r3 = r1 / r2 ;
SELECT r1 ,
r2 ,
r3
FROM a
r1 r2 r3
------------- ------------- -------------
4.330473E-38 1000 4.330433E-41
所以我猜 MSDN 给出了错误的有效数据范围,对吗?我错过了什么吗?
有几个人建议这是一个错误。
这种行为的哪一部分到底是一个错误。是吗:
- MSDN 中记录并在 DBCC 中使用的错误常量,以及向下舍入的错误阈值。
- 更新能够保存错误的值