coldfusion - 了解财产的精度和规模

Question

property name="poiLat" length="60" ormtype="big_decimal" persistent=true precision="16" scale="14" default="0" hint="";

我不正确理解精度或比例。使用上面的属性，为什么“1”会出错而“2”会被接受？我应该把它改成什么来接受'1'

1) -118.27 = 错误

2) -18.27 = 正常

Answer 1

比例是指小数点右侧的位数。如果精度为 16，小数位数为 14，则小数点左侧只能有 2 位，所以

18.12345678901234 = ok 
118.27 = error

尝试：

precision="16" scale="13" 

这将允许 118.1234567890123，但这是很多小数位。你真的需要多少？

precision="16" scale="4"

将允许 123456789012.1234