greenplum - 关于 greenplum 错误 22003 的 Madlib

Question

我正在尝试在大型数据集上测试 madlib linregr_train 函数。对于自变量的某些组合，我得到以下错误：

ERROR: 22003: "0.0000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000536555291383594" is out of range for type double precision

有时，如果我对数据集进行采样，这些错误就会消失。以前有没有其他人遇到过这个问题？是否有一个选项可以让我将这些数字四舍五入为零，或者让我知道结果被四舍五入而不是出错？

Answer 1

双打的最小可能值约为 4.94e-324，具体取决于您使用的框架/平台。在您的帖子中，我计算了小数点后的 320 个零和小数点后 15 个数字。你非常接近这里的极限。有关详细信息，请参阅维基百科页面。

定位问题发生的位置，然后尝试防止数字太小。