0

在 xPage 的动态视图面板中显示带有数字列的视图时,我有一个疯狂的效果:一些(不是全部!)条目显示如下:123.40000000000005

注释文档中的值为 123.4 。

我找不到错误显示的值与正确显示的其他值之间的任何区别。我在注释视图的列属性中尝试了一些数字格式设置:没有改善。

笔记视图显示一切都很好(对于笔记客户端)。

它是一个错误吗?还是忘记了 dyn 视图控件的一些格式设置?

提前致谢, 乌韦

4

2 回答 2

1

它不是错误,更像是副作用。

好吧,因为它是双精度的,所以有办法将浮点数放入内存中,有时它的行为“有点奇怪”,但这只是一个副作用。所以数字有时会出现小误差。

阅读:http ://docs.oracle.com/cd/E19957-01/806-3568/ncg_goldberg.html 它解释了浮点是如何工作的。

问候

于 2012-07-24T09:37:29.717 回答
0
tmp:=yourfield;
@Round(tmp*100)/100
于 2020-02-17T18:14:02.953 回答