我们目前正在使用 System.Decimals 来表示我们正在开发的 .NET 应用程序中的数字。我知道小数的设计是为了最大限度地减少因四舍五入引起的误差,但我也知道某些数字(例如 1/3)不能表示为小数,因此某些计算会有小的舍入误差。我相信这个错误的大小将非常小且微不足道,但是一位同事不同意。因此,我希望能够估计由于我们的应用程序中的舍入而导致的误差的数量级。例如,我们正在计算“交易”的运行总数,每天将执行大约 10,000 个“交易”,并且大约有 5-10 次小数运算(add、sub、div、mul 等)来计算运行总数收到的每笔交易的新运行总计,圆形误差的巨头的顺序是什么?一个带有计算程序的答案也很好,所以我将来可以学习如何为自己做这个。
问问题
663 次
1 回答
1
考虑到浮点类型的精度,每个计算机科学家都应该知道的关于浮点运算的详细信息会详细介绍如何估计一系列浮点运算的结果中的误差。不过,我还没有在任何实际程序上尝试过这个,所以我很想知道它是否可行。
于 2010-07-02T15:57:34.220 回答