我正在查看一个 c++ 任务,该任务读取包含十进制数字的文件并将每个数字作为单个 4-byte 存储在数据结构中float
。在更改过程(使用double
)之前,我想知道文件中的数字与结构中存储的数字之间的平均误差是多少。
例如,如果文件读取19.5
并且数据结构是,19.49999999
那么错误是
abs(19.49999999 / 19.5 - 1) = 5.128205128205128e-8 %
如果分布很重要,文件中的大多数数字都是正数且小于 1000。
我正在查看一个 c++ 任务,该任务读取包含十进制数字的文件并将每个数字作为单个 4-byte 存储在数据结构中float
。在更改过程(使用double
)之前,我想知道文件中的数字与结构中存储的数字之间的平均误差是多少。
例如,如果文件读取19.5
并且数据结构是,19.49999999
那么错误是
abs(19.49999999 / 19.5 - 1) = 5.128205128205128e-8 %
如果分布很重要,文件中的大多数数字都是正数且小于 1000。