data-acquisition - 数据采集​​系统

Question

仪器分辨率和精度是什么意思以及它们是如何计算的

Answer 1

分辨率决定了您的仪器是否可以测量 19.3 毫米长度和 19.4 毫米长度之间的差异（此示例需要至少 1 毫米的分辨率）。

精度决定了仪器提供的值与实际值的差距，例如观察到的 19.3 毫米长度在 19.1 毫米和 19.5 毫米之间的任何位置（本示例的精度为 0.2 毫米）。

当然，最好阅读您的仪器（或您的程序要求）的文档，以确定它们用于表示和计算分辨率和精度的约定。