測量儀器的精度·公差按“f.s.”、“rdg.”、“dgt.”等規(guī)定。

“f.s.”：滿量程 表示最大顯示（刻度）值或刻度長度。

“rdg.”：讀取值 表示當(dāng)前測量值，即測量儀器目前指示或顯示的值。

“dgt.”：數(shù)位分辨率 表示數(shù)字式測量儀器的最小顯示單位，即最小位的“1”。

測量值的誤差界限值，由各個精度計算值加法求出。

＜計算示例＞
精度規(guī)格：±1.0％rdg.±3dgt.
測量量程：300.0V
測量值：100.0V

如果測量到的值為100.0V，
(1) rdg.誤差：100.0Vの1.0％=±1.0V
(2) dgt.誤差：最小分辨率為0.1V，因此 3drt.=±0.3V
(3) 總誤差(1)+(2) ： ±1.3V

根據(jù)總誤差(3)求出100.0V的測量值對應(yīng)的誤差界限值為98.7～101.3V。