例如:MF-30型万用表,其Rxl0挡的中心电阻为250ω;R×l00挡的中心电阻为2.5kω。准确度等级为2.5级。用它测一个500ω的标准电阻,问用R×l0挡与R×100挡来测量,哪个误差大?解:由2式得:
R×l0挡最大绝对允许误差△R(10)=中心电阻×R%=250ω×(±2.5)%=±6.25ω。用它测量500ω标准电阻,则500ω标准电阻的示值介于493.75ω~506.25ω之间。最大相对误差为:±6.25÷500ω×100%=±1.25%。
R×l00挡最大绝对允许误差△R(100)=中心电阻×R%2.5kω×(±2.5)%=±62.5ω。用它测量500ω标准电阻,则500ω标准电阻的示值介于437.5ω~562.5ω之间。最大相对误差为:±62.5÷500ω×100%=±10.5%。
由计算结果对比表明,选择不同的电阻量程,测量产生的误差相差很大。因此,在选择挡位量程时,要尽量使被测电阻值处于量程标尺弧长的中心部位。测量精度会高一些。