Como calcular a precisão do multímetro? - É simples assim!
A especificação de precisão é expressa da seguinte forma:
porcentagem de leitura mais porcentagem de faixa
Nesta fórmula, "porcentagem de leitura" é proporcional à leitura e "porcentagem de faixa" é o valor de deslocamento. Estas especificações são feitas para cada faixa de medição.
Se a precisão não atender aos requisitos de resolução de medição, a resolução não afetará a precisão. No entanto, você ainda pode usar um multímetro para monitorar pequenas alterações durante a medição.
Por exemplo:
Supondo que você queira medir um sinal de 10 Vdc usando um multímetro de 34401A com precisão de 1 ano e uma faixa de 10V, a precisão é: 0,0035 mais 0.0005=10 x (0,0035 / 100) mais 10 x (0,0005 / 100)=mais /-0.00040
portanto:
Valor medido: 10.00000
A precisão é: * mais /-0.00040
Resolução: 0.00001
A leitura real está entre 9,9996 e 10,0004
Os últimos dois dígitos da medição incluem um erro.
*Alguns modelos de multímetros usam "ppm" em vez de "porcentagem de leitura" e "porcentagem de faixa".
O valor de ppm pode ser obtido multiplicando por 1/1,000,000 (= 10-6).
Exemplo 1:
Se o erro de 1 (V) for 10ppm,
Então, o valor real do erro é 1 x 10 x (1/1,000,000)=0.00001 (V).
Exemplo 2:
Se o erro de 1 0 (V) for 5ppm,
Então o valor de erro real é 10 x 5 x 10-6=50 u(V).