Precisão do multímetro digital (precisão)
A precisão de um multímetro digital é uma combinação de erros sistemáticos e aleatórios nos resultados da medição. Indica o grau de concordância entre o valor medido e o valor real, e também reflete o tamanho do erro de medição. De um modo geral, quanto maior a precisão, menor o erro de medição e vice-versa.
A precisão pode ser expressa de três maneiras, como segue:
Precisão=±(um percentual RDG mais b percentual FS) (2.2.1)
Precisão=±(uma porcentagem de RDG mais n palavras) (2.2.2)
Precisão=±(a porcentagem RDG mais b porcentagem FS mais n palavras) (2.2.3)
Na fórmula (2.2.1), RDG é o valor de leitura (ou seja, o valor exibido), FS é o valor de fundo de escala e o item anterior entre parênteses representa o conversor A/D e o conversor funcional (como tensão divisor, divisor de corrente, verdadeiro conversor de valor efetivo), este último é o erro devido à digitalização. Na fórmula (2.2.2), n é a variação do erro de quantização refletido no último dígito. Se o erro de n palavras for convertido em porcentagem da escala completa, torna-se a fórmula (2.2.1). A fórmula (2.2.3) é especial, alguns fabricantes utilizam esta expressão, e um dos dois últimos itens representa o erro introduzido por outros ambientes ou funções.
Os multímetros digitais são muito mais precisos do que os multímetros analógicos analógicos. Tomando como exemplo o índice de precisão da faixa básica para medir a tensão CC, os 3 dígitos e meio podem chegar a ± 0,5 por cento, e os 4 dígitos e meio podem chegar a 0,03 por cento. Por exemplo: multímetros OI857 e OI859CF. A precisão do multímetro é um indicador muito importante, que reflete a qualidade e a capacidade tecnológica do multímetro.