Resolução (resolução) de um multimetro digital
O valor da tensão correspondente à última palavra do métrica digital na faixa de tensão mais baixa é chamado de resolução, o que reflete a sensibilidade do instrumento. A resolução de instrumentos digitais aumenta com o número de dígitos exibidos. O índice de maior resolução que pode ser alcançado por multimetros digitais com diferentes dígitos é diferente, por exemplo: 100μV para um multimetro de 3 1/2 dígitos.
O índice de resolução do multimetro digital também pode ser exibido por resolução. Resolução é a porcentagem do menor número (que não zero) que o medidor pode exibir para o maior número. Por exemplo, um multimetro digital geral de 3 1/2 dígitos pode exibir um número mínimo de 1 e um número máximo de 1999, de modo que a resolução é igual a 1/1999≈0,05%.
Deve-se ressaltar que a resolução e a exatidão pertencem a dois conceitos diferentes. O primeiro caracteriza a "sensibilidade" do instrumento, ou seja, a capacidade de "reconhecer" pequenas tensões; Este último reflete a "precisão" da medição, ou seja, o grau em que o resultado da medição é consistente com o valor real. Não há conexão necessária entre os dois, portanto eles não podem ser confundidos, e a resolução (ou resolução) não deve ser confundida com semelhante à precisão, que depende do conversor interno de A/D do instrumento, do erro abrangente do conversor de função e do erro de quantização. Do ponto de vista da medição, a resolução é um indicador "virtual" (que não tem nada a ver com erro de medição), enquanto a precisão é um indicador "real" (determina o tamanho do erro de medição). Portanto, é impossível aumentar arbitrariamente os dígitos de exibição para melhorar a resolução do instrumento.
