A precisão é determinada pela combinação de diferentes desvios, como a repetibilidade e linearidade. O diagrama abaixo ajuda a definir a precisão para que possamos responder à pergunta: “Qual é a precisão dos sensores de peso?
A linha A mostra pontos de medição com um erro sistemático (falta de veracidade); pontos de medição da linha B sem erro sistemático (correto). A coluna 1 mostra pontos de medição dispersos (falta de precisão); a coluna 2 mostra pontos de medição praticamente sem dispersão (precisos). Para medições repetidas, a precisão exige pontos de medição corretos e precisos; assim, em geral, apenas os pontos de medição no campo B2 são precisos.
O sensor de peso mais preciso da METTLER TOLEDO é o SPC, com capacidades de até 21 g, resolução de 0,01 mg, repetibilidade de 0,02 mg e desvio de linearidade inferior a 0,05 mg.