Precision är en kombination av olika avvikelser, som repeterbarhet och linjäritet. Diagrammet nedan hjälper oss att definiera precision, så att vi kan svara på frågan ”Hur exakta är vägningssensorer?”
Rad A visar mätpunkter med systemiskt fel (bristande noggrannhet) och rad B visar mätpunkter utan systematiska fel (korrekta). Kolumn 1 visar utspridda mätpunkter (bristande precision) och kolumn 2 visar mätpunkter i stort sett utan spridning (exakta). För upprepade mätningar krävs det korrekta och exakta mätpunkter för att uppnå precision och därför är principiellt endast mätpunkterna i fält B2 exakta.
Den mest exakta vägningssensorn från METTLER TOLEDO är SPC med kapaciteter på upp till 21 g, en läsbarhet på 0,01 mg, repeterbarhet på 0,02 mg och linjäritetsavvikelse på mindre än 0,05 mg.