La précision de la mesure linéaire est principalement fonction:

de la qualité du réseau de traits

de la qualité du balayage

de la qualité de l'électronique de traitement des signaux

des écarts de guidage de la tête captrice par rapport à la règle de mesure

Il convient de distinguer les erreurs de position sur des longueurs de mesure équivalentes – par exemple, sur toute la course de mesure – ainsi que les erreurs de position à l'intérieur d'une période de signal.