Eigentlich kann man mit bloßem Auge eine Skala mit Strichen im Abstand von 0,1 mm kaum erkennen und auch das Schätzen des Abstands zum nächsten Millimeterstrich ist sehr ungenau. Der Nonius, die kleine Skala auf dem beweglichen Mess-Schieber, löst dieses Problem und erhöht die Ablesegenauigkeit. Er verwendet dafür einen Algorithmus, den der französische Mathematiker Pierre Vernier (1580–1637) auf Basis der Arbeiten des portugiesischen Astronomen Pedro Nunes alias Petrus Nonius (1502–1578) entwickelt hat, und der die Fähigkeit des visuellen Systems nutzt, wesentlich genauer erkennen zu können, ob zwei Linien auf gleicher Höhe sind.
Ausgangspunkt ist eine Regel des kleinen Einmaleins: bei der Multiplikation der 9 steigt die Differenz zur nächsten Zehnerzahl mit jedem Multiplikationsschritt kontinuierlich um 1. Da die Noniusskala in 10 Abstände von 3,9 mm eingeteilt ist, trifft immer dort ein Strich der Nonius-Skala genau auf einen Strich auf der Millimeterskala, wo der zu bestimmende Überstand 0,n mm aus dem Bereich 0,1 bis 0,9 mm zusammen mit der Multiplikation von n * 3,9 mm eine ganze Zahl ergibt. Beispiel: Wenn der gesuchte Wert bei 24,7 mm liegt, ist n=7; die nächste ganze Zahl ist damit 0,7 mm + (7*3,9=27,3) mm = 28 mm. 24 + 28 = 52 mm. Das kann man sehen: die 52 mm oben stehen genau über der 7 unten, d.h. 0,7 mm ist die gesuchte Zahl.
Animierte Grafik von Joaquim Alves Gaspar, wikimedia.org