Das Fermatsche Prinzip (nach Pierre de Fermat) besagt, dass Licht in einem Medium zwischen zwei Punkten Wege nimmt, auf denen seine Laufzeit sich bei kleinen Variationen des Weges nicht ändert. Insbesondere ist die Optische Weglänge extremal, d. h. die längste oder kürzeste. Es wird auch Prinzip des extremalen optischen Weges oder Prinzip der extremalen Laufzeit genannt. Die Ursache liegt in der Wellennatur des Lichts und der damit verbundenen Interferenz. Auf nicht extremalen Wegen variiert die Weglänge stark bei kleinen Variationen des Weges, die Interferenz ist folglich destruktiv.
Aus dem Fermatschen Prinzip lassen sich das snelliussche Brechungsgesetz und das Reflexionsgesetz herleiten. Außerdem ergibt sich, dass Lichtstrahlen in jedem homogenen Medium gerade verlaufen. Dies leistet auch das Huygenssche Prinzip, das die lokale Variante des Fermatschen Prinzips darstellt.
Die Herleitung des Brechungsgesetzes aus dem Fermatschen Prinzip ist verwandt mit der Frage, welchen Weg ein Rettungsschwimmer nehmen sollte, der jemanden aus dem Wasser retten will. Ziel ist es natürlich, dem Ertrinkenden möglichst schnell zu Hilfe zu kommen. Dazu läuft der Rettungsschwimmer schnell am Strand auf einen Punkt zu, von dem aus der Weg durch das Wasser kurz ist, da er sich dort nur langsam fortbewegen kann. Läuft er aber zu weit, dann wird der Anteil des Weges im Wasser kaum noch kürzer, aber die Strecke an Land deutlich länger. Im Allgemeinen ist der schnellste Weg nicht der kürzeste („Luftlinie“).
Der Rettungsschwimmer muss aber nicht lange überlegen, denn wenn er den optimalen Punkt knapp verfehlt, ist die Zeit kaum länger, direkt am optimalen Punkt ändert sich die Zeit bei einer kleinen Variation gar nicht. Diese Unempfindlichkeit gegenüber kleinen Variationen ist eine Besonderheit des schnellsten Wegs. Sie ist der Kern des Fermatschen Prinzips.
Aus dem Fermatschen Prinzip lässt sich das Brechungsgesetz von Snellius herleiten:
In der Abbildung rechts legt der Lichtstrahl den Weg von links oben $ A=(0,a+b) $ über $ P=(x,b) $ nach rechts unten $ B=(d,0) $ zurück. Im oberen Medium sei die Lichtgeschwindigkeit $ c_{1} $ und im unteren Teil $ c_{2} $. Damit ergibt sich für die Laufzeit t in Abhängigkeit von der x-Position des Punktes P:
Nach dem Fermatschen Prinzip nimmt das Licht den Weg mit einer extremalen Laufzeit. Durch Ableiten nach $ x $ finden wir die Extremalwerte von $ t $.
Es ist $ \sin \alpha ={\frac {x}{l_{1}}} $ und $ \sin \beta ={\frac {d-x}{l_{2}}} $. Damit folgt:
Es fehlt noch der Beweis, dass es die minimale Laufzeit ist.
Lichtstrahlen folgen diesem Brechungsgesetz, weil es der schnellste Weg von $ A $ nach $ B $ ist.
Es stellt sich die berechtigte Frage, woher das Licht im Voraus weiß, welches der schnellste Weg ist. Die Quantenmechanik liefert darauf folgende Antwort:
Vereinfacht kann man sagen, die Beiträge aller Alternativ-Wege löschen sich durch inkohärente Überlagerung aus.
Ebenso wie das Brechungsgesetz lässt sich auch das Reflexionsgesetz mit Hilfe des Fermatschen Prinzips herleiten.
In der Abbildung rechts legt der Lichtstrahl den Weg von links $ A=(0,a) $ nach rechts $ B=(d,b) $ zurück und wird dabei in $ P=(x,0) $ am Spiegel reflektiert. Da der Strahl in einem (homogenen) Medium bleibt, gilt immer die gleiche Lichtgeschwindigkeit $ c $.
Damit ergibt sich für die Laufzeit t in Abhängigkeit von der x-Position des Punktes P:
Nach dem Fermatschen Prinzip nimmt das Licht den Weg mit einer extremalen Laufzeit. Durch Ableiten nach $ x $ finden wir die Extremalwerte von $ t $.
Durch das Multiplizieren beider Seiten mit $ c $ erhält man:
Es ist $ \sin \alpha ={\frac {x}{l_{1}}} $ und $ \sin \beta ={\frac {d-x}{l_{2}}} $. Damit folgt:
Weil $ \alpha $ und $ \beta $ zwei Winkel im Intervall $ [-{\tfrac {\pi }{2}},{\tfrac {\pi }{2}}] $ sind und der Sinus in diesem Intervall injektiv ist, folgt das Reflexionsgesetz:
Es fehlt noch der Beweis, dass es die minimale Laufzeit ist.
Lichtstrahlen folgen diesem Reflexionsgesetz, weil es der schnellste Weg von $ A $ nach $ B $ ist.
Die Herleitung des Reflexionsgesetzes folgt aus der des Brechungsgesetzes, wenn man beachtet, dass sich die Dreiecke „rechts unten“ (mit $ B $ und $ P $) in den Diagrammen entsprechen. Aus $ {\frac {\sin {\alpha }}{\sin {\beta }}}={\frac {c_{1}}{c_{2}}} $ mit $ c_{1}=c_{2} $ folgt direkt $ {\frac {\sin {\alpha }}{\sin {\beta }}}=1 $ und $ \alpha =\beta $.
Mathematisch beschrieben, durchläuft das Licht in einem Medium, mit dem Brechungsindex $ n(x) $, von allen möglichen Bahnen $ X^{t}:t\mapsto x(t)=\left(ct,{\vec {x}}(t)\right) $ zwischen zwei Punkten $ x(t_{1}) $ und $ x(t_{2}) $ genau die Bahn, auf der die Laufzeit
stationär ist. Die Größe $ t $ ist die Lichtlaufzeit zwischen beiden Punkten. Dies entspricht dem Hamiltonschen Prinzip der stationären Wirkung.
Meist ist die Lichtlaufzeit ein Minimum, das heißt: Jede kleine Änderung der Bahn vergrößert die Laufzeit. Dies muss aber nicht immer so sein, wie die rechte Abbildung zeigt. Für eine Bahn zwischen den zwei Brennpunkten $ S $ und $ P $ einer Ellipse sind drei mögliche Fälle eingezeichnet. Für eine beliebige Oberfläche am Rand dieser Ellipse gilt:
In einem inhomogenen Medium mit ortsabhängigem Brechungsindex durchläuft das Licht gekrümmte Bahnen. Daher erscheint zum Beispiel die untergehende Sonne abgeflacht: die Lichtstrahlen vom oberen Rand der Sonne werden weniger gebrochen als die vom unteren Rand.
Das Phänomen der Fata Morgana hat seine Ursache ebenfalls in einem optisch inhomogenen Medium. Über heißem Boden, etwa einer sonnenbeschienenen Straße, bildet sich eine heiße Luftschicht, deren Brechungsindex geringer ist als die der kühleren Luft darüber. Die Lichtstrahlen, die flach auf die heiße Luftschicht treffen, werden nach oben zurück reflektiert.
Johann I Bernoulli wandte 1696 das Fermatsche Prinzip auf ein optisches Medium mit veränderlichem Brechungsindex an, um die Form der Brachistochrone zu ermitteln, und begründete damit die Variationsrechnung.