Das Rayleigh-Kriterium ist eine heuristische Bedingung für den Abstand zweier Lichtquellen, um sie als getrennt erkennen zu können. Nach John William Strutt, 3. Baron Rayleigh, ist dieser Mindestabstand gleich dem Abstand des ersten Minimums vom Zentrum des Beugungsmusters. Durch diesen Bezug ist das Kriterium nur anwendbar, sofern das Auflösungsvermögen durch Beugung begrenzt ist und das Beugungsmuster überhaupt ein Minimum aufweist. Es gibt allgemeiner anwendbare Kriterien.
Falls die beugungsbegrenzte Auflösung in nur einer Richtung interessiert, wie etwa bei optischen Inkrementalgebern, ist die Beugung am Spalt zu betrachten. Für den einfarbig beleuchteten Einzelspalt etwa ergibt sich für den noch trennbaren Winkel (im Bogenmaß):
mit
In einem Abstand Fehler beim Parsen (MathML mit SVG- oder PNG-Rückgriff (empfohlen für moderne Browser und Barrierefreiheitswerkzeuge): Ungültige Antwort („Math extension cannot connect to Restbase.“) von Server „https://wikimedia.org/api/rest_v1/“:): l vom Spalt ergibt sich daraus die beobachtbare Halbwertsbreite Fehler beim Parsen (MathML mit SVG- oder PNG-Rückgriff (empfohlen für moderne Browser und Barrierefreiheitswerkzeuge): Ungültige Antwort („Math extension cannot connect to Restbase.“) von Server „https://wikimedia.org/api/rest_v1/“:): b:
Beide Näherungen für den Winkel (im Bogenmaß) gelten, falls die Wellenlänge des verwendeten Lichts viel kleiner als die Spaltbreite ist:
Für bildgebende Optiken bedeutsam ist der Fall der Beugung an einer kreisförmigen Blende mit Durchmesser d, z. B. der Öffnung eines Teleskops, siehe Beugungsscheibchen. Dann gilt für die Winkelentfernung des ersten Minimums:
Dieses formale Ergebnis liegt nahe am empirisch gefundenen Dawes-Kriterium für visuelle Beobachtungen an Doppelsternen.
Bei einem Mikroskop spricht man von der Abbeschen Auflösungsgrenze, die durch die numerische Apertur Fehler beim Parsen (MathML mit SVG- oder PNG-Rückgriff (empfohlen für moderne Browser und Barrierefreiheitswerkzeuge): Ungültige Antwort („Math extension cannot connect to Restbase.“) von Server „https://wikimedia.org/api/rest_v1/“:): \text{NA} und die Wellenlänge bestimmt wird. Hier wird normalerweise die Auflösung über den kleinsten Abstand zweier (Punkt-)Objekte beschrieben (nicht wie oben über Winkel). Wie oben beschrieben sind nach Rayleigh zwei (Punkt-)Objekte mit dem Abstand Fehler beim Parsen (MathML mit SVG- oder PNG-Rückgriff (empfohlen für moderne Browser und Barrierefreiheitswerkzeuge): Ungültige Antwort („Math extension cannot connect to Restbase.“) von Server „https://wikimedia.org/api/rest_v1/“:): a gerade dann noch auflösbar, wenn das Beugungsscheibchen des ersten Objekts auf das erste Minimum des Beugungsscheibchen des zweiten Objekts fällt. Mathematisch führt das zu:[1]
Hierbei ist Fehler beim Parsen (MathML mit SVG- oder PNG-Rückgriff (empfohlen für moderne Browser und Barrierefreiheitswerkzeuge): Ungültige Antwort („Math extension cannot connect to Restbase.“) von Server „https://wikimedia.org/api/rest_v1/“:): n der Brechungsindex des Mediums zwischen Linse und Bild. Der Faktor 2 kommt daher, dass sich hier Fehler beim Parsen (MathML mit SVG- oder PNG-Rückgriff (empfohlen für moderne Browser und Barrierefreiheitswerkzeuge): Ungültige Antwort („Math extension cannot connect to Restbase.“) von Server „https://wikimedia.org/api/rest_v1/“:): \text{NA} bzw. Fehler beim Parsen (MathML mit SVG- oder PNG-Rückgriff (empfohlen für moderne Browser und Barrierefreiheitswerkzeuge): Ungültige Antwort („Math extension cannot connect to Restbase.“) von Server „https://wikimedia.org/api/rest_v1/“:): \theta auf den halben Durchmesser des Objektivs beziehen, im Gegensatz zu Fehler beim Parsen (MathML mit SVG- oder PNG-Rückgriff (empfohlen für moderne Browser und Barrierefreiheitswerkzeuge): Ungültige Antwort („Math extension cannot connect to Restbase.“) von Server „https://wikimedia.org/api/rest_v1/“:): d in obigen Gleichungen.
en:Angular resolution#Explanation