Das Rayleigh-Kriterium ist eine heuristische Bedingung für den Abstand zweier Lichtquellen, um sie als getrennt erkennen zu können. Nach John William Strutt, 3. Baron Rayleigh, ist dieser Mindestabstand gleich dem Abstand des ersten Minimums vom Zentrum des Beugungsmusters. Durch diesen Bezug ist das Kriterium nur anwendbar, sofern das Auflösungsvermögen durch Beugung begrenzt ist und das Beugungsmuster überhaupt ein Minimum aufweist. Es gibt allgemeiner anwendbare Kriterien.
Falls die beugungsbegrenzte Auflösung in nur einer Richtung interessiert, wie etwa bei optischen Inkrementalgebern, ist die Beugung am Spalt zu betrachten. Für den einfarbig beleuchteten Einzelspalt etwa ergibt sich für den noch trennbaren Winkel (im Bogenmaß):
mit
In einem Abstand
Beide Näherungen für den Winkel (im Bogenmaß) gelten, falls die Wellenlänge des verwendeten Lichts viel kleiner als die Spaltbreite ist:
Für bildgebende Optiken bedeutsam ist der Fall der Beugung an einer kreisförmigen Blende mit Durchmesser d, z. B. der Öffnung eines Teleskops, siehe Beugungsscheibchen. Dann gilt für die Winkelentfernung des ersten Minimums:
Dieses formale Ergebnis liegt nahe am empirisch gefundenen Dawes-Kriterium für visuelle Beobachtungen an Doppelsternen.
Bei einem Mikroskop spricht man von der Abbeschen Auflösungsgrenze, die durch die numerische Apertur
Hierbei ist
en:Angular resolution#Explanation