Die Hyperfeinstruktur ist eine Energieaufspaltung in den Spektrallinien der Atomspektren. Sie ist etwa 2000-fach kleiner als die der Feinstruktur-Aufspaltung. Die Hyperfeinstruktur beruht zum einen auf der Wechselwirkung der Elektronen mit magnetischen (Dipol-) und elektrischen (Quadrupol-) Momenten des Kerns sowie zum anderen auf der Isotopie der Elemente.
Im engeren Sinne versteht man unter Hyperfeinstruktur die Aufspaltung der Energieniveaus $ V_{\mathrm {HFS} } $ eines Atomes – gegenüber den Niveaus der Feinstruktur – aufgrund der Kopplung des magnetischen Moments $ {\vec {\mu }}_{I} $ des Kerns mit dem Magnetfeld $ {\vec {B}}_{J} $, das die Elektronen an seinem Ort erzeugen:
Dabei bedeuten die Indizes:
Die größte Hyperfeinstruktur-Aufspaltung zeigen s-Elektronen, weil nur sie eine größere Aufenthaltswahrscheinlichkeit am Ort des Kerns besitzen.
In einem schwachen äußeren Magnetfeld spalten sich die Energieniveaus gemäß einer sehr ähnlichen Formel weiter auf nach der magnetischen Quantenzahl $ m_{F} $ der Hyperfeinstruktur (Zeeman-Effekt). In einem starken äußeren Magnetfeld entkoppeln der Kern- und der Hüllendrehimpuls, so dass man eine Aufspaltung nach der magnetischen Quantenzahl $ m_{I} $ des Kerns beobachtet (Paschen-Back-Effekt). Für beliebige Feldstärken kann man (im Fall verschwindenden Bahndrehimpulses) die Breit-Rabi-Formel heranziehen.
Die Kopplung bewirkt, dass der Gesamtdrehimpuls $ {\vec {F}} $ des Atoms, der die Summe des Hüllendrehimpulses $ {\vec {J}} $ und des Kernspins $ {\vec {I}} $ darstellt, gequantelt ist:
Die Quantenzahl $ F $ ist halb- (Fermi-Dirac-Statistik) oder ganzzahlig (Bose-Einstein-Statistik) und kann die Werte $ \{|J-I|,\dots ,J+I\} $ im Abstand von 1 annehmen.
Die Wechselwirkungsenergie beträgt
Dabei ist
Das magnetische Moment und der Drehimpuls des Kerns stehen in folgender Beziehung:
Zur Bestimmung von $ V_{\mathrm {HFS} } $ benötigt man die Größen $ g_{I} $ und $ B_{J} $. Der Wert von $ g_{I} $ kann durch Kernspinresonanz-Messungen bestimmt werden, der von $ B_{J} $ aus der Wellenfunktion der Elektronen, die allerdings für Atome mit einer Ordnungszahl größer 1 nur numerisch zu berechnen ist.
Übergänge zwischen Hyperfeinstrukturzuständen werden in Atomuhren verwendet, weil ihre Frequenz (wie die aller atomarer Übergänge) konstant ist. Außerdem ist sie sehr genau mit relativ einfachen Mitteln zu erzeugen und zu messen, da sie im Radiofrequenz- oder Mikrowellenbereich liegt. Seit 1967 wird die physikalische Einheit Sekunde mittels Übergängen zwischen den beiden Hyperfeinstrukturniveaus des Grundzustandes des Caesium-Isotops 133Cs festgelegt.
Die Frequenz für den Übergang des Grundzustandes des Wasserstoffatoms zwischen $ F=1 $ und $ F=0 $ (Spin-Flip) beträgt 1,420 GHz, was einer Energiedifferenz von 5,87 μeV und einer Wellenlänge von 21 cm entspricht. Diese sog. HI-Linie (H-Eins-Linie) ist von großer Bedeutung für die Radioastronomie. Durch Messung der Dopplerverschiebung dieser Linie lässt sich die Bewegung interstellarer Gaswolken relativ zur Erde bestimmen.
Außerdem gibt es noch die Isotopen-Effekte. Anders als der Kernspin liefern diese keine Niveau-Aufspaltung innerhalb eines einzelnen Atoms. Vielmehr liegt eine Verschiebung der Spektrallinien für verschiedene Isotope desselben Elements vor, die so genannte Isotopieverschiebung. Dadurch ist bei einem Isotopengemisch eine Aufspaltung der Linien zu beobachten.
Der Kernmasseneffekt beruht auf der Mitbewegung des Atomkerns. Diese äußert sich in einer geringeren effektiven Masse des Elektrons. Da die Kerne verschiedener Isotope unterschiedliche Masse haben, ist die effektive Masse ihrer Elektronen ebenfalls leicht unterschiedlich, was sich in einer entsprechenden Verschiebung aller Zustände in Richtung höherer Energie äußert. Da die Kernmitbewegung mit steigender Masse des Kerns abnimmt, spielt dieser Effekt vor allem für leichte Atomkerne eine Rolle.
Der Kernvolumen-Effekt beruht auf der endlichen Ausdehnung des Atomkerns. Elektronen in s-Zuständen (also mit Bahndrehimpuls 0) haben eine nicht vernachlässigbare Aufenthaltswahrscheinlichkeit im Kern, wo das Potential nicht mehr die reine Coulomb-Form hat. Diese Abweichung bedeutet eine Anhebung der Energien der Zustände, die vom Volumen des Kerns abhängt. Absolut gesehen ist dieser Effekt bei schweren Atomen am größten, da diese die größten Atomkerne haben. Die Aufspaltung ist jedoch wiederum bei den kleineren Atomkernen größer, da hier die Verhältnisse der Kernvolumina verschiedener Isotope größer sind.
Elektrische und magnetische Felder der Nachbaratome in Molekülen und Kristallen sowie die Atomhülle selbst beeinflussen die Aufspaltung der Spinzustände in die beobachtete Hyperfeinstruktur. In der Festkörperphysik und in der Festkörperchemie werden Methoden der nuklearen Festkörperphysik genutzt, um die lokale Struktur in Festkörpern (Metallen, Halbleitern, Isolatoren) zu untersuchen. Diese Methoden, wie Kernspinresonanzspektroskopie (NMR), Mößbauer-Spektroskopie und Gestörte Gamma-Gamma-Winkelkorrelation (PAC-Spektroskopie), ermöglichen mit hoher Sensitivität unter Nutzung des Atomkerns als Sonde, Strukturen auf atomar Skala zu erforschen. In der Biochemie wird NMR zu strukturellen Analyse von organischen Molekülen verwendet.