Die Begriffe reiner und gemischter Zustand (besser: Zustandsgemisch) bezeichnen in der Quantenstatistik, dem Teilgebiet der Quantenmechanik für Vielteilchensysteme, bestimmte quantenmechanische Zustände.
Ein reiner Zustand liegt vor, wenn das betrachtete System in einem fest definierten Zustand ist, der durch einen Zustandsvektor $ |\psi \rangle $ aus dem Hilbertraum beschrieben wird. Dann findet man es mit der Wahrscheinlichkeit $ p=1 $ in diesem Zustand $ |\psi \rangle $. Somit ist der Dichteoperator
gerade die Projektion auf den Zustand $ |\psi \rangle $. Diese ist idempotent, d. h., es gilt $ \rho _{\psi }^{2}=\rho _{\psi } $.
Eine alternative Definition eines reinen Zustandes lässt sich auch auf den allgemeineren Zustandsbegriff für C*-Algebren von Operatoren erweitern. Ein Zustand auf einer C*-Algebra $ A $ ist ein positives lineares Funktional mit Norm 1, also eine Abbildung $ \varphi \colon A\to \mathbb {K} $ mit $ \varphi (A_{+})\subseteq \mathbb {R} _{+} $ und $ \|\varphi \|=1 $. Die Menge der Zustände $ S(A) $ bildet eine konvexe Menge. Ein reiner Zustand ist ein Zustand, der extremal in $ S(A) $ ist. D. h., ein reiner Zustand lässt sich nicht als Konvexkombination (eine Linearkombination mit positiven Koeffizienten, deren Summe 1 ergibt) zweier anderer Zustände beschreiben.
Das Gegenstück zu einem reinen Zustand ist ein Zustandsgemisch. Dieses wird manchmal auch als gemischter Zustand bezeichnet, was semantisch etwas unpräzise ist, weil zwischen kohärenter und inkohärenter Mischung zu unterscheiden ist. Bei kohärenter Überlagerung werden Wellenfunktionen linear superponiert, $ |\psi \rangle =a_{1}|\psi _{1}\rangle +a_{2}|\psi _{2}\rangle +..., $ (im Allgemeinen mit komplexen Faktoren $ a_{i} $). Bei inkohärenter Überlagerung werden ihre Projektionsoperatoren linear superponiert, $ {\hat {\rho }}=p_{1}|\psi _{1}\rangle \langle \psi _{1}|+p_{2}|\psi _{2}\rangle \langle \psi _{2}|+... $ (im Allgemeinen mit reellen Faktoren $ p_{i} $ und $ \textstyle \sum _{i}p_{i}=1 $). Ein analoger Unterschied besteht in der Optik zwischen der kohärenten Addition von Amplituden (Wellenoptik) und der inkohärenten Addition von Intensitäten (Strahlenoptik). Bei der kohärenten Überlagerung hängt das Resultat von den relativen Phasen der superponierten Zustände ab, und das System befindet sich mit Wahrscheinlichkeit 1 im Zustand $ |\psi \rangle $. Bei der inkohärenten Überlagerung hängt das Zustandsgemisch nicht von den Phasen ab, und es gibt keinen einzelnen reinen Zustand, in dem sich das System mit Wahrscheinlichkeit 1 befindet (ausgenommen der triviale Fall, wo bis auf einen alle Faktoren $ p_{i}=0 $). Diese Situation entsteht häufig, z. B. wenn man das System wiederholte Male präpariert und dabei nur mit relativen Häufigkeiten $ p_{i} $ einen der reinen Zustände $ |\psi _{i}\rangle $ erzeugt. Die Zustände $ |\psi _{i}\rangle $ müssen dabei nicht orthogonal zueinander sein. Sind sie orthogonal, dann sind sie auch die Eigenzustände des Dichteoperators mit den Eigenwerten $ p_{i} $.
Der Dichteoperator ist also
Der Erwartungswert eines beliebigen Operators $ {\hat {O}} $ (mit Eigenwerten $ \lambda _{i} $ und Eigenzuständen $ |\lambda _{i}\rangle $) ist dann die mit den $ p_{i} $ gewichtete Summe der Erwartungswerte von $ {\hat {O}} $ in jedem der einzelnen Zustände $ |\psi _{i}\rangle $ („inkohärente Überlagerung“):
Sind die reinen Zustände $ |\psi _{i}\rangle $ orthogonal zueinander, dann gibt das Gewicht $ p_{i} $ die Wahrscheinlichkeit dafür an, das System im reinen Zustand $ |\psi _{i}\rangle $ zu finden. Sind sie nicht orthogonal, gilt das nicht. Vielmehr gilt für die Wahrscheinlichkeit, das Gemisch in einem bestimmten Zustand $ |\psi _{m}\rangle $ zu finden:
Unterschiedliche Zusammensetzungen können die gleiche Dichtematrix erzeugen:
Hierbei sind die Zustände $ |z\pm \rangle $ und $ |x\pm \rangle $ die Eigenzustände des Spin-1/2-Systems zur z- bzw. x-Achse. Die beiden Formeln mit unterschiedlichen Projektionsoperatoren scheinen einmal die z-Achse, das andere Mal die x-Achse auszuzeichnen. Sie sind jedoch identisch, wie man erkennt, wenn man die üblichen Identifikationen $ |z-\rangle \,=\,{\frac {1}{\sqrt {2}}}(|\uparrow \rangle \ -|\downarrow \rangle )=\ {\frac {1}{\sqrt {2}}}({\begin{pmatrix}1\\0\end{pmatrix}}-...) $ und $ |x+\rangle \,=\,{\frac {1}{\sqrt {2}}}(|\rightarrow \rangle +|\leftarrow \rangle )\ ={\frac {1}{\sqrt {2}}}(\,{\begin{pmatrix}1\\1\end{pmatrix}}+...) $ benutzt (siehe z. B. Bell-Zustand).
Den Dichteoperator eines inkohärenten Zustandsgemischs (aus mindestens zwei Zuständen) erkennt man daran, dass für ihn gilt: $ \rho ^{2}<\rho , $ während bei kohärenter Mischung immer das Gleichheitszeichen gilt, $ \rho ^{2}=\rho . $
Das prominenteste Beispiel für inkohärente Superposition gibt die Thermodynamik bzw. Statistische Physik (Quantenstatistik). Hier ist $ \rho ={\frac {\exp(-\beta {\hat {H}})}{Z(T)}} $. Dabei ist $ \beta $ die reziproke Fermi-Temperatur T, genauer: $ \beta =1/(k_{B}\cdot T), $ mit der Boltzmann-Konstante $ k_{B}; $ $ {\hat {H}} $ ist der Hamiltonoperator (Energieoperator) des Systems; es ist also $ p_{i}={\frac {\exp(-\beta E_{i})}{Z(T)}}; $ Z(T) schließlich ist die sogenannte Zustandssumme, $ Z(T)=\sum _{i}\,\exp(-\beta E_{i}), $ was $ \sum _{i}p_{i}=1 $ entspricht. Für die thermodynamische Entropie $ S(T) $ des Systems gilt: $ S(T)=k_{B}S_{N}\equiv -k_{B}T\cdot \ln Z(T), $ mit der im Artikel Bell-Zustand statistisch definierten von-Neumann-Entropie $ S_{N}=\sum _{i}-p_{i}\ln p_{i}\ (=-\ \mathrm {Sp} \,\rho \cdot \ln \rho ). $ Beide Entropien sind also im Wesentlichen identisch.
Das prominenteste Beispiel für kohärente Superpositionen gibt die Laserstrahlung. Hier strahlen die Laseratome gleichphasig, also im Takt. Es werden Übergänge zwischen unterschiedlichen „reinen“ Energiezuständen des bestrahlten Systems induziert, wobei die Übergangrate, das ist die Zahl der Übergänge dividiert durch die Zeit, nicht wie bei inkohärenter Strahlung konstant ist, sondern z. B. über eine gewisse Zeitspanne sehr rasch anwächst. Die erzeugte Strahlungsintensität ($ \propto |{\vec {E}}|^{2} $) ist sehr viel größer als bei inkohärenter Anregung ($ \propto N^{2}, $ verglichen mit $ \propto N $ bei inkohärentem Licht. Dabei ist $ N $, die Zahl der beteiligten Atome, extrem groß, sodass $ N^{2} $ um viele Zehnerpotenzen größer ist als $ N. $)
Bei inkohärenter Anregung erfolgen die Energieübergänge nicht im Takt, sondern z. B. mit Zufallsphasen. Für die mittlere Übergangsrate gilt jetzt eine sog. „Goldene Regel“ von E. Fermi.