Die theoretische Mechanik oder analytische Mechanik befasst sich mit den mathematischen Grundlagen der klassischen Mechanik und der relativistischen Mechanik. Sie untersucht die Eigenschaften der Grundgleichungen und ihrer Lösungen und entwickelt Methoden zur exakten oder näherungsweisen Lösung von bestimmten Problemklassen.
Im Prinzip enthalten die Newtonschen beziehungsweise relativistischen Gleichungen bereits die gesamte klassische Mechanik. In der Praxis sind diese Gleichungen jedoch für die Behandlung vieler Probleme nicht ideal. Daher wurden alternative Formulierungen der Mechanik entwickelt, die für die meisten Probleme besser geeignet sind. Zudem lässt sich mit diesen alternativen Formulierungen in der Regel der Zusammenhang zwischen klassischer Mechanik und Quantenmechanik besser untersuchen.
Eine dieser alternativen Formulierungen ist das Prinzip der extremalen Wirkung (oft etwas ungenau als "Prinzip der kleinsten Wirkung" bezeichnet, da in den meisten Fällen das Extremum ein Minimum ist). Es liefert die Grundlage für das Noether-Theorem, das einen Zusammenhang zwischen den Symmetrien eines physikalischen Systems und dessen Erhaltungsgrößen herstellt. Zudem ergibt es sich mittels der Stationäre-Phasen-Näherung als Grenzfall der Quantenmechanik für kurze Wellenlängen, was eine formale Ableitung der klassischen Mechanik als Grenzfall der Quantenmechanik erlaubt (Korrespondenzprinzip). Für die unmittelbare praktische Berechnung konkreter Probleme ist dieses Prinzip jedoch in der Regel nicht günstig.
Aus dem Prinzip der extremalen Wirkung lässt sich jedoch der Lagrange-Formalismus herleiten, der für die meisten konkreten Probleme die Methode der Wahl ist. Er liefert eine konsistente formale Methode, um die Bewegungsgleichungen für ein physikalisches System zu bestimmen. Hierbei können insbesondere beliebige Zwangsbedingungen (beispielsweise die Bedingung, dass das Rad eines Fahrrads nur abrollen, aber nicht rutschen soll) einbezogen werden, ohne dass man sich im Voraus überlegen muss, welche Zwangskräfte dabei auftreten; letztere erhält man als Resultat aus dem Formalismus. Der Lagrange-Formalismus liefert auch die Grundlage für den Pfadintegral-Formalismus der Quantenmechanik.
Aus dem Lagrange-Formalismus lässt sich der Hamilton-Formalismus herleiten. Auch dieser ist für die Lösung vieler konkreter Probleme gut geeignet. Zudem eignet er sich gut zur theoretischen Untersuchung der Eigenschaften klassischer Trajektorien. Da er – anders als die bisher vorgestellten Formalismen – im Phasenraum arbeitet, kann er den kompletten mathematischen Apparat der symplektischen Geometrie nutzen. Der Hamilton-Formalismus ist auch die Ausgangsbasis für die kanonische Quantisierung, den einfachsten Weg, die Schrödingergleichung für ein physikalisches System aufzustellen.
Aus der Hamiltonschen Mechanik lässt sich wiederum der Hamilton-Jacobi-Formalismus herleiten. Dieser ist wegen der Verwendung partieller Differentialgleichungen in der Regel nicht ideal für die Lösung konkreter Probleme, eignet sich jedoch für theoretische Untersuchungen. Die Hamilton-Jacobi-Gleichung lässt sich auch direkt als erste Näherung der Phase der quantenmechanischen Wellenfunktion aus der Schrödingergleichung bei formaler Entwicklung nach ħ gewinnen. Sie liefert daher einen besonders direkten Zusammenhang zwischen klassischer Mechanik und Quantenmechanik.
Die theoretische Mechanik verwendet verschiedene Methoden zur Untersuchung des Verhaltens physikalischer Systeme. Die naheliegende Methode, die geschlossene mathematische Lösung der Bewegungsgleichungen, ist nur selten überhaupt möglich. Zudem verrät sie nur etwas über das behandelte Einzelsystem; in der theoretischen Physik interessiert man sich aber oft mehr für Eigenschaften, die ganze Klassen physikalischer Systeme gemeinsam haben.
Eine wichtige Klasse bilden die Methoden der Störungstheorie. Diese beschreiben, wie sich das Verhalten eines Systems ändert, wenn man dessen Eigenschaften nur leicht verändert (beispielsweise ein Pendel nur leicht aus der Ruhelage auslenkt oder ein schwaches elektrisches Feld an ein System anlegt). Störungstheoretische Methoden liefern oft im konkreten Fall die einzige Möglichkeit, analytische Lösungen zu berechnen; sie erlauben aber oft auch tiefere Einsichten in das Verhalten eines physikalischen Systems.