Die mathematische Stabilitätstheorie beschäftigt sich mit der Entwicklung von Störungen, die als Abweichung von bestimmten Zuständen dynamischer Systeme auftreten. Ein solcher Zustand kann etwa eine Ruhelage oder ein bestimmter Orbit sein, z. B. ein periodischer Orbit. Ein System ist instabil, wenn eine kleine Störung zu großen und aufklingenden Abweichungen führt.

Neben ihrer theoretischen Bedeutung wird die Stabilitätstheorie in der Physik und in der Theoretischen Biologie angewendet sowie in technischen Gebieten, z. B. in der Technischen Mechanik oder der Regelungstechnik.

Die Lösungsansätze für die Probleme der Stabilitätstheorie sind gewöhnliche und partielle Differentialgleichungen.

Für die Charakterisierung der Stabilität der Ruhelage eines dynamischen Systems ${\displaystyle {\dot {\vec {x}}}=f({\vec {x}})}$ existieren mehrere Stabilitätsbegriffe mit jeweils etwas unterschiedlicher Aussage:

• Eine Ruhelage ${\displaystyle {\vec {x}}_{R}}$ heißt Ljapunow-stabil, wenn eine hinreichend kleine Störung auch stets klein bleibt. Präziser formuliert: Für jedes ${\displaystyle \varepsilon >0}$ existiert ein ${\displaystyle \delta (\varepsilon )>0}$ derart, dass für alle Zeiten ${\displaystyle t\geq 0}$ und alle Trajektorien ${\displaystyle {\vec {x}}(t)}$ mit ${\displaystyle \|{\vec {x}}(0)-{\vec {x}}_{R}\|<\delta (\varepsilon )}$ gilt: ${\displaystyle \|{\vec {x}}(t)-{\vec {x}}_{R}\|<\varepsilon }$.
• Eine Ruhelage ${\displaystyle {\vec {x}}_{R}}$ heißt attraktiv, wenn es ein ${\displaystyle \eta >0}$ derart gibt, dass jede Trajektorie ${\displaystyle {\vec {x}}(t)}$ mit ${\displaystyle \|{\vec {x}}(0)-{\vec {x}}_{R}\|<\eta }$ für alle ${\displaystyle t\geq 0}$ existiert und die folgende Grenzwertbedingung erfüllt: ${\displaystyle \lim _{t\to \infty }{\vec {x}}(t)={\vec {x}}_{R}.}$
• Eine Ruhelage heißt asymptotisch stabil, wenn sie Ljapunow-stabil und attraktiv ist.
• Eine Ruhelage heißt neutral stabil oder marginal stabil, wenn sie stabil, aber nicht asymptotisch stabil ist.

Für den Fall diskreter Systeme, die durch Differenzengleichungen ${\displaystyle {\vec {x}}_{k+1}=f({\vec {x}}_{k})}$ beschrieben werden, ist die Ruhelage gleichzeitig Fixpunkt der Rekursionsgleichung ${\displaystyle {\vec {x}}_{k+1}=f({\vec {x}}_{k})}$ und es sind ähnliche Stabilitätsdefinitionen üblich.

Bei zeitkontinuierlichen linearen zeitinvarianten Systemen kann die Stabilität an der Übertragungsfunktion durch die Lage der Pole in der s-Ebene (Nennerpolynom der Laplace Übertragungsfunktion) abgelesen werden:

• Asymptotische Stabilität: wenn sämtliche Pole in der linken s-Halbebene liegen,
• Grenzstabilität: wenn kein Pol in der rechten s-Halbebene liegt und mindestens ein einfacher Pol, aber kein mehrfacher Pol, auf der imaginären Achse der s-Halbebene liegt,
• Instabilität: sonst (wenn mindestens ein Pol in der rechten s-Halbebene liegt oder wenn mindestens ein mehrfacher Pol auf der imaginären Achse der s-Ebene liegt).

Bei zeitdiskreten linearen zeitinvarianten Systemen kann die Stabilität durch die Lage der Pole in der z-Ebene (Nennerpolynom der z-Übertragungsfunktion) abgelesen werden.

• Asymptotische Stabilität: wenn sämtliche Pole im Einheitskreis liegen,
• Grenzstabilität: wenn mindestens ein Pol auf dem Einheitskreis liegt und alle anderen innerhalb,
• Instabilität: sonst (wenn mindestens ein Pol außerhalb des Einheitskreises in der z-Ebene liegt).

Achtung: der Begriff grenzstabil führt leicht zu Missverständnissen, da die Polstellenlage tatsächlich nach den meisten Stabilitätsdefinitionen instabile Systeme kennzeichnet.

Ljapunow entwickelte 1883 die sogenannte Direkte oder Zweite Methode (die Erste Methode war die Linearisierung, siehe unten), um die oben genannten Stabilitätseigenschaften an konkreten Systemen zu überprüfen. Hierzu definiert man zunächst zu einem dynamischen System der Form ${\displaystyle {\dot {\vec {x}}}=f({\vec {x}})}$ und einer reellwertigen differenzierbaren Funktion ${\displaystyle V({\vec {x}})}$ die orbitale Ableitung durch das Skalarprodukt

${\displaystyle {\dot {V}}({\vec {x}}):=\left\langle \operatorname {grad} \,V({\vec {x}}),{\dot {\vec {x}}}\right\rangle =\left\langle \operatorname {grad} \,V({\vec {x}}),f({\vec {x}})\right\rangle }$.

Eine reellwertige differenzierbare Funktion ${\displaystyle V}$ heißt Ljapunow-Funktion (für das Vektorfeld ${\displaystyle f}$), wenn ${\displaystyle {\dot {V}}({\vec {x}})\leq 0}$ für alle Punkte ${\displaystyle {\vec {x}}}$ aus dem Phasenraum gilt. Eine Ljapunow-Funktion ist ein ziemlich starkes Hilfsmittel für einen Stabilitätsbeweis, wie die folgenden beiden Kriterien zeigen:

Erstes Kriterium von Ljapunow: Gegeben sei ein dynamisches System ${\displaystyle {\dot {\vec {x}}}=f({\vec {x}})}$. Gelten die Bedingungen

1. ${\displaystyle {\vec {x}}_{R}}$ ist eine Ruhelage des Systems,
2. ${\displaystyle V({\vec {x}})}$ ist eine Ljapunow-Funktion für ${\displaystyle f}$,
3. ${\displaystyle V({\vec {x}})}$ besitzt an der Stelle ${\displaystyle {\vec {x}}_{R}}$ ein striktes lokales Minimum,

dann ist die Ruhelage ${\displaystyle {\vec {x}}_{R}}$ stabil.

Zweites Kriterium von Ljapunow: Gilt zusätzlich zu den Voraussetzungen des ersten Kriteriums noch

4. für ${\displaystyle {\vec {x}}\neq {\vec {x}}_{R}}$ in einer Umgebung der Ruhelage ${\displaystyle {\vec {x}}_{R}}$ gilt ${\displaystyle {\dot {V}}({\vec {x}})<0}$,

dann ist die Ruhelage asymptotisch stabil.

Die Verwendung einer Ljapunow-Funktion nennt man Direkte Methode, weil sich damit direkt aus dem Vektorfeld ${\displaystyle f}$ ohne Kenntnis der Trajektorien (also ohne, dass man die Differentialgleichung lösen müsste) Aussagen über die Stabilität einer Ruhelage gewinnen lassen.

Für den Fall linearer Systeme ${\displaystyle {\dot {\vec {x}}}=A{\vec {x}}}$ kann zum Beispiel immer eine positiv definite quadratische Form ${\displaystyle v({\vec {x}})={\vec {x}}^{T}R{\vec {x}}}$ als Ljapunow-Funktion Verwendung finden. Sie erfüllt offensichtlich die obigen Bedingungen (1) und (2). Bedingung (3) führt auf die Ljapunow-Gleichung

${\displaystyle A^{T}R+RA=-Q}$,

welche eine spezielle Form der Sylvester-Gleichung ist. Falls ${\displaystyle Q}$ positiv definit ist, so ist ${\displaystyle v({\vec {x}})={\vec {x}}^{T}R{\vec {x}}}$ eine Ljapunow-Funktion. Für stabile lineare Systeme lässt sich eine solche Funktion ${\displaystyle v({\vec {x}})={\vec {x}}^{T}R{\vec {x}}}$ immer finden.

Ein dynamisches System sei gegeben durch die Differentialgleichung ${\displaystyle {\dot {\vec {x}}}=f({\vec {x}})}$.

Wir betrachten eine Störung ${\displaystyle \delta ={\vec {x}}(t)-{\vec {x}}_{R}}$ zum Zeitpunkt ${\displaystyle t}$ als Abweichung von der Ruhelage ${\displaystyle {\vec {x}}_{R}}$:

• wenn das System linear ist, kann diese Störung vollständig durch die Jacobi-Matrix ${\displaystyle \mathbf {J} }$ der ersten Ableitungen nach ${\displaystyle {\vec {x}}}$ ausgedrückt werden.
• ist das System nichtlinear und die Störung klein genug, so kann man es „linearisieren“, d. h. die Funktion ${\displaystyle f}$ nach ${\displaystyle \delta }$ um ${\displaystyle {\vec {x}}_{R}}$ Taylor-entwickeln.

In beiden Fällen ergibt sich für die Zeitentwicklung von ${\displaystyle \delta }$:

${\displaystyle {\dot {\delta }}=\mathbf {J} ({\vec {x}}_{R})\,\delta }$

Diese Entwicklung wird demnach maßgeblich von den Eigenwerten der Jacobi-Matrix bestimmt. Konkret ergeben sich die folgenden drei Fälle:

• Der Realteil aller Eigenwerte der Jacobi-Matrix ist negativ. Dann fällt ${\displaystyle \delta }$ exponentiell ab, und die Ruhelage ist asymptotisch stabil.
• Der Realteil eines Eigenwertes der Jacobi-Matrix ist positiv. Dann wächst ${\displaystyle \delta }$ exponentiell an, und die Ruhelage ist instabil.
• Der größte Realteil aller Eigenwerte der Jacobi-Matrix ist Null. Dies bedeutet für ein lineares System:
  • falls für alle Eigenwerte mit verschwindendem Realteil die algebraische Vielfachheit gleich der geometrischen Vielfachheit ist: marginale Stabilität der Ruhelage.
  • sonst, d. h. falls nicht für alle Eigenwerte mit verschwindendem Realteil die algebraische Vielfachheit gleich der geometrischen Vielfachheit ist: Instabilität der Ruhelage.

Bei nichtlinearen Systemen, die nur um die Ruhelage linearisiert wurden, kann die Stabilität in diesem dritten Fall auch noch von Termen höherer Ordnung in der Taylorentwicklung bestimmt werden. In diesem Fall vermag die lineare Stabilitätstheorie keine Aussage zu machen.

Siehe auch Autonome Differentialgleichung.

Im Bauwesen müssen druckbeanspruchte Stäbe auf Stabilitätsgefährdung (i. d. R. Knicken) geprüft werden und gegebenenfalls nach Theorie II. Ordnung nachgewiesen werden. Man braucht die Theorie II. Ordnung um Stabilitätsgefährdung beschreiben zu können. Im Stahlbau, im (Stahl-)Betonbau als auch im Holzbau sind laut aktueller Normung stabilitätsgefährdete Stäbe auf Knicken nachzuweisen.

Ein untersuchter Verformungszustand der Festigkeitslehre oder ein Bewegungszustand der Dynamik können ab einer zu bestimmenden Stabilitätsgrenze in einen anderen Zustand wechseln. Damit verbunden sind in der Regel nichtlinear ansteigende Verformungen oder Bewegungen, die zur Zerstörung von Tragwerken führen können. Um diese zu vermeiden, ist die Kenntnis der Stabilitätsgrenze ein wichtiges Kriterium zur Bemessung von Bauteilen.

Weitere Beispiele:

• Stabilitätsprüfung von Regelkreisen,
• Dynamik von Insektenpopulationen,
• Eulerscher Knickstab,
• Kippen von schlanken Trägern,
• Beulen von Platten und Schalen,
• Wachstum kleiner Störungen in einer Grenzschicht, die zum laminar-turbulenten Umschlag führen.
• Raumsonden oder (kleine) Himmelskörper auf Bahnen um Lagrange-Punkte eines Planets, der um Zentralgestirn kreist
• Mathematische Modellierung von Epidemien (SIR-Modell)

• Eigenbewegung (Regelungstechnik)
• Lineare Stabilitätstheorie zur Stabilitätstheorie in der Strömungslehre

• Herbert Amann: Gewöhnliche Differentialgleichungen. 2. Auflage. de Gruyter, Berlin 1995, ISBN 3-11-014582-0. 
• W. Hahn: Stability of Motion. Springer, 1967.
• N. Rouche, P. Habets und M. Laloy: Stability Theory by Liapunov's Direct Method. Springer, 1977.
• Gerald Teschl: Ordinary Differential Equations and Dynamical Systems. American Mathematical Society, Providence 2012, ISBN 978-0-8218-8328-0 (freie Onlineversion). 

Wikiversity: Eine Einführung in Stabilitätsbegriffe für Matrizen – Kursmaterialien

Commons: Stability theory – Sammlung von Bildern, Videos und Audiodateien

• Stability. In: Scholarpedia. (englisch, inkl. Literaturangaben)