Metropolis-Algorithmus

Der Metropolis-Algorithmus ist ein Markov-Chain-Monte-Carlo-Verfahren zur Erzeugung von Zuständen eines Systems entsprechend der Boltzmann-Verteilung. Der davon abgeleitete, allgemeinere Metropolis-Hastings-Algorithmus ermöglicht es, Folgen von Zufallsvariablen, genauer Markow-Ketten, zu simulieren, die eine gewünschte Verteilung als stationäre Verteilung besitzen, insbesondere in vielen Fällen, bei denen die Verteilungen der Zufallsvariablen nicht direkt simuliert werden können.

Metropolis-Algorithmus

Der Metropolis-Algorithmus wurde 1953 von Nicholas Metropolis, Marshall Rosenbluth, Edward Teller, Augusta H. Teller, Arianna W. Rosenbluth publiziert (zur Geschichte siehe auch Monte-Carlo-Simulation). Er wird dazu genutzt, eine Markow-Kette und damit die Zustände eines Systems entsprechend der Boltzmann-Verteilung zu erzeugen. Dabei hängt der neue Zustand des Systems ${\displaystyle x_{i+1}}$ nur vom vorherigen Zustand ${\displaystyle x_{i}}$ ab.

Im Folgenden wird der Algorithmus für den Fall beschrieben, dass das System von einem mehrdimensionalen Ort ${\displaystyle {\vec {x}}}$ abhängt. ${\displaystyle {\vec {x}}}$ sei kontinuierlich und der aktuelle Ort nach ${\displaystyle i}$ Iterationen wird mit ${\displaystyle {\vec {x}}_{i}}$ bezeichnet. Der Metropolis-Algorithmus ergibt sich dann durch Wiederholung der folgenden Schritte:

1. Ein neuer Ort ${\displaystyle {\vec {y}}={\vec {x}}_{i}+r\cdot {\vec {q}}}$ wird ausgewählt, wobei ${\displaystyle {\vec {q}}}$ ein Zufallsvektor aus Komponenten zwischen −1 und +1 und r ein fest gewählter Suchradius ist, das heißt, der neue Ortsvektor wird als Zufallsvektor in einer festen Umgebung von ${\displaystyle {\vec {x}}_{i}}$ gewählt, wobei die verschiedenen Komponenten der räumlichen Dimensionen nicht notwendigerweise gleich sein müssen.
2. Die Energie-Differenz ${\displaystyle \Delta E:=E\left({\vec {y}}\right)-E\left({\vec {x}}_{i}\right)}$ wird berechnet und die neue Konfiguration mit der Wahrscheinlichkeit ${\displaystyle \textstyle p_{\mathrm {A} }=\min \left(1,\exp \left(-{\frac {\Delta E}{kT}}\right)\right)}$ akzeptiert, wobei ${\displaystyle T}$ für die Temperatur des Systems und ${\displaystyle k}$ für die Boltzmann-Konstante steht.
   Dies bedeutet:
   • Ist ${\displaystyle \Delta E\leq 0\,}$, die neue Position also energetisch gleichwertig oder günstiger, wird ${\displaystyle {\vec {y}}}$ in jedem Fall als neuer aktueller Ort akzeptiert, ${\displaystyle {\vec {x}}_{i+1}={\vec {y}}}$.
   • Ist ${\displaystyle \Delta E>0\,}$, die neue Position also energetisch ungünstiger, wird ${\displaystyle {\vec {y}}}$ dagegen nur mit der Wahrscheinlichkeit ${\displaystyle p_{\mathrm {A} }}$ als neuer aktueller Ort akzeptiert, wozu man praktisch eine Zufallszahl q zwischen 0 und 1 bestimmt und anschließend mit ${\displaystyle p_{\mathrm {A} }}$ vergleicht: Ist q kleiner als ${\displaystyle p_{\mathrm {A} }}$, wird ${\displaystyle {\vec {y}}}$ als neuer aktueller Ort akzeptiert, ${\displaystyle {\vec {x}}_{i+1}={\vec {y}},}$ andernfalls nicht, ${\displaystyle {\vec {x}}_{i+1}={\vec {x}}_{i}}$.

Kleine Werte von |r| führen dabei zu großen Akzeptanzraten, haben jedoch den Nachteil hoher Autokorrelationszeiten

${\displaystyle \tau =\sum _{i=0}^{\infty }\Gamma (i)=\sum _{i=0}^{\infty }\left\langle \left(A_{0}-\langle A\rangle \right)\left(A_{i}-\langle A\rangle \right)\right\rangle }$

Große Werte von |r| dagegen verkürzen zwar die Autokorrelationszeit, haben dafür aber nun den Nachteil einer geringeren Akzeptanzrate, so dass in der Praxis stets ein Mittelweg gesucht werden muss.

Das oben beschriebene Verfahren lässt sich einfach auch auf andere Fälle wie beispielsweise diskrete Zustände übertragen. Für Systeme aus vielen wechselwirkenden Teilchen wird der Metropolis-Algorithmus dabei zunächst lokal für ein einzelnes Teilchen angewandt und anschließend – entweder nacheinander oder zufällig – auf alle Teilchen.

Metropolis-Hastings-Algorithmus

W. Keith Hastings generalisierte 1970 das Verfahren. Der Metropolis-Hastings-Algorithmus kann Zustände für eine beliebige Wahrscheinlichkeitsverteilung ${\displaystyle W({\vec {x}})}$ erzeugen. Voraussetzung ist lediglich, dass die Dichte an jedem Ort ${\displaystyle {\vec {x}}}$ berechnet werden kann. Der Algorithmus benutzt eine Vorschlagsdichte ${\displaystyle P({\vec {y}}\mid {\vec {x}})}$, die vom derzeitigen Ort ${\displaystyle {\vec {x}}}$ und möglichem nächsten Ort ${\displaystyle {\vec {y}}}$ abhängt. Beim Metropolis-Hastings-Algorithmus wird ein Vorschlag ${\displaystyle {\vec {y}}}$ anhand der Vorschlagsdichte zufällig erzeugt und mit der Wahrscheinlichkeit ${\displaystyle p_{\mathrm {A} }=\min \left(1,{\frac {W({\vec {y}})P({\vec {x}}\mid {\vec {y}})}{W({\vec {x}})P({\vec {y}}\mid {\vec {x}})}}\right)}$ akzeptiert.

Für eine Vorschlagsdichte, die symmetrisch ist (${\displaystyle P({\vec {y}}\mid {\vec {x}})=P({\vec {x}}\mid {\vec {y}})}$), sowie eine Boltzmann-Verteilung als Wahrscheinlichkeitsverteilung ${\displaystyle W}$ ergibt sich hieraus der ursprüngliche Metropolis-Algorithmus.

Anwendungen

Monte-Carlo-Simulation

Bei Monte-Carlo-Simulationen werden Konfigurationen mittels des Metropolis-Algorithmus erzeugt und Mittelwerte/Erwartungswerte physikalisch relevanter Größen berechnet, beispielsweise der Erwartungswert des Drucks oder der Dichte:

${\displaystyle \left\langle A\right\rangle =Z^{-1}\int [\mathrm {d} x]e^{-\beta E(x)}\,A(x)}$

mit

${\displaystyle Z=\int [\mathrm {d} x]e^{-\beta E(x)}}$

${\displaystyle \beta =(kT)^{-1}}$

Dazu werden von den Iterationsschritten des Metropolis-Algorithmus zunächst so viele ausgeführt, bis sich das System hinreichend nah an das thermische Gleichgewicht angenähert hat, d. h. bis die Wahrscheinlichkeit der einzelnen Konfigurationen der Boltzmann-Verteilung entspricht. Befindet sich das System im thermischen Gleichgewicht, so entspricht die Wahrscheinlichkeitsverteilung ${\displaystyle W(x)}$ der Boltzmann-Verteilung, d. h. die Konfigurationen werden mit der Wahrscheinlichkeit ${\displaystyle W(x)={\frac {1}{Z}}e^{-\beta E(x)}}$ erzeugt (Importance Sampling) und es muss lediglich über jeden Messwert, bzw. Messwerte in konstantem Abstand, gemittelt werden: ${\displaystyle \left\langle A\right\rangle =\lim _{N\to \infty }{\frac {1}{N}}\sum _{i=1}^{N}A(x_{i})}$.

Der Metropolis-Algorithmus erzeugt Systeme im kanonischen Zustand, d. h. mit konstanter Temperatur. Um mikrokanonische Zustände zu erzeugen, können Molekulardynamik-Algorithmen verwendet werden.

In der Originalarbeit von Nicholas Metropolis et al. wurde der Algorithmus für die Monte-Carlo-Simulation eines zweidimensionalen Harte-Scheiben-Modells verwendet. Der Algorithmus wurde später für eine Vielzahl unterschiedlichster Monte-Carlo-Simulationen in Bereichen wie z. B. bei der Thermodynamik bzw. der Statistischen Physik, Festkörperphysik, Quantenelektrodynamik oder Quantenchromodynamik eingesetzt. Dabei muss der Algorithmus gegebenenfalls angepasst werden; beispielsweise muss man die Energie durch den Hamiltonoperator oder die Wirkung ersetzen.

Der Metropolis-Algorithmus ist leicht zu implementieren, jedoch nicht immer der effizienteste Algorithmus. Alternativ können andere lokale oder nicht-lokale Verfahren Verwendung finden.

Optimierungsverfahren

Der Metropolis-Algorithmus kann auch als stochastisches Optimierungsverfahren zum Finden eines globalen Minimums einer Wertelandschaft verwendet werden. Hierzu wird mit einer hohen Temperatur begonnen, damit möglichst ein großes Gebiet der Wertelandschaft besucht wird. Anschließend wird die Temperatur langsam abgesenkt, sodass man sich mit immer höherer Wahrscheinlichkeit einem Minimum nähert. Ein solcher Metropolis-Algorithmus mit von der (Simulations-)Zeit abhängiger Temperatur heißt simulierte Abkühlung (simulated annealing). Für bestimmte Formen der simulierten Abkühlung konnte bewiesen werden, dass sie das globale Minimum einer Wertelandschaft finden.

Das Verfahren ähnelt dem Bergsteigeralgorithmus (hill climbing), akzeptiert jedoch im Gegensatz zu diesem auch Schritte weg vom nächsten Minimum, so dass das „Hängen bleiben“ in lokalen Minima vermieden wird, die noch nicht das absolute Minimum ergeben. Der Metropolis-Algorithmus überwindet so kleine Hügel, bevor weiter in Richtung Tal gegangen wird, da der Anstieg in Richtung Hügel klein ist und somit die Akzeptanzwahrscheinlichkeit relativ groß ist.

Siehe auch

• Gibbs-Sampling
• Hybrid-Monte-Carlo-Algorithmus

Literatur

• N. Metropolis, A. Rosenbluth, M. Rosenbluth, A. Teller und E. Teller: Equation of State Calculations by Fast Computing Machines. In: Journal of Chemical Physics. Band 21, 1953, S. 1087–1092, doi:10.1063/1.1699114. 
• W.K. Hastings: Monte Carlo Sampling Methods Using Markov Chains and Their Applications. In: Biometrika. Band 57, 1970, S. 97–109.