Metropolis Algorithmus Konvergenz Autokorrelation

10.03.2009, 13:47

vogelstrauss

Metropolis Algorithmus Konvergenz Autokorrelation

Hallo,

ich verstehe leider nicht, wie ich die Konvergenz einer Markov-Kette im Metropolis-Algorithmus mit Hilfe der Autokorrelation bewerten kann. Das Prinzip ist im Grunde klar, bei niedriger Autokorrelation der einzelnen Samples kann man davon ausgehen, dass sie statistisch unabhaengig voneinander sind.

Ich berechne die Autokorrelation $\begin{eqnarray*} p_k \end{eqnarray*}$ fuer jeden Parameter $\begin{eqnarray*} \theta \end{eqnarray*}$ zu jedem time-lag $\begin{eqnarray*} k \end{eqnarray*}$ in meiner Kette wie folgt:

$\begin{eqnarray*} p_k = \frac{Cov(\theta_t, \theta_{t+k})}{Var(\theta_t)} = \frac{\sum_{t=1}^{n-k}(\theta_t - \bar{\theta})(\theta_{t-k}-\bar{\theta})}{\sum_{t=1}^{n-k}(\theta_t - \bar{\theta})^2} \end{eqnarray*}$

wobei $\begin{eqnarray*} \bar{\theta} \end{eqnarray*}$ der Mittelwert von $\begin{eqnarray*} \theta \end{eqnarray*}$ ist.

So berechne ich also die Autokorrelation fuer jeden Parameter fuer jedes Time lag $\begin{eqnarray*} k \end{eqnarray*}$ , wenn ich also 100 Schritte in meinem Metropolis-Algorithmus mache, berechne ich alle Autokorrelationen fuer $\begin{eqnarray*} t = [0,...100] \end{eqnarray*}$ . Die Autokorrelation bei lag 0 ist natuerlich 1, und sie faellt dann gegen 0, weil man ja die eine Reihe sozusagen gegen sich selbst "verschiebt".

Mein Problem ist nun, dass in meiner Simulation die Autokorrelation immer nach ca. 1/4 der Schritte gegen 0 geht, egal ob ich 10 oder 1000 Schritte in meinem Algorithmus tue, wobei ich bei 10 Schritten ausschliessen kann, dass meine Kette konvergiert ist.

Wie kann ich also

1) mit Hilfe der Autokorrelation herausfinden, ob meine Kette konvergiert
2) die Anzahl der Schritte herausfinden, mit der jeder Parameter konvergiert, damit ich aus meiner Kette unabhaengige Samples ziehen kann?

Gruesse,

Hans

10.03.2009, 16:54

Auf diesen Beitrag antworten »

Zitat:

Original von vogelstrauss
Mein Problem ist nun, dass in meiner Simulation die Autokorrelation immer nach ca. 1/4 der Schritte gegen 0 geht, egal ob ich 10 oder 1000 Schritte in meinem Algorithmus tue

Verstehe ich nicht so richtig, kann eigentlich nicht sein. Kannst du mal näher erläutern. was du da genau machst?

Mal eine Frage zu deinem Vorgehen: Ist $\begin{eqnarray*} \theta_0 \end{eqnarray*}$ (oder von mir aus $\begin{eqnarray*} \theta_1 \end{eqnarray*}$ ) wirklich der Startwert der Variable im Algorithmus, oder der erste Wert nach dem burn-in ? Weil, wenn du den burn-in in die Autokorrelation mit einbeziehst, kriegst du da eine Verfälschung - den solltest du also rauslassen. Da kommt dann natürlich sofort die nächste schwierige Frage (auf die es genausowenig eine einfache Antwort gibt wie auf deine Frage nach der Anzahl der zu wählenden Schritte zwischen "fast" unabhängigen Samples):

Wie lang muss man den burn-in wählen? Augenzwinkern

11.03.2009, 12:39

vogelstrauss

Auf diesen Beitrag antworten »

RE: Metropolis Algorithmus Konvergenz Autokorrelation
Hallo, danke fuer die Antwort,

Zitat:

Verstehe ich nicht so richtig, kann eigentlich nicht sein. Kannst du mal näher erläutern. was du da genau machst?

Ich habe ein System von 10 Differentialgleichungen, diese enthalten 25 freie Parameter. Wenn ich das System ueber die Zeit integriere, bekomme ich 10 Zeitreihen, die ich mit echten Messdaten mit Hilfe einer (least-squares) Kostenfunktion vergleiche, welche mir dann die Kosten fuer einen bestimmten Satz von Werten fuer diese 25 Parameter liefert.

Die Sache ist nun, dass mehrere Kombinationen der 25 Parameter ungefaehr die gleichen Kosten haben koennen, manche Parameter kann man um einige Zehnerpotenzen aendern, ohne dass sich die Kosten signifikant aendern. In meinem 25-dimensionalen Parameter-Raum will ich jetzt mit Metropolis genau diesen sub-Raum samplen, in dem die Kosten noch akzeptabel sind.

Zitat:

Mal eine Frage zu deinem Vorgehen: Ist $\begin{eqnarray*} \theta_0 \end{eqnarray*}$ (oder von mir aus $\begin{eqnarray*} \theta_1 \end{eqnarray*}$ ) wirklich der Startwert der Variable im Algorithmus, oder der erste Wert nach dem burn-in ?

Bevor ich mit Metropolis starte, fitte ich alle 25 Parameter an meinen Daten, ich starte also (wenn meine fit gut ist, wovon ich ausgehen muss) in dem Punkt mit den niedrigst moeglichen Kosten, sozusagen in der Mitte des Bassins, aus dem ich samplen moechte. Deswegen habe ich
wie ich das verstehe keinen Burn-in noetig.

Leider weiss ich nicht, wieviele Schritte ausreichend sind, um mein "niedrig-Kosten Bassin" ausreichend zu samplen... Wie ich gelesen habe, kann man sich dafuer die Autokorrelation der einzelnen Parameterwerte oder auch der einzelnen Kosten bei jedem Schritt anschauen.

Gruss

Hans

Neue Frage »

Antworten »

Metropolis Algorithmus Konvergenz Autokorrelation

Verwandte Themen