Bayes inferenz Verteilung von likelihood prior und posterior

17.02.2010, 14:11	vogelstrauss	Auf diesen Beitrag antworten »
Bayes inferenz Verteilung von likelihood prior und posterior Hallo, ich habe ein Problem mit der Bayes-Statistik, bei dem ich nicht weiterkomme, bin fuer jede Hilfe dankbar!! Ich habe ein Modell (ODE Modell) mit einem Parameter $\begin{eqnarray} \theta \end{eqnarray}$ und einen Datensatz mit 6 gemessenen Datenpunkten $\begin{eqnarray} D=(d_1, d_2..., d_6) \end{eqnarray}$ mit ihren Standardfehlern. Das Modell kann von abhaengig von $\begin{eqnarray} \theta \end{eqnarray}$ Vorhersagen $\begin{eqnarray} y_1(\theta), y_2(\theta), ..., y_6(\theta) \end{eqnarray}$ fuer diese Datenpunkte machen. Ausserdem habe ich die "prior"-Information ueber $\begin{eqnarray} \theta \end{eqnarray}$ , ein gemessener Wert ist $\begin{eqnarray} \theta^=152\pm 4 \end{eqnarray}$ . Ich will nun die posteriore Verteilung von $\begin{eqnarray} \theta \end{eqnarray}$ sampeln, gegeben die Datenpunkte die ich habe Wie ich gelesen habe, functioniert die bayessche Inferenz folgenderweise: $\begin{eqnarray} posterior\propto likelihood * prior \end{eqnarray}$ . Mein posterior ist also: $\begin{eqnarray} P(\theta \| D) = P(D \| \theta) * \frac{P(\theta)}{P(D)} \end{eqnarray}$ . Da $\begin{eqnarray} P(D) \end{eqnarray}$ meine Messdaten sind, sind sie also konstant, die Gleichung vereinfacht sich dann: $\begin{eqnarray} P(\theta \| D) = P(D \| \theta) * P(\theta) \end{eqnarray}$ Nun zum eigentlichen Problem: Ich benutze ein Computerprogramm, das die Likelihood wie folgt berechnet: $\begin{eqnarray} P(D \| \theta) = \frac{1}{2}\sum_{i=1}^6 \left( \frac{y_i-d_i}{\sigma_{d_i}} \right)^2 \end{eqnarray}$ also eine Kleinste-Quadrate-Kostenfunktion, die normalverteilte Daten annimmt (stimmt das?). $\begin{eqnarray} \sigma{d_i} \end{eqnarray}$ ist die Standardabweichung vom Datenpunkt $\begin{eqnarray} d_i \end{eqnarray}$ . A priori informationen ueber den parameter $\begin{eqnarray} \theta \end{eqnarray}$ werden vom Programm wie folgt berechnet: $\begin{eqnarray} P(\theta)=\frac{1}{2}\left( \frac{log\theta - log\theta^}{\sigma_{log\theta}} \right)^2 \end{eqnarray}$ Der komplette Posterior, den das Programm berechnet ist: $\begin{eqnarray} P(\theta \| D) = \frac{1}{2}\sum_{i=1}^6 \left( \frac{y_i-d_i}{\sigma_{y_i}} \right)^2 + \frac{1}{2}\left( \frac{log\theta - log\theta^}{\sigma_{log\theta}} \right)^2 \end{eqnarray}$ Da gibt es einige Sachen, die ich nicht verstehe: 1)Die Likelihood-Funktion sieht stark nach Normalverteilung aus, die prior-Funktion nach log-Normalverteilung. Werden die beiden deshalb addiert und nicht multipliziert? 1a) Wie wuerde die Prior-Funktion aussehen, wenn ich vorraussetze, dass mein prior z.B. normal oder gammaverteilt ist? 2) Welche posterior-Verteilung hat mein Parameter \theta? 3) Habe ich den Fall von 'conjugate priors', das ist glaub ich wenn der Prior die selbe Verteilung wie mein posterior hat? 4) Wie kann ich jetzt meine prior information $\begin{eqnarray} \theta^=152\pm 4 \end{eqnarray}$ in die Prior-Function tun, so dass mein posterior Parameter eine Verteilung mit Mittelwert 152 und Standardabweichung 4 hat? Das Tutorial vom Programm sagt z.B., wenn ich $\begin{eqnarray} \sigma_{log\theta}=log(10) \end{eqnarray}$ nehme, dann bleibt mein Parameter $\begin{eqnarray} \theta \end{eqnarray}$ mit hoher Wahrscheinlichkeit im Intervall $\begin{eqnarray} [\theta/10, \theta10] \end{eqnarray*}$ . Sorry fuer den langen post, ich hoffe dass ich mein Problem deutlich machen konnte. Ich bin fuer jeden Hinweis dankbar, diese ganze Verteilungsgeschichte in der Bayes-Statistik ist mir noch nicht so ganz klar... Gruesse, vogelstrauss

1

Verwandte Themen

Die Beliebtesten »

Die Größten »

Die Neuesten »