Fisher & Score

11.01.2012, 19:00	Gast11022013	Auf diesen Beitrag antworten »
Fisher & Score Meine Frage: Es seien $\begin{eqnarray} X_1,...,X_n\sim_{i.i.d}X \end{eqnarray}$ , $\begin{eqnarray} X\sim\operatorname{Bin}(1,p) \end{eqnarray}$ Bestimme die Scorefkt. & die Fisherinformation. Wie berechne ich die Fisherinformation? Meine Ideen: Hallo, die Scorefkt. habe ich schon bestimmt (meine ich zumindest), das ist ja die erste Abl. der log-Likelihood (hier nach p): $\begin{eqnarray} S(p,\vec{x})=\frac{\partial}{\partial p}\log L(\vec{x}\|p)=\frac{1}{p}\sum_{i=1}^{n}(x_i)+\frac{1}{p-1}\sum_{i=1}^{n}((1-x_i)) \end{eqnarray}$ [Stimmt das?] Und jetzt habe ich gelesen: Fisherinformation $\begin{eqnarray} I(p) \end{eqnarray}$ : $\begin{eqnarray} I(p)=E_{p}[(S(p,\vec{x}))^2] \end{eqnarray}$ Ist das korrekt?
11.01.2012, 20:20	Gast11022013	Auf diesen Beitrag antworten »
RE: Fisher & Score Vielleicht kann ich mal versuchen, mir selbst eine Antwort zu geben. Ich gehe jetzt mal davon aus, daß meine Scorefunktion stimmt. Jedenfalls habe ich es mehrfach durchgerechnet. Bei Wikipedia lese ich jetzt: Die Fisherinformation ist unter der Regularitätsbedingung $\begin{eqnarray} E\left[\frac{\partial}{\partial\theta}\log \prod_{l=1}^{n}f_{\theta}(X_l)\right]=0 \end{eqnarray}$ additiv [...] Siehe hier: http://de.wikipedia.org/wiki/Fisher-Information [Eigenschaften und Anwendungen] Das bedeutet doch: Ist der Erwartungswert der Scorefkt. gleich 0, kann man die Fisherinformation für eins der $\begin{eqnarray} X_i \end{eqnarray}$ ausrechnen und dann einfach mit $\begin{eqnarray} n \end{eqnarray}$ multiplizieren. Daraufhin habe ich mal den Erwartungswert meiner oben berechneten Scorefkt. berechnet und siehe da, es kommt 0 heraus: $\begin{eqnarray} E_{p}\left(\frac{1}{p}\sum_{i=1}^{n}(x_i)+\frac{1}{p-1}\sum_{i=1}^{n}(1-x_i)\right)=\frac{np}{p}+\frac{n-np}{p-1}=0 \end{eqnarray}$ Wenn ich mich jetzt an Wiki halte, könnte ich jetzt erstmal ausrechnen, was denn die Fisherinformation eines der $\begin{eqnarray} X_i \end{eqnarray}$ ist: $\begin{eqnarray} \frac{\partial}{\partial p}\log L(x_i\|p)=\frac{x_i-p}{p(1-p)} \end{eqnarray}$ Die Fisherinformation für ein $\begin{eqnarray} X_i \end{eqnarray}$ ist dann: $\begin{eqnarray} I(p)=E\left[\left(\frac{x_i-p}{p(1-p)}\right)^2\right]=\frac{1}{p^2(1-p)^2}\underbrace{E(x_i^2-2x_ip+p^2)}_{p(1-p)+p^2-2p^2+p^2}=\frac{p(1-p)}{p^2(1-p)^2}=\frac{1}{p(1-p)} \end{eqnarray}$ Wenn ich alles richtig kapiert habe, ist also die Fisherinformation des Vektors $\begin{eqnarray} \vec{X}=(X_1,...,X_n) \end{eqnarray}$ wegen der Unabhängigkeit der $\begin{eqnarray} X_i \end{eqnarray}$ gegeben durch: $\begin{eqnarray} \frac{n}{p(1-p)} \end{eqnarray}$ Mal abwarten, wie Eure Reaktionen sind.

1

Verwandte Themen

Die Beliebtesten »

Die Größten »

Die Neuesten »