Likelihood bei Standardnormalverteilung - MSE und UMVU?

07.06.2006, 11:18

Statistikbanause

Likelihood bei Standardnormalverteilung - MSE und UMVU?

So, hier die zweite Aufgabe.

Hab beim Abtippen allerdings schon einen Fehler bemerkt, so dass ich noch nicht alles zu rechnen versucht hab.

Zitat:

Aufgabe 2
$\begin{eqnarray*} X_1, ..., X_n \end{eqnarray*}$ seien unabhängige $\begin{eqnarray*} N(0, \sigma^2) \end{eqnarray*}$ -verteilte Zufallsvariable. Bestimme den Maximum-Likelihood-Schätzer $\begin{eqnarray*} \sigma_s^2 \end{eqnarray*}$ für die unbekannte Varianz $\begin{eqnarray*} \theta = \sigma^2 \in \mathbb R^+ \end{eqnarray*}$ .
(Es genügt die Lösung der (log)-Likelihood-Gleichung).
Gib die mittlere quadratische Abweichung von $\begin{eqnarray*} \sigma_s^2 \end{eqnarray*}$ an.
Ist $\begin{eqnarray*} \sigma_s^2 \end{eqnarray*}$ UMVU-Schätzer für $\begin{eqnarray*} \sigma^2 \end{eqnarray*}$ ?
Beachte: $\begin{eqnarray*} E[X_1^4] = 3\sigma^4 \end{eqnarray*}$

Musterlösung: ;-)
Die Dichte ist wieder das Produkt der Einzeldichten.

$\begin{eqnarray*} f(x) = (2 \Pi \sigma^2)^\frac{-n}{2} * e^{-\frac{\sum x_i^2}{2\sigma^2}} \end{eqnarray*}$

Die Likelihood-Funktion lauten dann
$\begin{eqnarray*} L(\sigma ,x) = (2 \Pi \sigma^2)^\frac{-n}{2} * e^{-\frac{\sum x_i^2}{2\sigma^2}} \end{eqnarray*}$

log-Likelihood:
$\begin{eqnarray*} l(\theta ,x) = -\frac{n}{2} \log (2 \Pi \theta) - \frac{\sum x_i^2}{2}*\theta^{-1} \end{eqnarray*}$

Ableitung
$\begin{eqnarray*} l'(\theta ,x) = -\frac{n \Pi}{2 \Pi \theta} + \frac{\sum x_i^2}{2 \theta^2} = -\frac{n}{2 \theta} + \frac{\sum x_i^2}{2 \theta^2} \end{eqnarray*}$

Gleich Null setzen
$\begin{eqnarray*} -\frac{n}{2 \theta} + \frac{\sum x_i^2}{2 \theta^2} = 0 \end{eqnarray*}$

$\begin{eqnarray*} \theta = \frac{\sum x_i^2}{n} \end{eqnarray*}$

Hier hatte ich zuerst die Wurzel davon raus, und wusste dann nicht so richtig, wie man die MSE ausrechnet.

Ist der Schätzer so richtig berechnet?

07.06.2006, 11:40

Auf diesen Beitrag antworten »

IhdAw. WmdmMSEuUMVU? *)

*) Ich hasse diesen Abkürzungswahn. Was meinst du mit MSE und UMVU? MSE könnte vielleicht für "Mean Square Error" stehen, aber bei UMVU fällt mir auf Anhieb nichts ein.

07.06.2006, 11:48

Statistikbanause

Auf diesen Beitrag antworten »

Tut mir Leid wegen der Abkürzungen, ich dachte, die sind allgemein üblich.

MSE = mean squarred error

UMVU soll die Abkürzung für "Schätzer mit gleichmäßig kleinster Varianz unter allen erwartungstreuen Schätzer" bzw. "uniformly minimum variance unbiased" sein.

07.06.2006, 12:05

Auf diesen Beitrag antworten »

Aus der Darstellung $\begin{eqnarray*} \hat\theta = \frac{\sum x_i^2}{n} \end{eqnarray*}$ kriegst du erstmal raus, dass dieser Schätzer $\begin{eqnarray*} \hat\theta \end{eqnarray*}$ tatsächlich erwartungstreu (engl.: unbiased) ist, d.h. $\begin{eqnarray*} E(\hat\theta)=\theta=\sigma^2 \end{eqnarray*}$ . Daher ist $\begin{eqnarray*} \operatorname{MSE}(\hat\theta)=\operatorname{var}(\hat\theta) \end{eqnarray*}$ , und das kannst du unter Nutzung der Hilfestellung $\begin{eqnarray*} E(X_1^4)=3\sigma^4 \end{eqnarray*}$ leicht ausrechnen.

Ob dieses $\begin{eqnarray*} \hat\theta \end{eqnarray*}$ tatsächlich ein UMVU ist, da bin ich auch überfragt. Mir fällt da jetzt nur der Weg über die Ungleichung von Rao-Cramér ein, aber ich weiß nicht, ob du derart vorgehen sollst.

07.06.2006, 15:32

Statistikbanause

Auf diesen Beitrag antworten »

Danke. Ich würde dann so weiter machen.

$\begin{eqnarray*} E(\hat\theta) = E(\frac{\sum x_i^2}{n}) = \frac{1}{n} \sum E (x_i^2) = E (X_1^2) = Var (X_1) = \sigma^2 \end{eqnarray*}$

Daraus folgt
$\begin{eqnarray*} bias(\hat\theta, \sigma^2) = E(\hat\theta) - \sigma^2 = 0 \end{eqnarray*}$

Es gilt also
$\begin{eqnarray*} MSE(\hat\theta) = Var(\hat\theta) \end{eqnarray*}$

$\begin{eqnarray*} Var(\hat\theta) = Var(\frac{\sum x_i^2}{n}) = \frac{1}{n^2} Var(\sum x_i^2) = \frac{1}{n^2} \sum Var(x_i^2) = \frac{1}{n} Var (X_1^2) \end{eqnarray*}$

Aus $\begin{eqnarray*} Var (X_1^2) = E(X_1^4) \end{eqnarray*}$ folgt $\begin{eqnarray*} MSE = \frac{3\sigma^4}{n} \end{eqnarray*}$ .

Zu zeigen, dass das ein UMVU-Schätzer ist, schaffe ich auch mit Cramér-Rao nicht.
Aber egal, falls das soweit richtig ist, bin ich schon sehr zufrieden.

Danke sehr Freude

07.06.2006, 15:36

Auf diesen Beitrag antworten »

Zitat:

Original von Statistikbanause
Aus $\begin{eqnarray*} Var (X_1^2) = E(X_1^4) \end{eqnarray*}$

Nicht so hastig, da lauert nämlich noch ein Fehler. Tatsächlich ist

$\begin{eqnarray*} \operatorname{var}(X_1^2) = E(X_1^4)-(E(X_1^2))^2=3\sigma^4-(\sigma^2)^2 = 2\sigma^4 \end{eqnarray*}$ .

07.06.2006, 16:06

Statistikbanause

Auf diesen Beitrag antworten »

Stimmt, du hast natürlich Recht.
Ich weiß nicht wieso, aber irgendwie kam ich auf $\begin{eqnarray*} (E(X_1^2))^2 = 0 \end{eqnarray*}$ verwirrt

Ich glaub, ich hatte E(X) quadriert. Forum Kloppe

Neue Frage »

Antworten »

Likelihood bei Standardnormalverteilung - MSE und UMVU?

Verwandte Themen