Gleichverteilung, Maximum-Likelihood-Schätzung

Neue Frage »

hirn Auf diesen Beitrag antworten »
Gleichverteilung, Maximum-Likelihood-Schätzung
Hallo hab folgende aufgabenstellung und auch die lösung für...bloß verstehe das irgendwie nicht
Aufgabe: X1,...Xn sei eine Zufallsstichprobe einer auf dem Intervall [0,teta] gleichverteilten Zufallsvariablen X. Man bestimme eine Maximum-Likelihood Schätzung.

So da es gleichverteilt ist...ist die Dichtefunktion f= 1/teta...das verstehe ich auch noch.
Die Likelihoodfunktion wäre ja dann L= (1/teta)^n.
Eigentlich müsste man die Funtion logarithmieren und dann 0 setzten, oder?
Bloß irgendwie haben wir drauf verzichtet und gleich gesagt teta = max{x1,...,xn}

Kann mir das bitte jemand erklären?

Danke

mfg
hirn Auf diesen Beitrag antworten »

sorry fürs posten...aber hab grad drüber nachgedacht und es könnte sein, dass es sich erledigt hat.
hat nicht viel mit mathe zu tun...
x1,...,xn sind ja die konkreten realierungen und teta schätze ich mit den größten realisierungswert ab...richtig?
was auch logisch wär Augenzwinkern
Mazze Auf diesen Beitrag antworten »

Zitat:
Eigentlich müsste man die Funtion logarithmieren und dann 0 setzten, oder?


Müssen muss man garnichts. Logarithmieren macht man ja nur um aus Produkten Summen zu machen. Und 0 setzen tut man nicht die likelihood, sondern die Ableitung der Likelihood. Aber das Hilft auch nichts, denn diese Likelihoodfunktion besitzt kein Maximum und auch kein Minimum. Daher nimmt man den größten Datenpunkt als obere Grenze.
AD Auf diesen Beitrag antworten »

Maximieren ist was völlig anderes als immer bloß "Ableitung Null setzen". Deswegen sind solche Beispiele wie die vorliegende Aufgabe auch so wertvoll, um diese Flausen aus dem Kopf zu treiben:

Die Likelihoodfunktion lautet hier nämlich vollständig (!)



anders geschrieben

,

warum beide Ausdrücke gleich sind, darüber bitte mal genau nachdenken...


D.h., wenn man das Maximum bzgl. sucht, dann hat das überhaupt nur Zweck für die , wo gilt, umgeschrieben . Denn für ist die Likelihood-Funktion Null und damit sicher nicht maximal...


Da nun streng monoton fallend ist, wird dessen Maximum beim kleinsten möglichen mit angenommen, und das ist dann natürlich .
Huggy Auf diesen Beitrag antworten »

Zitat:
Original von Arthur Dent
Maximieren ist was völlig anderes als immer bloß "Ableitung Null setzen". Deswegen sind solche Beispiele wie die vorliegende Aufgabe auch so wertvoll, um diese Flausen aus dem Kopf zu treiben:

Und noch etwas anderes zeigt dieses Beispiel sehr schön:
Die Maximum-Likelihood-Methode, so intuitiv plausibel sie auch erscheinen mag, liefert nicht generell 'vernünftige' Schätzer. Nun ist es Ansichtssache, was man für vernünftig hält. Sagen wir es also mehr mathematisch: Der ML-Schätzer ist bei diesem Beispiel nicht erwartungstreu! Es ist bei wiederholter Stichprobennahme



Im Extremfall, beim Stichprobenumfang n =1, hat man:



Und das würde ich mal ganz salopp als miserablen Schätzer bezeichnen.
AD Auf diesen Beitrag antworten »

Immerhin taugt hier aber als suffiziente Statistik, und damit kann man den bekanntermaßen erwartungstreuen Schätzer via Rao-Blackwell ziemlich verbessern - das wäre dann wohl

,

wenn ich mich nicht irre. Das hat natürlich nur noch bedingt mit ML zu tun. Augenzwinkern
 
 
Huggy Auf diesen Beitrag antworten »

Zitat:
Original von Arthur Dent
Immerhin taugt hier aber als suffiziente Statistik, und damit kann man den bekanntermaßen erwartungstreuen Schätzer via Rao-Blackwell ziemlich verbessern - das wäre dann wohl

,

wenn ich mich nicht irre. Das hat natürlich nur noch bedingt mit ML zu tun. Augenzwinkern

Arthur, da überforderst du mich!
Ganz ohne Nachdenken hätte ich



als Schätzer gewählt. Der dürfte erwartungstreu, konsistent und vielleicht auch wirksam sein.
AD Auf diesen Beitrag antworten »

Zitat:
Original von Huggy
Ganz ohne Nachdenken hätte ich



als Schätzer gewählt. Der dürfte erwartungstreu, konsistent

Richtig.

Zitat:
Original von Huggy
und vielleicht auch wirksam sein.

Nein, das ist er leider noch nicht, sondern der daraus via Rao-Blackwell gebastelte Schätzer. Die Rechnung

mit

"sauber" aufzuschreiben, müsste ich auch erstmal raussuchen, ist gar nicht so einfach. Heuristisch ist es irgendwie klar, wenn man passende "Seitenwände" des -dimensionalen Kubus der Seitenlänge anschaut und dann



rechnet (erster Summand für die zu gehörende Seitenwand; der zweite Summand für die anderen zu gehörenden Seitenwände) - aber so richtig mathematisch sauber ist das eben nicht. Augenzwinkern

Irgendwie schweifen wir ab, aber ist ja egal. Big Laugh


P.S.: Den Faktor 2 von hatte ich bereits vor deinem letzten Beitrag nachgerüstet, den hatte ich wirklich erst vergessen.
Huggy Auf diesen Beitrag antworten »

Zitat:
Original von Arthur Dent
Irgendwie schweifen wir ab, aber ist ja egal. Big Laugh

Genau!
Ich lerne dabei jedenfalls einiges dazu. Und vielleicht der eine oder andere, der mitliest, auch.
AD Auf diesen Beitrag antworten »

Es mag vielleicht so aussehen, als verstehe ich was davon - aber zugegebenermaßen habe ich mein Pulver zu diesem Thema "Rao-Blackwell" in den bisherigen Beiträgen bereits weitgehend verschossen. Richtig Ahnung davon habe ich nämlich auch nicht. Teufel
Gast_Stat Auf diesen Beitrag antworten »

Das Thema ist schon ein paar Jahre alt, aber ich möchte doch eine (weitere) Lanze für den ML-Schätzer brechen. Wenn man neben den theoretischen Betrachtungen eine kleine Simulation durchführt, sieht man nämlich sehr schnell, dass zwar erwartungstreu ist, aber eine riesige Varianz aufweist.

Der einfache ML-Schätzer hat eine deutlich kleinere Varianz als . Er ist zwar nicht erwartungstreu, aber das ist ja nicht weiter schlimm. Der rao-blackwellisierte ML-Schätzer

ist wieder erwartungstreu. Dafür hat er eine etwas höhere Varianz, wenn man allerdings den MSE betrachtet, ist besser als die anderen beiden Schätzer.

Insofern ist der ML-Schätzer in dieser Situation zwar nicht erwartungstreu, aber trotzdem in Bezug auf den MSE deutlich besser als der doppelte Mittelwert. Außerdem bietet er die Grundlage für einen Schätzer mit noch kleinerem MSE.

Auch allgemein ist das eine vernünftige Vorgehensweise, denn sofern noch Vollständigkeit hinzukommt, ist ein rao-blackwellisierter Schätzer nach dem Satz von Lehmann-Scheffé der gleichmäßig beste erwartungstreue Schätzer.
Neue Frage »
Antworten »



Verwandte Themen

Die Beliebtesten »
Die Größten »
Die Neuesten »