ML-Schätzer einer Dichte

Neue Frage »

Gast11022013 Auf diesen Beitrag antworten »
ML-Schätzer einer Dichte
Meine Frage:
Weiß jemand, wie ML-Schätzer von Dichten funktionieren?

Also ich kenne nur den Fall, daß man für einen gesuchten Parameter den ML-Schätzer bestimmen soll, aber für eine Dichte?!

Meine Ideen:
...
Gast11022013 Auf diesen Beitrag antworten »
RE: ML-Schätzer einer Dichte
Ich sollte vielleicht konkreter werden.

Also es sind iid Zufallsvariablen mit Vert.fkt. F und Dichte f (f sei dabei eine Treppenfkt. über die Intervalle , also



Und jetzt soll ich den ML-Schätzer von f bestimmen.


Wie macht man denn das?
Gast11022013 Auf diesen Beitrag antworten »
RE: ML-Schätzer einer Dichte
Ich bin immer noch ziemlich ahnungslos, aber ich poste trotzdem mal eine "Idee" (ist mir fast peinlich, das als "Idee" zu bezeichnen):


Vielleicht ist die Likelihood hier ja:

.

Und man muss doch jetzt das Maximum dieser Funktion bestimmen?

Ist sie nicht dann maximal, wenn mit ?


Aber was das jetzt alles mit f zu tun hat... weiß ich echt nicht.
Ich kenne halt nur ML-Schätzer bei Parametern: Da müsste man schauen, für welchen Parameter das maximal wird, aber wie soll man das hier machen? KP. unglücklich


Bitte helft mir.
HAL 9000 Auf diesen Beitrag antworten »

Du suchst also einen nichtparametrischen ML-Dichte-Schätzer? Von sowas habe ich noch nie gehört und kann mir ehrlich gesagt auch nicht vorstellen, wie das funktionieren soll. verwirrt
Gast11022013 Auf diesen Beitrag antworten »

Also ich habe die Aufgabe so verstanden, was natürlich nichts heißen muss.

Ich schreibe die Aufgabe nochmal penibel ab, damit vielleicht jemand erkennt, wie man sie lösen kann:

Seien u.i.v. Zufallsvariablen mit Verteilungsfunktion F und Dichte f. Dabei sei f eine Treppenfunktion über die vorgegebenen Intervalle , d.h.

.

Zeigen Sie:

Der Maximum-Likelihood-Schätzer von f ist gegeben durch das auf dieser Intervalleinteilung basierende Histogramm .




Und in der Vorlesung haben wir definiert:

, wo h die Klassenbreite bezeichnet.




Wie gesagt: Anscheinend habe ich die Aufgabe total falsch verstanden, daher wäre ich dankbar, wenn mir jemand einen Wink mit dem Zaunpfahl geben könnte. Oder am besten einen Wink mit dem ganzen Zaun...
HAL 9000 Auf diesen Beitrag antworten »

Bei dieser festen Dichtestruktur, und den bereits vorgegebenen Intervallen ist es ja am Ende doch ein parametrisches Problem, und zwar für die Parameter . Und genauso musst du es auch bearbeiten. Augenzwinkern

Ich schau mir deine Überlegungen später an, aber jetzt bin ich erst mal von einer viertägigen Dienstreise zurück, das muss also noch etwas warten. Augenzwinkern
 
 
Gast11022013 Auf diesen Beitrag antworten »

Ah! Die Likelihood ist hier also eine Funktion der Parameter , gegeben die Beobachtungen .


Okay, vielen Dank.


Edit:

Ich würde dann sagen, daß die Likelihood gegeben ist durch:



Ist das richtig?


Falls ja: Muss ich jetzt partielle Ableitungen bilden?

Also bis

?
HAL 9000 Auf diesen Beitrag antworten »

Zitat:
Original von Dennis2010
Ich würde dann sagen, daß die Likelihood gegeben ist durch:



Ist das richtig?

Korrekt. Man sollte dann aber aus dem Formelkram mit den Indikatorfunktionen das Wesentliche herausarbeiten:

Es ist , sofern . Existiert kein mit , so ist .


Insofern reicht es, für eine Stichprobe zu "zählen", wieviele Werte davon in die diversen Intervalle fallen, das seien die Anzahlen .


Zwei mögliche Fälle sind nun denkbar:

a) Ist , so ist offenbar , denn mindestens ein Stichprobenwert lieg außerhalb des Gesamtintervalls . In dem Fall ist das Dichtemodell unvollkommen, ja "irregulär" für eine ML-Betrachtung.


b) In allen anderen Fällen ist sowie

bzw.

,

und das ist nun zu maximieren. Natürlich unterliegen die noch der Nebenbedingung, dass

,

und natürlich müssen alle nichtnegativ sein. Dieses Maximierungsproblem (mit Nebenbedingung) kann man nun wie in der Analysis gelernt mit Lagrange-Ansatz usw. bearbeiten.

Man kann es allerdings auch elementar mit AMGM erschlagen, in kürzester Zeit. Augenzwinkern
Gast11022013 Auf diesen Beitrag antworten »

Kurze Rückfrage:

Was bedeutet AMGM?
HAL 9000 Auf diesen Beitrag antworten »

Ist eigentlich auf der ersten Google-Seite zu finden:

Ungleichung zwischen Arithmetischen Mittel und Geometrischen Mittel

( Arithmetic Mean Geometric Mean inequality )
Gast11022013 Auf diesen Beitrag antworten »

Ich versuche mich jetzt an der Lösung des Maximierungsproblems (die Lagrange-Methode ist mir ganz neu, aber Versuch macht klug) und melde mich dann hier wieder.


Ich bin Dir sehr dankbar. Gott
Gast11022013 Auf diesen Beitrag antworten »

Also die Lagrange-Methode ist mir, wie gesagt, neu.
Ich schreibe daher mal etwas ausführlicher auf, was ich damit jetzt zustande gebracht habe:


(i) zu maximierende Funktion:



(ii) Nebenbedingung:



(iii) Lagrangefunktion (ich nenne sie mal H):



Dann:










Ich habe dann umgestellt wie folgt:







Diese Werte eingesetzt in



ergeben:




Daraus folgt dann:





HAL 9000 Auf diesen Beitrag antworten »

Alles korrekt. Freude
Gast11022013 Auf diesen Beitrag antworten »

Ah! Es gilt also

, da


Und daraus folgt dann:




Und dies ist doch gerade das auf der gegebenen Einteilung der Intervalle basierende Histogramm mit Klassenbreite h.



(Korrekt?)
HAL 9000 Auf diesen Beitrag antworten »

Ja.

Übrigens scheinst du da schon eine ganze Weile eine Symbolverwechslung drin zu haben: Die Klassenanzahl ist doch hier statt . Ist auch irgendwie besser, da das schon für die Likelihood-Funktion herhalten muss. Augenzwinkern
Gast11022013 Auf diesen Beitrag antworten »

Ich möchte mich nochmal sehr herzlich bei Dir bedanken, ohne Deine Hinweise hätte ich die Aufgabe nicht beweisen können. Es ist einfach großartig! Gott

Und auch danke für den letzten Hinweis auf die Symbolverwechslung.
Neue Frage »
Antworten »



Verwandte Themen

Die Beliebtesten »
Die Größten »
Die Neuesten »