Maximum-Likelihood

Neue Frage »

06.06.2020, 10:56

help33

Auf diesen Beitrag antworten »

Maximum-Likelihood

Hey Leute hat jemand tipps wie ich hier vorgehen muss ?
Komme gerade überhaupt nicht weiter bei dieser schweren Aufgabe

06.06.2020, 11:29

Huggy

Auf diesen Beitrag antworten »

RE: Maximum-Likelihood
Das ist doch kein Problem! Der ML-Schätzer $\begin{eqnarray*} \hat \lambda \end{eqnarray*}$ ist der Wert für $\begin{eqnarray*} \lambda \end{eqnarray*}$ , der die Likelihood $\begin{eqnarray*} L \end{eqnarray*}$ maximiert. $\begin{eqnarray*} L \end{eqnarray*}$ ist definiert als

$\begin{eqnarray*} L=\prod_{i=1}^n P(X=x_i) \end{eqnarray*}$

Das schreibst du dir für die Poissonverteilung mit Parameter $\begin{eqnarray*} \lambda \end{eqnarray*}$ hin. Statt $\begin{eqnarray*} L \end{eqnarray*}$ zu maximieren, kann man auch $\begin{eqnarray*} \ln L \end{eqnarray*}$ maximieren und das ist hier einfacher. Das Maximum von $\begin{eqnarray*} \ln L \end{eqnarray*}$ bestimmt man durch Nullsetzen der Ableitung nach $\begin{eqnarray*} \lambda \end{eqnarray*}$ .

06.06.2020, 22:08

help33

Auf diesen Beitrag antworten »

Ich versuche jetzt gerade mit Produktregel abzuleiten .
Aber wie leite ich das x! ab?

Keine Idee gerade

06.06.2020, 22:13

Jan Schneider

Auf diesen Beitrag antworten »

Zitat:

Original von help33
Ich versuche jetzt gerade mit Produktregel abzuleiten .
Aber wie leite ich das x! ab?

Keine Idee gerade

Die Fakultät lässt sich meines Wissens nicht ableiten, da sie nur auf den natürlichen Zahlen definiert ist und somit nur diskrete Werte annehmen kann (in $\begin{eqnarray*} \mathbb{R} \end{eqnarray*}$ ).

Geht wenn man das tun muss glaube ich über die Gamma-Funktion oder so. verwirrt

06.06.2020, 22:20

help33

Auf diesen Beitrag antworten »

Ja aber wie soll ich das sonst bei dieser Aufgabe machen ?
Huggy meinte doch ableitung = 0 einsetzen?

06.06.2020, 22:27

Elvis

Auf diesen Beitrag antworten »

In der Ableitung nach lambda ist x und x! konstant.

06.06.2020, 23:21

help33

Auf diesen Beitrag antworten »

Könnte einen Ansatz posten ,aber ich glaube der wäre sowieso falsch .
Keine Ahnung wie ich das ableiten soll verwirrt

07.06.2020, 08:01

Huggy

Auf diesen Beitrag antworten »

Auch wenn der Ansatz falsch wäre, sollte man posten, was man gemacht hat. Dann kann man sehen, was falsch ist und gezielt Hilfestellung geben.

Die Likelihood $\begin{eqnarray*} L \end{eqnarray*}$ ergibt für die Poissonverteilung

$\begin{eqnarray*} L=\prod_{i=1}^n \frac {\lambda^{x_i}}{x_i!}e^{-\lambda} \end{eqnarray*}$

Zunächst sollte man sich dieses Produkt mal näher anschauen. Man kann es nämlich hilfreich umformen. Dazu kann es helfen, sich das Produkt mal für ein konkretes $\begin{eqnarray*} n \end{eqnarray*}$ , z. B. $\begin{eqnarray*} n=3 \end{eqnarray*}$ anzuschauen:

$\begin{eqnarray*} L=\left (\frac {\lambda^{x_1}}{x_1!}e^{-\lambda} \right ) \cdot \left (\frac {\lambda^{x_2}}{x_2!}e^{-\lambda} \right ) \cdot \left (\frac {\lambda^{x_3}}{x_3!}e^{-\lambda} \right ) \end{eqnarray*}$

Man hat 3 Faktoren $\begin{eqnarray*} e^{-\lambda} \end{eqnarray*}$ , die man mit der Potenzregel zusammenfassen kann. Ebenso kann man das Produkt der Potenzen von $\begin{eqnarray*} \lambda \end{eqnarray*}$ zusammenfassen. Jetzt mach das mal für allgemeines $\begin{eqnarray*} n \end{eqnarray*}$ und schreib hin, was da bei dir herauskommt. Ich schreibe nichts hin, weil ich glaube, es ist falsch, möchte ich nicht noch mal lesen.

Danach solltest du meinen Ratschlag folgen erst mal $\begin{eqnarray*} \ln L \end{eqnarray*}$ zu bilden und erst dann abzuleiten.

07.06.2020, 10:32

help33

Auf diesen Beitrag antworten »

$\begin{eqnarray*} L= e^{-3\lambda}\left (\frac {\lambda^{x_1+x_2+x_3}}{x_1!*x_2!*x_3!} \right ) \end{eqnarray*}$

So sieht es aktuell bei mir aus ?
Verstehe nicht so ganz wie ich jetzt hier genau ln machen soll ?

Soll ich den ln auf beiden Seiten ziehen jetzt ?

07.06.2020, 10:52

Huggy

Auf diesen Beitrag antworten »

Richtig. Für allgemeines $\begin{eqnarray*} n \end{eqnarray*}$ hat man:

$\begin{eqnarray*} L=e^{-n \lambda} \frac {\lambda^{\sum_{i=1}^n x_i}}{\prod_{i=1}^n x_i!} \end{eqnarray*}$

Und ja, jetzt sollst du beide Seiten logarithmieren. Da der Logarithmus eine streng monotone Funktion ist, hat $\begin{eqnarray*} \ln L \end{eqnarray*}$ sein Maximum an derselben Stelle, an der $\begin{eqnarray*} L \end{eqnarray*}$ sein Maximum hat. Der Sinn der Übung ist, dass durch das Logarithmieren aus dem Produkt auf der rechten Seite eine Summe wird und die ist wesentlich leichter abzuleiten als das Produkt.

Was also ergibt

$\begin{eqnarray*} \ln L = ? \end{eqnarray*}$

und was danach

$\begin{eqnarray*} \frac {\partial L}{\partial \lambda}=? \end{eqnarray*}$

07.06.2020, 11:48

help33

Auf diesen Beitrag antworten »

$\begin{eqnarray*} ln(L)= -3\lambda+ln(\left (\frac {\lambda^{x_1+x_2+x_3}}{x_1!*x_2!*x_3!} \right ) ) \end{eqnarray*}$

Wie leite ich das jetzt ab?

Ich starte mal dL/dlambda = -3+........

07.06.2020, 12:33

Elvis

Auf diesen Beitrag antworten »

Logarithmenregeln anwenden ist ja nun wirklich nicht schwer, und die Ableitung des Logarithmus sollte auch bekannt sein.

07.06.2020, 12:33

Huggy

Auf diesen Beitrag antworten »

Zunächst mal solltest du jetzt den Fall mit allgemeinem $\begin{eqnarray*} n \end{eqnarray*}$ betrachten. Außerdem lässt sich der noch verbliebene Logarithmus auf der rechten Seite noch weiter auseinanderziehen. Das solltest du erst mal machen, und wie gesagt mit allgemeinem $\begin{eqnarray*} n \end{eqnarray*}$ . Danach wird die Ableitung zum Schluss ziemlich trivial. Dein Anfang mit $\begin{eqnarray*} n=3 \end{eqnarray*}$ war in Ordnung.

07.06.2020, 15:37

help33

Auf diesen Beitrag antworten »

$\begin{eqnarray*} ln(L)= -3\lambda+ln(\left (\frac {\lambda^{x_1+x_2+x_3}}{x_1!*x_2!*x_3!} \right ) ) \end{eqnarray*}$

Wie leite ich das jetzt ab?

$\begin{eqnarray*} dL/dlambda = -3+ \frac{1}{(\left (\frac {\lambda^{x_1+x_2+x_3}}{x_1!*x_2!*x_3!} \right ) } \end{eqnarray*}$

Das wars ?

07.06.2020, 15:42

Huggy

Auf diesen Beitrag antworten »

Deine Ableitung ist falsch.
Hast du meine letzte Antwort nicht gelesen? Mach erst mal das, was da steht!

07.06.2020, 15:48

help33

Auf diesen Beitrag antworten »

$\begin{eqnarray*} L= e^{-3\lambda}\left (\frac {\lambda^{x_n}}{x_n!} \right ) \end{eqnarray*}$

Meinst. du es so mit allgemeinem n?

07.06.2020, 15:56

help33

Auf diesen Beitrag antworten »

$\begin{eqnarray*} -3\lambda +ln(\lambda^{x^{n}})-ln(x_{n}!) \end{eqnarray*}$

Abgeleitet:

$\begin{eqnarray*} -3 + \frac{1}{\lambda^{x^{n}}} +\frac{1}{x_{n}!} \end{eqnarray*}$

Inwieweit hilft. das jetzt ?

07.06.2020, 16:08

Huggy

Auf diesen Beitrag antworten »

Herrgott nein. Ich meine

$\begin{eqnarray*} \ln L=- n \lambda +\ln \left (\frac{\lambda^{\sum\limits_{i=1}^n x_i}}{\prod\limits_{i=1}^n x_i! }\right )=-n \lambda+\ln \left (\lambda^{\sum_\limits{i=1}^n x_i}\right )-\ln \prod\limits_{i=1}^n x_i! \end{eqnarray*}$

Und jetzt ist noch

$\begin{eqnarray*} \ln \left (\lambda^{\sum_\limits{i=1}^n x_i}\right ) \end{eqnarray*}$

umzuschreiben nach der Regel für $\begin{eqnarray*} \ln a^b \end{eqnarray*}$ . Erst danach wird abgeleitet.

07.06.2020, 17:45

help33

Auf diesen Beitrag antworten »

Ich habe meinen Ansatz als bild angehängt ,da es mit Latex net geklappt hat .

Wie gehe ich hier weiter vor ?
Man das wird jetzt schwer Big Laugh

07.06.2020, 18:07

Huggy

Auf diesen Beitrag antworten »

Das ist noch immer nicht ganz richtig. Es ist

$\begin{eqnarray*} \ln a^b=b \ln a \end{eqnarray*}$

Also ist

$\begin{eqnarray*} \ln \lambda^{\sum\limits_{i=1}^n x_i} = (\sum\limits_{i=1}^n x_i )\ln \lambda \end{eqnarray*}$

Das $\begin{eqnarray*} \ln \lambda \end{eqnarray*}$ hat bei dir gefehlt. Also haben wir jetzt

$\begin{eqnarray*} \ln L = -n \lambda + (\sum\limits_{i=1}^n x_i )\ln \lambda + \ln \prod\limits_{i=1}^n x_i! \end{eqnarray*}$

Das ist nach $\begin{eqnarray*} \lambda \end{eqnarray*}$ abzuleiten. Beachte dass die $\begin{eqnarray*} x_i \end{eqnarray*}$ nicht von $\begin{eqnarray*} \lambda \end{eqnarray*}$ abhängen.

07.06.2020, 18:15

help33

Auf diesen Beitrag antworten »

Kann es das der Term der von lambda nicht abhängt weg fällt ?

Dann wäre es

ln(L ) = -n+ 1/lambda ?

07.06.2020, 18:21

Huggy

Auf diesen Beitrag antworten »

Der letzte Summand mit den Fakultäten fällt beim Ableiten tatsächlich weg. Aber vor $\begin{eqnarray*} \ln \lambda \end{eqnarray*}$ steht noch ein Faktor und der fällt beim Ableiten ncht weg, auch wenn er nicht von $\begin{eqnarray*} \lambda \end{eqnarray*}$ abhängt. Du musst als deine Ableitung noch mal korrigieren.

Und auf der linken Seite solltest du natürlich die Ableitung hinschreiben.

07.06.2020, 18:45

help33

Auf diesen Beitrag antworten »

$\begin{eqnarray*} 1/( L )= -n + (\sum\limits_{i=1}^n x_i ) *1/lambda \end{eqnarray*}$

OMG
Ok nächste Versuch

Ist die Korrektur jetzt besser ?

07.06.2020, 18:55

Huggy

Auf diesen Beitrag antworten »

Zitat:

Original von help33
Ist die Korrektur jetzt besser ?

Fast. So hatte ich das mit der linken Seite gemeint.

$\begin{eqnarray*} \frac{\partial \ln L}{\partial \lambda}= -n + \frac {\sum\limits_{i=1}^n x_i }{\lambda} \end{eqnarray*}$

Ausführen kann man die Ableitung auf der linken Seite nicht. Und schon gar nicht ergibt sie $\begin{eqnarray*} 1/L \end{eqnarray*}$ . Jetzt ist die Ableitung Null zu setzen und die Gleichung nach $\begin{eqnarray*} \lambda \end{eqnarray*}$ aufzulösen.

07.06.2020, 19:27

help33

Auf diesen Beitrag antworten »

$\begin{eqnarray*} n= \frac {\sum\limits_{i=1}^n x_i }{\lambda} \end{eqnarray*}$

$\begin{eqnarray*} \lambda= \frac {\sum\limits_{i=1}^n x_i }{n} \end{eqnarray*}$

$\begin{eqnarray*} \lambda= \frac {x_{1}+x_{2}+x_{3} }{n} \end{eqnarray*}$

Wie geht es weiter ?

07.06.2020, 19:43

Huggy

Auf diesen Beitrag antworten »

Jetzt bist du fertig. In deiner zweiten Zeile steht das Ergebnis. Das ist der ML-Schätzer für $\begin{eqnarray*} \lambda \end{eqnarray*}$ . Es ist der Mittelwert der $\begin{eqnarray*} x_i \end{eqnarray*}$ .

Weshalb du eine dritte Zeile schreibst, in der oben nur 3 Summanden stehen, verstehe ich nicht. Der Fall $\begin{eqnarray*} n=3 \end{eqnarray*}$ am Anfang war doch nur als Beispiel gedacht, um dir bei der Umformung des Produkts auf die Sprünge zu helfen. Und wenn du schon für diesen Spezialfall in der 3. Zeile das Ergebnis angeben wolltest, dann gehört da in den Nenner kein $\begin{eqnarray*} n \end{eqnarray*}$ , sondern eine 3.

07.06.2020, 20:28

help33

Auf diesen Beitrag antworten »

Danke .
Muss man bei solchen Aufgaben also sozusagen weiter mit den Summenzeichen usw weiter rechnen um auf den Schätzer zu kommen ?

Aber ohne Hilfe hätte ich das nicht geschafft

07.06.2020, 20:43

Huggy

Auf diesen Beitrag antworten »

Wenn man ein Ergebnis für ein beliebiges $\begin{eqnarray*} n \end{eqnarray*}$ haben will, muss man mit einem beliebigen $\begin{eqnarray*} n \end{eqnarray*}$ arbeiten, d. h. $\begin{eqnarray*} n \end{eqnarray*}$ als Variable benutzen. Das geht am bequemsten mit dem Summenzeichen.

Die Technik mit dem Logarithmieren und erst dann Ableiten wird bei der ML-Methode sehr häufig benutzt. Man sollte sie unbedingt kennen.

07.06.2020, 22:05

help33

Auf diesen Beitrag antworten »

Danke

Neue Frage »

Antworten »

Maximum-Likelihood

Verwandte Themen