Maximum Likelihood

12.09.2020, 18:35

Peter33xx

Maximum Likelihood

Hey Leute poste eine neue Aufgabe wo ich gerade Probleme habe .
Alleine wird es wahrscheinlich schwer zu lösen Big Laugh

Bitte um Hilfe

Ich habe leider direkt bei der a) Probleme

12.09.2020, 22:00

Peter33xx

Auf diesen Beitrag antworten »

Hat jemand tipps Leute ?

13.09.2020, 07:31

Huggy

Auf diesen Beitrag antworten »

Zur Bestimmung des ML-Schätzers eines unbekannten Parameters (hier $\begin{eqnarray*} \lambda \end{eqnarray*}$ ) einer Verteilung aus einer Stichprobe ist ein bestimmter Ausdruck $\begin{eqnarray*} L=L(\lambda) \end{eqnarray*}$ zu maximieren. $\begin{eqnarray*} L \end{eqnarray*}$ wird üblicherweise als Likelihood bezeichnet. Wie lautet $\begin{eqnarray*} L(\lambda) \end{eqnarray*}$ für die gegebene Verteilung?

Hinweis: Statt $\begin{eqnarray*} L \end{eqnarray*}$ zu maximieren, ist es oft bequemer $\begin{eqnarray*} \ln L \end{eqnarray*}$ zu maximieren. Das ist zulässig, da der Logarithmus eine streng monotone Funktion ist.

13.09.2020, 09:01

Peter33xx

Auf diesen Beitrag antworten »

Hast du paar Tipps wie ich jetzt an eine solche Aufgabe ran gehen muss ?

13.09.2020, 09:06

Huggy

Auf diesen Beitrag antworten »

Ich habe dir einen Tipp gegeben und eine Frage gestellt! Du musst schon konkreter sagen, wo es bei dir klemmt. Kannst du meine Frage beantworten?

13.09.2020, 09:17

Peter33xx

Auf diesen Beitrag antworten »

das L(lambda ) = lambda *e^{-lambdax} ?

13.09.2020, 09:31

Huggy

Auf diesen Beitrag antworten »

Das wäre ja nur die Dichtefunktion. In $\begin{eqnarray*} L \end{eqnarray*}$ muss doch die gegebene Stichprobe eingehen! Bei einer stetigen Zufallsgröße mit Dichtefunktion $\begin{eqnarray*} f(\lambda, x) \end{eqnarray*}$ , die von dem unbekannten Parameter $\begin{eqnarray*} \lambda \end{eqnarray*}$ abhängt, lautet die Likelihood $\begin{eqnarray*} L \end{eqnarray*}$ :

$\begin{eqnarray*} L(\lambda)=\prod_{i=0}^n f(\lambda, x_i) \end{eqnarray*}$

Dabei sind die $\begin{eqnarray*} x_i \end{eqnarray*}$ die Stichprobenwerte. Wie sieht also $\begin{eqnarray*} L \end{eqnarray*}$ bei deiner Aufgabe aus?

Versuch die Formeln mittels Latex zu schreiben. Du kannst dabei den Formeleditor zu Hilfe entnehmen. Wenn du bei meinen Beiträge auf Zitat klickst, kannst du sehen, wie bei mir der Latexcode aussieht.

13.09.2020, 09:37

Peter33xx

Auf diesen Beitrag antworten »

$\begin{eqnarray*} L(\lambda)=\prod_{i=0}^n f(\lambda, x_i)= \lambda *e^{-\lambda *x_{1}}+\lambda *e^{-\lambda *x_{2}}+ \lambda *e^{-\lambda *x_{3}}..... \end{eqnarray*}$

So in etwa?

13.09.2020, 09:41

Huggy

Auf diesen Beitrag antworten »

Fast! Du hast allerdings ganz rechts eine Summe hingeschrieben. Da muss aber ein Produkt stehen. Und bei diesem Produkt kann man dann einige Faktoren zusammenfassen.

13.09.2020, 09:50

Peter33xx

Auf diesen Beitrag antworten »

$\begin{eqnarray*} L(\lambda)=\prod_{i=0}^n f(\lambda, x_i)= \lambda *e^{-\lambda *x_{1}}*\lambda *e^{-\lambda *x_{2}}* \lambda *e^{-\lambda *x_{3}}..... =\lambda *e^{-\lambda *(x_{1}+x_{2}+x_{3}....)} \end{eqnarray*}$

Besser ?

13.09.2020, 10:00

Huggy

Auf diesen Beitrag antworten »

Ja, aber noch nicht ganz richtig. Der Faktor $\begin{eqnarray*} \lambda \end{eqnarray*}$ vor der Exponentialfunktion kommt doch in dem Produkt mehrfach vor. Korrekt ist also:

$\begin{eqnarray*} L(\lambda)=\lambda^n e^{-\lambda \sum\limits_{i=1}^n x_i} \end{eqnarray*}$

Im Unterschied zu vorher habe ich die Nummerierung jetzt bei $\begin{eqnarray*} i=1 \end{eqnarray*}$ beginnen lassen, damit $\begin{eqnarray*} n \end{eqnarray*}$ der Zahl der Datenpunkt entspricht. Dieses $\begin{eqnarray*} L \end{eqnarray*}$ ist also zu maimieren. Denk dabei an meinen obigen Tipp.

13.09.2020, 10:09

Peter33xx

Auf diesen Beitrag antworten »

$\begin{eqnarray*} L(\lambda)=\lambda^n e^{-\lambda \sum\limits_{i=1}^n x_1+x_2+x_3+.....x_n} \end{eqnarray*}$

WIllst du auf das obige hinaus ?

13.09.2020, 10:17

Huggy

Auf diesen Beitrag antworten »

Das ist noch immer $\begin{eqnarray*} L \end{eqnarray*}$ , nur die Summe im Exponenten ausgeschrieben und dann trotzdem das Summenzeichen davor geschrieben, was syntaktischer Unfug ist.. Mein Tipp war, jetzt erst mal $\begin{eqnarray*} \ln L \end{eqnarray*}$ zu bilden und dann davon das Maximum zu bestimmen. Was ergibt sich für $\begin{eqnarray*} \ln L \end{eqnarray*}$ ?

13.09.2020, 10:18

Peter33xx

Auf diesen Beitrag antworten »

Wenn ich links das ln bilde dann fällt das ehoch weg?

13.09.2020, 10:23

Huggy

Auf diesen Beitrag antworten »

Was meinst du mit wegfallen? Es ist $\begin{eqnarray*} \ln e^y=y \end{eqnarray*}$ . Falls du das meinst, ja. Schreib mal dein Ergebnis für $\begin{eqnarray*} \ln L \end{eqnarray*}$ hin.

13.09.2020, 10:38

Peter33xx

Auf diesen Beitrag antworten »

$\begin{eqnarray*} ln(L(\lambda))=n *{-\lambda*( x_1+x_2+x_3+.....x_n}) \end{eqnarray*}$

Hoffe richtig ?

13.09.2020, 10:50

Huggy

Auf diesen Beitrag antworten »

Wieder nicht ganz richtig. Es ist doch

$\begin{eqnarray*} \ln \lambda ^n= n \ln \lambda \end{eqnarray*}$

Und es ist

$\begin{eqnarray*} \ln a b =\ln a + \ln b \end{eqnarray*}$

Neuer Versuch!

13.09.2020, 11:01

Peter33xx

Auf diesen Beitrag antworten »

Puuh das wirkt komplizeirt
Hier mein Versuch ?
$\begin{eqnarray*} ln(L(\lambda))=n *{ln(-\lambda)+( x_1+x_2+x_3+.....x_n}) \end{eqnarray*}$

13.09.2020, 11:09

Huggy

Auf diesen Beitrag antworten »

Du arbeitest nicht sorgfältig. Korrekt ist

$\begin{eqnarray*} \ln L =n \ln \lambda - \lambda \sum_{i=1}^n x_i \end{eqnarray*}$

Da erste $\begin{eqnarray*} \lambda \end{eqnarray*}$ kommt von $\begin{eqnarray*} \lambda^n \end{eqnarray*}$ . Das zweite $\begin{eqnarray*} \lambda \end{eqnarray*}$ kommt aus aus der Exponentialfunktion. Jetzt ist $\begin{eqnarray*} \hat \lambda \end{eqnarray*}$ dasjenige $\begin{eqnarray*} \lambda \end{eqnarray*}$ , das $\begin{eqnarray*} \ln L \end{eqnarray*}$ maximiert.

13.09.2020, 11:14

Peter33xx

Auf diesen Beitrag antworten »

Das war es jetzt ?
Oder soll ich die Summe ausschreiben ?

13.09.2020, 11:16

Huggy

Auf diesen Beitrag antworten »

Wie bestimmt man denn das Maximum einer Funktion?

13.09.2020, 11:31

Peter33xx

Auf diesen Beitrag antworten »

Ableitung ,aber in der Aufgabe steht ja das man irgendwie nicht nachweisen soll,dass es um Maximum handelt?

13.09.2020, 11:36

Huggy

Auf diesen Beitrag antworten »

Aber die Stelle musst du schon bestimmen, an der die Ableitung Null wird. Das könnte dann auch ein Minimum oder ein Sattelpunkt sein. Die Untersuchung, dass es tatsächlich ein Maximum ist, musst du nicht machen.

13.09.2020, 12:11

Peter33xx

Auf diesen Beitrag antworten »

Wie leite ich das ganze jetzt ab ?
Wirkt schwer Big Laugh

13.09.2020, 12:32

Huggy

Auf diesen Beitrag antworten »

Jetzt machst du mich etwas fassungslos. Die Variable, nach der abgeleitet wird, ist $\begin{eqnarray*} \lambda \end{eqnarray*}$ . Du musst also nur wissen, was die Ableitung von $\begin{eqnarray*} \ln \lambda \end{eqnarray*}$ und von $\begin{eqnarray*} a \lambda \end{eqnarray*}$ ist. $\begin{eqnarray*} a \end{eqnarray*}$ steht für den Summenterm in $\begin{eqnarray*} \ln L \end{eqnarray*}$ .

13.09.2020, 16:31

Peter33xx

Auf diesen Beitrag antworten »

$\begin{eqnarray*} \ln L =n *1/\lambda - \sum_{i=1}^n x_i \end{eqnarray*}$

Habe mal abgeleitet ,aber was passiert mit dem Summenterm?

13.09.2020, 16:49

Huggy

Auf diesen Beitrag antworten »

Das ist korrekt. Was soll mit dem Summenterm passieren? Der steht so da, wie er dasteht. unglücklich

Jetzt ist die Ableitung noch gleich Null zu setzen und nach $\begin{eqnarray*} \lambda \end{eqnarray*}$ aufzulösen. Das ergibt den ML-Schätzer $\begin{eqnarray*} \hat \lambda \end{eqnarray*}$ .

13.09.2020, 17:39

Peter33xx

Auf diesen Beitrag antworten »

$\begin{eqnarray*} n *1/\lambda - \sum_{i=1}^n x_i=0 \end{eqnarray*}$

$\begin{eqnarray*} n / (\sum_{i=1}^n x_i)=lambda \end{eqnarray*}$ So?

13.09.2020, 17:46

Huggy

Auf diesen Beitrag antworten »

Ja. Etwas schöner mit Latex geschrieben:

$\begin{eqnarray*} \hat \lambda=\frac n {\sum\limits_{i=1}^n x_i} \end{eqnarray*}$

Der Ml-Schätzer von $\begin{eqnarray*} \lambda \end{eqnarray*}$ ist also der Kehrwert des Mittelwerts der Stichprobe. Das ergibt Sinn, denn der Erwartungswert der Exponentialverteilung ist ja gerade $\begin{eqnarray*} \frac 1 \lambda \end{eqnarray*}$ .

13.09.2020, 17:52

Peter33xx

Auf diesen Beitrag antworten »

Und das war es schon Huggy?

13.09.2020, 17:55

Huggy

Auf diesen Beitrag antworten »

Ja, das war a).
Auch wenn es dir schwierig erschien, wenn man die Schulmathematik (Gymnasium, Oberstufe) beherrscht, ist das ein Vierzeiler.

13.09.2020, 18:19

Peter33xx

Auf diesen Beitrag antworten »

Haha. hast du tipps für die b)?

13.09.2020, 18:30

Huggy

Auf diesen Beitrag antworten »

Da gibt es nichts zu tippen. Rechne den Mittelwert der Stichprobe aus und bilde dann den Kehrwert. Ich werde das bestimmt nicht nachrechnen.

13.09.2020, 22:53

Peter33xx

Auf diesen Beitrag antworten »

Soll ich einfach alle Brenndauern addieren und durch 10 teilen?

14.09.2020, 07:35

Huggy

Auf diesen Beitrag antworten »

Das ist die Definition des Mittelwerts.

14.09.2020, 11:43

HAL 9000

Auf diesen Beitrag antworten »

Nach dem Hinweis hier habe ich eine Weile gesucht, bis ich den Thread dann hier in der Numerik gefunden habe. Gehört wohl eher in das Stochastik-Subforum. Augenzwinkern