Maximum-Likelihood

Neue Frage »

02.09.2021, 01:24

MrGray

Auf diesen Beitrag antworten »

Maximum-Likelihood

Hey Leute weiss jemand wie ich hier bei dieser alten Klausuraufgabe bei der a) vorgehen muss ?

02.09.2021, 07:29

Moonshine

Auf diesen Beitrag antworten »

Genauso wie hier:

Maximum-Likelihood-Schätzer

Schreibe die Dichtefunktion der Normalverteilung auf, bilde das Produkt der Dichtefunktionen für die verschiedenen $\begin{eqnarray*} x_i \end{eqnarray*}$ und bestimme dann die logarithmische Likelihoodfunktion. Die maximierst du dann. Tipp: Da sollte dann etwas sehr bekanntes als Ergebnis herauskommen Augenzwinkern

02.09.2021, 08:56

HAL 9000

Auf diesen Beitrag antworten »

Maximum Likelihood leicht
Geht hier sogar noch einfacher als im verlinkten Thread: Dort hatte es ja eine halbe Ewigkeit gedauert, bis erstmal die Dichtefunktion klar war. Die sollte hier bei der Normalverteilung von Anfang an klar sein:

$\begin{eqnarray*} f(x) = \frac{1}{\sigma\sqrt{2\pi}} e^{-\frac{(x-\mu)^2}{2\sigma^2}} = \frac{1}{\sqrt{2\pi}} e^{-\frac{(x-\mu)^2}{2}} \end{eqnarray*}$ ,

letzteres wegen $\begin{eqnarray*} \sigma=1 \end{eqnarray*}$ . Diese Dichtewerte nun über alle Stichprobenwerte $\begin{eqnarray*} x_1,\ldots,x_n \end{eqnarray*}$ betrachten und multiplizieren ist die Likelihoodfunktion: $\begin{eqnarray*} L(\mu) = \prod_{k=1}^n f(x_k) \end{eqnarray*}$ .

Wie im verlinkten Thread ist es auch hier von der Rechnung her günstiger, statt dieser Likelihoodfunktion die Loglikelihoodfunktion (= Logarithmus der Likelihoodfunktion) bzgl. $\begin{eqnarray*} \mu \end{eqnarray*}$ zu maximieren.

@Moderatoren

Bitte in Stochastik verschieben.

02.09.2021, 09:22

Moonshine

Auf diesen Beitrag antworten »

Stimmt, meine Angabe war etwas schluderig. Ich meinte, im verlinkten Thread an der Stelle einsteigen, an der die Dichtefunktion bekannt ist. Wobei es MrGray nicht schaden würde, den Schätzer mit allgemeinem $\begin{eqnarray*} \sigma \end{eqnarray*}$ zu bestimmen - für die Erkenntnis, dass der Schätzer nicht von $\begin{eqnarray*} \sigma \end{eqnarray*}$ abhängt Augenzwinkern

02.09.2021, 11:04

HAL 9000

Auf diesen Beitrag antworten »

Ich hab hier nur interveniert, weil der verlinkte Thread allein ein schlechtes bzw. abschreckendes Beispiel zum Einlesen in ein ML-Beispiel ist: Zuviel zermürbende Kämpfe auf Nebenkriegsschauplätzen verdecken die eigentlich wichtigen Sachen.

02.09.2021, 11:21

Moonshine

Auf diesen Beitrag antworten »

Ah, ich habe diesen Thread extra deshalb erwähnt, weil der MrBoogey von dort und der MrGray von hier dieselbe Person ist Augenzwinkern

02.09.2021, 11:32

HAL 9000

Auf diesen Beitrag antworten »

Das leitest du aus den beiden "Mr" ab? Na wenn du meinst. Augenzwinkern

02.09.2021, 12:03

MrGray

Auf diesen Beitrag antworten »

Mr Gray macht sich gleich dran an die Aufgabe
Fortsetzung folgt

02.09.2021, 12:54

Moonshine

Auf diesen Beitrag antworten »

Zitat:

Original von HAL 9000
Das leitest du aus den beiden "Mr" ab? Na wenn du meinst. Augenzwinkern

Nein, weil das alles Klausuraufgaben aus der selben Veranstaltung der TU Darmstadt sind, wie die Threads Gershgorin-Kreis, Butcher, usw. Augenzwinkern

02.09.2021, 15:11

MrGraynichtboogey

Auf diesen Beitrag antworten »

Soll ich jetzt in die Funktion x1.... bis x3 einsetzen und dann ausrechnen ?

02.09.2021, 15:29

HAL 9000

Auf diesen Beitrag antworten »

Zitat:

Original von MrGraynichtboogey
Soll ich jetzt in die Funktion x1.... bis x3 einsetzen und dann ausrechnen ?

Ist ineffizient und vor allem unübersichtlich, gleich zu Beginn die konkreten Werte einzusetzen und erst dann zur Extremwertbestimmung überzugehen. unglücklich

Bestimme lieber die Loglikelihood-Maximumstelle für allgemeine Stichproben, d.h. eine allgemeingültige Schätzerformel

$\begin{eqnarray*} \hat{\mu} = T_n(x_1,\ldots,x_n) \end{eqnarray*}$

in Abhängigkeit von den Stichprobenwerten $\begin{eqnarray*} x_1,\ldots,x_n \end{eqnarray*}$ - wie Moonshine oben schon richtig erwähnte, kommt da eine sehr bekannte Stichproben-Kenngröße als Ergebnisformel raus. Erst dann setzt du deine konkreten Werte $\begin{eqnarray*} n=3,x_1=9.1,x_2=8.9,x_3=9.3 \end{eqnarray*}$ da ein.

02.09.2021, 23:01

MRGRAY

Auf diesen Beitrag antworten »

Bestimme lieber die Loglikelihood-Maximumstelle für allgemeine Stichproben, d.h. eine allgemeingültige Schätzerformel

Leute wie bestimme ich das ?
Das ist alles nicht so trivial für mich wie ihr es denkt Big Laugh

Wie soll ich das denn bestimmen ?

03.09.2021, 00:01

HAL 9000

Auf diesen Beitrag antworten »

Wenn du wirklich der MrBoogey aus dem anderen Thread bist:

Hast du denn dort so gar nichts gelernt? unglücklich

03.09.2021, 00:32

MRGRAY

Auf diesen Beitrag antworten »

$\begin{eqnarray*} L_x(\mu,\sigma) := \prod_{k=1}^n \frac{1}{\sigma\sqrt{2\pi}} e^{-\frac{1}{2}\left(\frac{\ln(x_k)-\mu}{\sigma}\right)^2} \end{eqnarray*}$

Meinst du das hier ?

03.09.2021, 07:26

HAL 9000

Auf diesen Beitrag antworten »

Du hast hier die Dichte $\begin{eqnarray*} f(x) = \frac{1}{\sqrt{2\pi}} e^{-\frac{(x-\mu)^2}{2}} \end{eqnarray*}$ vorliegen, kennst die Definition der Likelihoodfunktion $\begin{eqnarray*} L(\mu) = \prod_{k=1}^n f(x_k) \end{eqnarray*}$ (steht alles schon mal oben im Thread), und hast im anderen Thread schon mal ein fast völlig analoges Beispiel zu ML kennengelernt. Da solltest du jetzt ENDLICH mal mehr Selbständigkeit zeigen und loslegen. Wenn du jetzt wieder in diesen Trott verfallen willst, nach jedem Mikroschritt des Verfahrens nachzufragen, dann ist das deine Sache - ich werde das nach den Erfahrungen im anderen Thread nicht unterstützen. Vielleicht findet sich jemand anderes, der dazu noch die Nerven hat.

03.09.2021, 19:33

MrGray

Auf diesen Beitrag antworten »

Gut hier meine Rechnung
keine Ahnung ob es stimmt ?

Hoffe das ich es nicht falsch weiter gerechnet hab ?

03.09.2021, 21:11

HAL 9000

Auf diesen Beitrag antworten »

Na vielleicht regelt ihr Darmstädter das besser untereinander ("Moonshine, übernehmen Sie!"). Ich komme vermutlich nur griesgrämig rüber, wenn ich diesen Scan inhaltlich auseinander nehme, das muss jetzt nicht sein im beginnenden Wochenende. Augenzwinkern

03.09.2021, 21:14

MrGray

Auf diesen Beitrag antworten »

Was ist denn da falsch?
Habe doch jetzt meine Rechnung gespostet?
Ich behaupte ja nicht das ich alles kann
Ich probiere es halt
Fällt mir nicht leicht

04.09.2021, 06:41

RavenOnJ

Auf diesen Beitrag antworten »

Wenn du ein Produkt logarithmierst, so ist das dasselbe, als wenn du die logarithmierten Faktoren summierst.

(Schon wieder weg.)

04.09.2021, 06:51

Moonshine

Auf diesen Beitrag antworten »

Okay, ich kann gerne übernehmen, komme aber erst heute Abend wieder zum schreiben. MrGray, versuche bitte den Tipp von RavenOnJ umzusetzen.

PS: Ich war in meinem ganzen Leben noch nie in Darmstadt Big Laugh

04.09.2021, 10:35

MRGRAY

Auf diesen Beitrag antworten »

$\begin{eqnarray*} L_x(\mu) := \prod_{k=1}^n ln(\sqrt{2\pi}) -\frac{(x_k-u)^2}{2} \end{eqnarray*}$

Soll da statt minus ein plus kommen ?
Würde aber nicht verstehen warum Raven On J

04.09.2021, 22:47

Moonshine

Auf diesen Beitrag antworten »

Zitat:

Original von MRGRAY
$\begin{eqnarray*} L_x(\mu) := \prod_{k=1}^n ln(\sqrt{2\pi}) -\frac{(x_k-u)^2}{2} \end{eqnarray*}$

Soll da statt minus ein plus kommen ?
Würde aber nicht verstehen warum Raven On J

Den letzten Satz verstehe ich nicht, aber du hast du hast das Logarithmengesetz falsch angewendet. Aus dem Logarithmus eines Produkt wird die Summe der Logarithmen der Faktoren. Das stand in dem verlinkten Thread aber auch schon richtig da. Und dir fehlt ein Minus, nämlich beim ersten Term. Damit wir hier weiterkommen, so sieht die richtige Loglikelihoodfunktion aus:

$\begin{eqnarray*} LL_x(\mu) := \sum_{k=1}^n \left[ - \ln(\sqrt{2\pi}) -\frac{(x_k-\mu)^2}{2} \right] \end{eqnarray*}$

Jetzt maximierst du die, so wie in dem anderen Thread.

05.09.2021, 02:30

MRGRAY

Auf diesen Beitrag antworten »

05.09.2021, 08:07

Moonshine

Auf diesen Beitrag antworten »

Du machst den zweiten Schritt vor dem ersten. Du musst zuerst ableiten. Auch wenn ich mich wiederhole: so wie in dem anderen Thread.

05.09.2021, 16:00

MrGray

Auf diesen Beitrag antworten »

05.09.2021, 16:13

Moonshine

Auf diesen Beitrag antworten »

Nein. Der erste Term in der Klammer ist doch konstant - was passiert mit Konstanten bei einer Ableitung? Beim zweiten Term hast du die 2 im Nenner vergessen. Und bitte bezeichne die Ableitung anders als die ursprüngliche Funktion, z. B. so $\begin{eqnarray*} LL^{\prime}_x(\mu) \end{eqnarray*}$ .

05.09.2021, 17:40

MrGray

Auf diesen Beitrag antworten »

05.09.2021, 22:25

Moonshine

Auf diesen Beitrag antworten »

Noch mal: der erste Term in der Klammer ist konstant! Die 2 im zweiten Term kannst du jetzt kürzen. Deine Vorzeichen im zweiten Term stimmen nicht.

Dann berechnest du die Summe für $\begin{eqnarray*} \mu \end{eqnarray*}$ , setzt die Ableitung gleich Null und löst dann nach $\begin{eqnarray*} \mu \end{eqnarray*}$ auf.

05.09.2021, 22:58

MrGray

Auf diesen Beitrag antworten »

Handelt es sich nicht um eine binomische Formel bei dem zweiten Term ?

(a-b)^2 = a^2-2ab+b^2 ?

05.09.2021, 23:02

Moonshine

Auf diesen Beitrag antworten »

Doch, die hast du auch richtig aufgeschrieben. Aber beim Ableiten ändern sich die Vorzeichen nicht - in deiner letzten Zeile ist alles positiv, das kann nicht stimmen.

05.09.2021, 23:08

MrGray

Auf diesen Beitrag antworten »

$\begin{eqnarray*} LL_x(\mu) := \sum_{k=1}^n \left[ - \ln(\sqrt{2\pi}) -\frac{(x_k-\mu)^2}{2} \right] \end{eqnarray*}$

$\begin{eqnarray*} LL_x(\mu) := \sum_{k=1}^n \left[ - \ln(\sqrt{2\pi}) -\frac{(x_k^2-2x_k\mu+\mu^2}{2} \right] \end{eqnarray*}$

$\begin{eqnarray*} LL`_x(\mu) := \sum_{k=1}^n \left[ - \ln(\sqrt{2\pi}) -\frac{(-2x_k+2\mu}{2} \right] \end{eqnarray*}$

$\begin{eqnarray*} LL`_x(\mu) := \sum_{k=1}^n \left[ - \ln(\sqrt{2\pi}) +2x_k-\mu \right] \end{eqnarray*}$

ok , bevor ich falsch weiter rechne ?

05.09.2021, 23:10

MrGray

Auf diesen Beitrag antworten »

[quote]Original von MrGray
$\begin{eqnarray*} LL_x(\mu) := \sum_{k=1}^n \left[ - \ln(\sqrt{2\pi}) -\frac{(x_k-\mu)^2}{2} \right] \end{eqnarray*}$

$\begin{eqnarray*} LL_x(\mu) := \sum_{k=1}^n \left[ - \ln(\sqrt{2\pi}) -\frac{(x_k^2-2x_k\mu+\mu^2}{2} \right] \end{eqnarray*}$

$\begin{eqnarray*} LL`_x(\mu) := \sum_{k=1}^n \left[ - \ln(\sqrt{2\pi}) -\frac{(-2x_k+2\mu}{2} \right] \end{eqnarray*}$

$\begin{eqnarray*} LL`_x(\mu) := \sum_{k=1}^n \left[ - \ln(\sqrt{2\pi}) +x_k-\mu \right] \end{eqnarray*}$

Nochmal korrigiert

Jetzt besser ?

05.09.2021, 23:14

Moonshine

Auf diesen Beitrag antworten »

Die Vorzeichen stimmen, aber du hast falsch gekürzt. Klammere zuerst die 2 aus und kürze dann.

Aller guten Dinge sind drei: $\begin{eqnarray*} \ln(\sqrt{2\pi}) \end{eqnarray*}$ ist eine Zahl, also konstant. Was passiert also bei der Ableitung?

05.09.2021, 23:15

Moonshine

Auf diesen Beitrag antworten »

Ok, richtig gekürzt. Jetzt noch der ln.

05.09.2021, 23:19

MrGray

Auf diesen Beitrag antworten »

$\begin{eqnarray*} LL_x(\mu) := \sum_{k=1}^n \left[ - \ln(\sqrt{2\pi}) -\frac{(x_k-\mu)^2}{2} \right] \end{eqnarray*}$

$\begin{eqnarray*} LL_x(\mu) := \sum_{k=1}^n \left[ - \ln(\sqrt{2\pi}) -\frac{(x_k^2-2x_k\mu+\mu^2}{2} \right] \end{eqnarray*}$

$\begin{eqnarray*} LL`_x(\mu) := \sum_{k=1}^n \left[ - \ln(\sqrt{2\pi}) -\frac{(-2x_k+2\mu}{2} \right] \end{eqnarray*}$

$\begin{eqnarray*} LL`_x(\mu) := \sum_{k=1}^n \left[ +x_k-\mu \right] \end{eqnarray*}$

$\begin{eqnarray*} LL`_x(\mu) := \sum_{k=1}^n \left[ +x_k \right] =\mu \end{eqnarray*}$

Ok?

05.09.2021, 23:23

Moonshine

Auf diesen Beitrag antworten »

Noch nicht, du summierst n mal deine Variable $\begin{eqnarray*} \mu \end{eqnarray*}$ , also ergibt das .....?
Die Funktionsdefinition links gehört jetzt nicht mehr rein, du löst jetzt ja eine Gleichung.

05.09.2021, 23:27

MrGray

Auf diesen Beitrag antworten »

$\begin{eqnarray*} LL_x(\mu) := \sum_{k=1}^n \left[ - \ln(\sqrt{2\pi}) -\frac{(x_k-\mu)^2}{2} \right] \end{eqnarray*}$

$\begin{eqnarray*} LL_x(\mu) := \sum_{k=1}^n \left[ - \ln(\sqrt{2\pi}) -\frac{(x_k^2-2x_k\mu+\mu^2}{2} \right] \end{eqnarray*}$

$\begin{eqnarray*} LL`_x(\mu) := \sum_{k=1}^n \left[ - \ln(\sqrt{2\pi}) -\frac{(-2x_k+2\mu}{2} \right] \end{eqnarray*}$

$\begin{eqnarray*} LL`_x(\mu) := \sum_{k=1}^n \left[ +x_k-\mu*n \right] \end{eqnarray*}$

$\begin{eqnarray*} \sum_{k=1}^n \left[ +x_k/n \right] =\mu \end{eqnarray*}$

Ist es so ein n mal u eingebaut ?

05.09.2021, 23:34

Moonshine

Auf diesen Beitrag antworten »

In der vorletzten Zeile ist keine eckige Klammer mehr.

Dein Ergebnis stimmt, das Plus kannst du weglassen. Na, kommt dir die Formel bekannt vor?

05.09.2021, 23:36

MrGrayBaby

Auf diesen Beitrag antworten »

Ich bin nicht so erfahren in der mathematik Big Laugh

Woher kommt diese Formel ?

Was studierst du eigentlich ?

05.09.2021, 23:44

Moonshine

Auf diesen Beitrag antworten »

Dafür muss man in Mathe nicht so erfahren sein Augenzwinkern

Die Formel besagt, dass man die die Zahlen addiert und durch die Anzahl der Zahlen teilt. Nennt sich arithmetischer Mittelwert oder umgangssprachlicher Durchschnitt. Hast du bestimmt schon benutzt Augenzwinkern

Och, ich habe schon lange fertig studiert Big Laugh

Ich bin Lehrer für Mathematik und Physik.

12 nächste Seite »

Neue Frage »

Antworten »

Maximum-Likelihood

Verwandte Themen