Gradient des logarithmischen Verlustes

21.12.2023, 17:34	Erdbäre	Auf diesen Beitrag antworten »
Gradient des logarithmischen Verlustes Meine Frage: Hallo Zusammen, ich lese gerade ein Buch über maschinelles Lernen, bei dem es um den gradienten des logarithmische Verlustes geht. Dieser wird als $\begin{eqnarray} - 1/m \sum\limits_{i=1}^{m} (y_i log(Yvorhersage_i) + (1-y_i)log(1-Yvorhersage_i)) \end{eqnarray}$ angegeben. Yvorhersage ist dabei die Sigmoidfunktion. $\begin{eqnarray} <br /> = \frac{1}{1 + e^{-xw} } <br /> \end{eqnarray}$ Mathmatikbüchern ist wohl fogender Gradient zu entnehmen: $\begin{eqnarray} <br /> \frac{dL}{dw} = \frac{1}{m} \sum\limits_{i=1}^{m} x_i (Yvorherage - y_i) <br /> \end{eqnarray}$ Woher diese Formel kommt, kann ich nicht nachvollziehen, da ich bei einer Ableitung nach w nicht auf obige Lösung komme. Meine Ideen: Bis hierher komme ich: $\begin{eqnarray} <br /> \frac{dL}{dw} = \sum\limits_{i=1}^{m} \frac{-xe^{-xw} Yvorhersage_i^{2} }{m} (\frac{y_i}{Yvorhersage_i} + \frac{1-y_i}{1-Yvorhersage_i} )<br /> \end{eqnarray}$ Es würde mich echt freuen, wenn mir jemand einen Hinweis geben könnte. Liebe Grüße Erdbeere
29.12.2023, 18:12	Romaxx	Auf diesen Beitrag antworten »
Diese Seite zeigt dir, wie du deine Gradientenlösung in die von dir aus Mathematikbüchern genannte Lösung überführen kannst: Link
01.01.2024, 22:16	Erdbäre	Auf diesen Beitrag antworten »
Hey Romaxx, vielen Dank für die Antwort! War genaus das, was ich gesucht habe Liebe Grüße Erdbäre

1

Verwandte Themen

Die Beliebtesten »

Die Größten »

Die Neuesten »