Ableitung mit endlicher Summe

16.12.2021, 20:51

Hallo32

Ableitung mit endlicher Summe

Hallo zusammen. Sei $\begin{eqnarray*} E(n)= \sum_{j \in \mathcal{C}} E_{j}(n)=\frac{1}{2}\sum_{j \in \mathcal{C}} e_{j}^{2}(n)=\frac{1}{2} \sum_{j \in \mathcal{C}} (d_{j}(n)-y_{j}(n))^{2}= \frac{1}{2} \sum_{j \in \mathcal{C}} (d_{j}(n)-\varphi_{j}(v_{j}(n)))^{2}. \end{eqnarray*}$ ,

wobei $\begin{eqnarray*} v_{j}(n)= \sum_{i=0}^{m} w_{ji}(n)y_{i}(n) \end{eqnarray*}$
und $\begin{eqnarray*} C \end{eqnarray*}$
eine endliche Menge.

Ich möchte nun den Gradienten von $\begin{eqnarray*} E(n) \end{eqnarray*}$ nach $\begin{eqnarray*} w_{ji} \end{eqnarray*}$ bilden. Zunächst gilt mit der Kettenregel

$\begin{eqnarray*} \frac{\partial E(n)}{\partial w_{ji}(n)}=\frac{\partial E(n)}{\partial e_{j}(n)}\frac{\partial e_{j}(n)}{\partial y_{j}(n)} \frac{\partial y_{j}(n)}{\partial v_{j}(n)} \frac{\partial v_{j}(n)}{\partial w_{ji}}. \end{eqnarray*}$

Jetzt wollte ich mir die Ableitungen einzel anschauen:
$\begin{eqnarray*} \frac{\partial E(n)}{\partial e_{j}(n)}= \frac{\partial}{\partial e_{j}(n)}\left(\frac{1}{2}\sum_{j \in \mathcal{C}}e_{j}^{2}(n) \right) \end{eqnarray*}$
Da die Summe endlich ist kann ich die Partielle Ableitung reinziehen, also

$\begin{eqnarray*} \frac{1}{2}\sum_{j \in \mathcal{C}} \frac{\partial}{\partial e_{j}(n)} e_{j}^{2}(n)= \sum_{j \in \mathcal{C}} e_{j}(n) \end{eqnarray*}$

Hier soll aber einfach $\begin{eqnarray*} \frac{\partial E(n)}{\partial e_{j}(n)}= e_{j}(n) \end{eqnarray*}$
raus kommen, aber warum entfällt die Summe? verwirrt

16.12.2021, 21:20

IfindU

Auf diesen Beitrag antworten »

RE: Ableitung mit endlicher Summe

Zitat:

Original von Hallo32
Jetzt wollte ich mir die Ableitungen einzel anschauen:
$\begin{eqnarray*} \frac{\partial E(n)}{\partial e_{j}(n)}= \frac{\partial}{\partial e_{j}(n)}\left(\frac{1}{2}\sum_{j \in \mathcal{C}}e_{j}^{2}(n) \right) \end{eqnarray*}$

Spätestens an der Stelle ist es irgendwo zwischen gefährlich und fatal, dass du nicht die $\begin{eqnarray*} j \end{eqnarray*}$ unterscheidest. Der Summationsindex $\begin{eqnarray*} j \end{eqnarray*}$ hat nicht mit deinem Ableitungsindex $\begin{eqnarray*} j \end{eqnarray*}$ zu tun:
Schreib lieber:
$\begin{eqnarray*} \frac{\partial E(n)}{\partial e_{i}(n)}= \frac{\partial}{\partial e_{i}(n)}\left(\frac{1}{2}\sum_{j \in \mathcal{C}}e_{j}^{2}(n) \right) \end{eqnarray*}$
Wenn du das nun in die Summe ziehst, bekommst du
$\begin{eqnarray*} \frac{\partial}{\partial e_{i}(n)}\left(\frac{1}{2}\sum_{j \in \mathcal{C}}e_{j}^{2}(n) \right) =\frac{1}{2}\sum_{j \in \mathcal{C}} \frac{\partial}{\partial e_{i}(n)} e_{j}^{2}(n) \end{eqnarray*}$
Und für $\begin{eqnarray*} i \neq j \end{eqnarray*}$ in der Summe, ist die Ableitung 0. Nur für $\begin{eqnarray*} i = j \end{eqnarray*}$ überlebt es der Summand. Daher verschwindet die Summe.

16.12.2021, 21:33

Hallo32

Auf diesen Beitrag antworten »

RE: Ableitung mit endlicher Summe
Ahh okay. Das macht mehr Sinn. Soll ich das ganze dann wie folgt verändern

$\begin{eqnarray*} \frac{\partial E(n)}{\partial w_{ji}(n)}=\frac{\partial E(n)}{\partial e_{i}(n)}\frac{\partial e_{j}(n)}{\partial y_{i}(n)} \frac{\partial y_{j}(n)}{\partial v_{i}(n)} \frac{\partial v_{j}(n)}{\partial w_{ji}}. \end{eqnarray*}$ ?

16.12.2021, 21:56

Hallo 32

Auf diesen Beitrag antworten »

RE: Ableitung mit endlicher Summe
Es ist $\begin{eqnarray*} \frac{\partial E(n)}{\partial w_{ji}(n)}=\frac{\partial E(n)}{\partial e_{i}(n)}\frac{\partial e_{j}(n)}{\partial y_{i}(n)} \frac{\partial y_{j}(n)}{\partial v_{i}(n)} \frac{\partial v_{j}(n)}{\partial w_{j\tilde{i}}}. \end{eqnarray*}$

Betrachten wir nun die in der Kettenregel vorkommenden partiellen Ableitungen:

$\begin{eqnarray*} \frac{\partial E(n)}{\partial e_{i}(n)}= \frac{\partial }{\partial e_{i}(n)} \left( \frac{1}{2} \sum_{j \in \mathcal{C}} e_{j}^{2}(n) \right) \end{eqnarray*}$ , da die Summe endlich ist können wir die partielle Ableitung reinziehen und erhalten für i=j:

$\begin{eqnarray*} \frac{\partial E(n)}{\partial e_{i}(n)}=e_{j}(n) \end{eqnarray*}$ .

Auch bei der nächsten partiellen Ableitung unterscheide ich zwischen i und j:
$\begin{eqnarray*} \frac{\partial e_{j}(n)}{\partial y_{i}(n)}=\frac{\partial }{\partial y_{i}(n)}(d_{j}(n)-y_{j}(n)) \end{eqnarray*}$ für i=j erhalten wir hier

$\begin{eqnarray*} \frac{\partial e_{j}(n)}{\partial y_{i}(n)}=-1 \end{eqnarray*}$

$\begin{eqnarray*} \frac{\partial y_{j}(n)}{\partial v_{i}(n)}=\frac{\partial }{\partial v_{i}(n)}( \varphi(v_{j}(n)))=\varphi_{j}^{\prime}(v_{j}(n)) \end{eqnarray*}$ für i=j

$\begin{eqnarray*} \frac{\partial}{\partial w_{j\tilde{i}}} ( \sum_{i=1}^{m} w_{ji}y_{i}(n))=y_{i}(n) \end{eqnarray*}$ für $\begin{eqnarray*} \tilde{i}=i \end{eqnarray*}$

macht das alles so Sinn? Ich habe überall den Index von der Partiellen Ableitung mit der von der Funktion unterschieden

17.12.2021, 07:35

IfindU

Auf diesen Beitrag antworten »

RE: Ableitung mit endlicher Summe
Ich bin einem schlechten Vorbild vorangegangen. Sauberer wäre es den Index in der Summe anzupassen. D.h.
$\begin{eqnarray*} \frac{\partial E(n)}{\partial e_{j}(n)}= \frac{\partial}{\partial e_{j}(n)}\left(\frac{1}{2}\sum_{k \in \mathcal{C}}e_{k}^{2}(n) \right) \end{eqnarray*}$
ist das sinnvoller. Das $\begin{eqnarray*} j \end{eqnarray*}$ außerhalb sollte unverändert bleiben. Deshalb

Zitat:

Original von Hallo 32
Es ist $\begin{eqnarray*} \frac{\partial E(n)}{\partial w_{ji}(n)}=\frac{\partial E(n)}{\partial e_{j}(n)}\frac{\partial e_{j}(n)}{\partial y_{j}(n)} \frac{\partial y_{j}(n)}{\partial v_{j}(n)} \frac{\partial v_{j}(n)}{\partial w_{ji}}. \end{eqnarray*}$

Ist das absolut korrekt, d.h. die Tilde um das letzte $\begin{eqnarray*} i \end{eqnarray*}$ muss weg, denn das $\begin{eqnarray*} i \end{eqnarray*}$ ist tatsächlich das gleiche $\begin{eqnarray*} i \end{eqnarray*}$ wie auf der linken Seite. Die $\begin{eqnarray*} j \end{eqnarray*}$ auf der rechten Seite sollten, auch nicht plötzlich zu $\begin{eqnarray*} i \end{eqnarray*}$ werden (in so einer Gleichung), weil man es sonst mit dem $\begin{eqnarray*} i \end{eqnarray*}$ auf der linken Seite verwechseln könnte. Sobald Summen auftauchen, solltest du dort die Variable umbenennen, um Verwechslungen vorzubeugen, und dann am besten wie im neuen Vorschlag mit einer neuen Variable $\begin{eqnarray*} k \end{eqnarray*}$ oder mit $\begin{eqnarray*} \tilde i \end{eqnarray*}$ wie du vorschlägst.

D.h. bei

Zitat:

$\begin{eqnarray*} \frac{\partial E(n)}{\partial e_{i}(n)}=e_{j}(n) \end{eqnarray*}$ .

muss auch auf beiden Seite der gleiche Index sein. E

Davon abgesehen sieht das gut aus Freude

Neue Frage »

Antworten »

Ableitung mit endlicher Summe

Verwandte Themen