Gradient einer Matrixfunktion

03.05.2015, 18:56	stuff	Auf diesen Beitrag antworten »
Gradient einer Matrixfunktion Hallo Leute, ich möchte eine Funktion minimieren und brauche dafür den Gradienten, bekomm ich aber irgendwie nicht hin und hoffe auf die Hilfe eines richtigen Mathematikers. Hier die Funktion: $\begin{eqnarray} <br /> <br /> L = \frac{D}{2} Ln\|\textbf{K}\|+\frac{1}{2} \sum\limits_{k}^D {w_k^2}\textbf{Y}_k^T \textbf{K}^{-1}\textbf{Y}_k+\frac{1}{2} \sum\limits_{i=1}^{N} \|\|\textbf{x}_i\|\|^2+Ln\frac{\alpha\beta\gamma}{{\Pi_k}w_k^N}<br /> \end{eqnarray}$ mit diesem Zeug: $\begin{eqnarray} \textbf{K} \in \mathbb{R}^{N\times N} \end{eqnarray}$ wobei die Matrixelemente reele funktionen sind: $\begin{eqnarray} \textbf{K}_{i,j}=k(\textbf{x}_i,\textbf{x}_j) = \alpha \: exp( -\frac{\gamma}{2} \|\|\textbf{x}_i - \textbf{x}_j\|\|^2)+\delta_{i,j}\beta^{-1} \end{eqnarray}$ $\begin{eqnarray} \textbf{} \end{eqnarray}$ $\begin{eqnarray} \textbf{Y}_k \in \mathbb{R}^N \end{eqnarray}$ $\begin{eqnarray} \textbf{x}_i \in \mathbb{R}^N \end{eqnarray}$ $\begin{eqnarray} \alpha, \beta, \gamma, w_k \in \mathbb{R} \end{eqnarray}$ optimiert werden sollen die Parameter $\begin{eqnarray} \alpha, \beta, \gamma \end{eqnarray}$ . Die $\begin{eqnarray} \textbf{x}_i \end{eqnarray}$ 's und $\begin{eqnarray} \textbf{Y}_k \end{eqnarray}$ 's sind Spaltenvektoren und kann man sich hier als gegeben und konstant vorstellen. Die $\begin{eqnarray} w_i \end{eqnarray}$ 's kann man sich auch als konstant und gegeben vorstellen. Optimiert wird mit einem L-BFGS Algorithmus, dafür braucht diesen Gradienten: $\begin{eqnarray} grad \: L = (\frac{\partial{L}}{\partial{\alpha}} ,\frac{\partial{L}}{\partial{\beta}}, \frac{\partial{L}}{\partial{\gamma}}) \end{eqnarray}$ Ich versuchs mal mit der partiellen Ableitung nach $\begin{eqnarray} \alpha \end{eqnarray}$ . Die Matrix $\begin{eqnarray} \textbf{K} \end{eqnarray}$ ist ja von alpha abhängig, deshalb kettenregel oder? $\begin{eqnarray} \frac{\partial L}{\partial\alpha} = \frac{\partial L}{\partial\textbf{K}}\frac{\partial \textbf{K}}{\partial\alpha} \end{eqnarray}$ Ist das so richtg?? Hintergrund ist ein Verfahren, bei dem ein Model von Bewegungsdaten gelernt wird, sehr grob ausgedrückt. Das möchte ich für ein Computerspiel an dem ich arbeite umsetzen. Ist nur ein Hobbyprojekt. Was $\begin{eqnarray} \frac{\partial \textbf{K}}{\partial\alpha} \end{eqnarray}$ ist, ist mir klar. $\begin{eqnarray} \frac{\partial \textbf{L}}{\partial K} \end{eqnarray}$ gibt der Autor im Paper an, in dem das Verfahren beschrieben ist. Ich kann leider keine URLs posten hier. $\begin{eqnarray} \frac{\partial \textbf{L}}{\partial K} = K^{-1} Y W^2 Y^T K^{-1} - DK^{-1} \end{eqnarray}$ wobei $\begin{eqnarray} W = diag(w_0, ..., w_D) \end{eqnarray}$ und $\begin{eqnarray} Y = {Y_0,..., Y_k,...., \textbf{Y}_D} \end{eqnarray}$ ist. Es wäre supernett mir Jemand sag könnte wie die Ableitung nach alpha richtig ist. Leider bekomm ich bei der oben beschriebenen eine Matrix raus, und will aber ein Skalar. Vielen Dank schonmal! -stuff

1

Verwandte Themen

Die Beliebtesten »

Die Größten »

Die Neuesten »