Ableitung von Matrizen

23.02.2009, 21:49

Mazze

Ableitung von Matrizen

Hallo Liebe Leute,

heut bin ichs mal wieder mit einem Problem. Folgende Regel kenn ich (*):

$\begin{eqnarray*} \frac{\partial X_{kl}^{-1}}{\partial X_{ij}} = -(X^{-1})_{ki}(X^{-1})_{jl} \end{eqnarray*}$ für eine Invertierbare Matrix X.

Das Problem :

Ich habe folgende Matrix :

$\begin{eqnarray*} X = \delta^2 I_n + C_{\phi} \end{eqnarray*}$ mit $\begin{eqnarray*} (C_{\phi})_{ij} = \exp\left[-\frac{||x_i - x_j||^2}{2\phi^2}\right] \end{eqnarray*}$ wobei $\begin{eqnarray*} x_1,x_2,...,x_n \in \mathbb{R}^m \end{eqnarray*}$

Ich brauche die Ableitungen $\begin{eqnarray*} \frac{\partial X^{-1}}{\partial \delta}, \frac{\partial X^{-1}}{\partial \phi} \end{eqnarray*}$ .

Lösungsansatz :

Die Formel (*) kann ich nicht anwenden, da ich ja nicht nach den Einträgen der Matrix ableite. Also hab ich erstmal versucht direkt eine "schöne" Formel zu erhalten. Zunächst hab ich eine allgemeine Produktregel formuliert

$\begin{eqnarray*} \left(\prod_{i=1}^n f_i(x)\right)' = \sum_{i=1}^n \prod_{k=1}^{i - 1} f_k(x)(f_i(x))' \prod_{k=i+1}^{i - 1} f_k(x) \end{eqnarray*}$

wobei ich hier $\begin{eqnarray*} \prod_{i}^{j}f = 1 ~ i > j \end{eqnarray*}$ setze.

Dann hab ich die Inverse von X aufgeschrieben :

$\begin{eqnarray*} X^{-1} = \frac{1}{\det(X)}\tilde{A}^T \end{eqnarray*}$

Mit der normalen Produktregel ergibt sich zum Beispiel für Delta

$\begin{eqnarray*} \frac{ \partial X^{-1}_{ij}}{\partial \delta} = \frac{\partial \det(X)^{-1}}{\partial \delta}\tilde{A}_{ji} + \det(X)^{-1}\frac{\partial \tilde{A}_{ji}}{\partial \delta} \end{eqnarray*}$

Für die Determinante kriegt man zum Beispiel

$\begin{eqnarray*} \frac{\partial \det(X)^{-1}}{\partial \delta} = -\det(X)^{-2}\frac{\partial \det(X)}{\partial \delta} \end{eqnarray*}$

Jetzt brauch ich gleich meine allgemeine Produktregel, für die Determinante schliesslich ergibt sich :

$\begin{eqnarray*} \frac{\partial \det(X)}{\partial \delta } = \sum_{\pi \in S_n}sign(\pi)\frac{\partial \prod_{k=1}^n X_{k,\pi(k)}}{\partial \delta} \end{eqnarray*}$

und das ergibt

$\begin{eqnarray*} = \sum_{\pi \in S_n} sign(\pi) \sum_{i=1}^n \prod_{k=1}^{i-1}X_{k,\pi(k)}\left(\frac{\partial X_{i,\pi(i)}}{\partial \delta}\right) \prod_{k=i+1}^{i-1}X_{k,\pi(k)} \end{eqnarray*}$

tauscht man die Summen ergibt sich noch

$\begin{eqnarray*} = \sum_{i = 1}^n \sum_{\pi \in S_n}sign(\pi) \prod_{k=1}^{i-1}X_{k,\pi(k)}\left(\frac{\partial X_{i,\pi(i)}}{\partial \delta}\right) \prod_{k=i+1}^{i-1}X_{k,\pi(k)} \end{eqnarray*}$

Was hier steht ist Eigentlich so eine Art Hauptminor. Hält man i fest berechnet man die Unterdeterminanten von X wenn man Zeile i und Spalte pi(i) fest hält. Aber anstatt den Faktor $\begin{eqnarray*} (-1)^{i + \pi(i)} \end{eqnarray*}$ bekommt man an der entsprechenden Stelle die Ableitung. Und da weiss ich leider nicht mehr weiter. Ist der Weg vielleicht sogar zu kompliziert?

26.02.2009, 14:55

Mazze

Auf diesen Beitrag antworten »

Falls jemanden die Antwort interessiert, ich habs mitlerweile gepackt. Sei X eine Matrix deren Eintraege differenzierbare Funkionen von $\begin{eqnarray*} \delta \end{eqnarray*}$ sind, also

$\begin{eqnarray*} X_{ij} = f_{ij}(\delta) \end{eqnarray*}$ differenzierbar, dann ist

$\begin{eqnarray*} \frac{dX^{-1}}{d\delta} = -X^{-1}\frac{dX}{d\delta}X^ {-1} \end{eqnarray*}$

Laesst sich mit der Kettenregel zeigen.

viele Gruesse

26.02.2009, 17:57

WebFritzi

Auf diesen Beitrag antworten »

Wieso sollte X überhaupt invertierbar sein? IMHO kann man das hier nur garantierenl, wenn $\begin{eqnarray*} \|C_\phi\| < \delta^2. \end{eqnarray*}$

26.02.2009, 18:27

Mazze

Auf diesen Beitrag antworten »

Zitat:

Wieso sollte X überhaupt invertierbar sein?

Der RBF-Kernel

$\begin{eqnarray*} k(x,y) = \exp\left(-\frac{||x - y||^2}{2\phi^2}\right) \end{eqnarray*}$

ist positiv definit, d.h für $\begin{eqnarray*} x_1,...,x_n \in \mathbb{R}^m \end{eqnarray*}$ ist die Matrix

$\begin{eqnarray*} (C_\phi)_{ij} = k(x_i,x_j) \end{eqnarray*}$

Symmetrisch und positiv definit, d.h alle Eigenwerte sind größer Null und damit ist dass ganze für alle bel. Delta und Phi > 0 invertierbar.

27.02.2009, 04:53

WebFritzi

Auf diesen Beitrag antworten »

Alles klar, danke. Ich habe mich jetzt nicht selbst davon überzeugt, aber ich glaube dir. Augenzwinkern

Neue Frage »

Antworten »

Ableitung von Matrizen

Verwandte Themen