Umformungsproblem

28.06.2009, 15:39

piloan

Auf diesen Beitrag antworten »

Umformungsproblem

Hi,
kann mir einer erklaeren warum folgende Gleichheit gilt ?

$\begin{eqnarray*} (\mu_1-\mu_2)'\Sigma^{-1}x_0 -\frac{1}{2}[(\mu_1-\mu_2)'\Sigma^{-1}(\mu_1+\mu_2)=\frac{1}{2}[(x_0-\mu_2)'\Sigma^{-1}(x_0-\mu_2)-(x_0-\mu_1)'\Sigma^{-1}(x_0-\mu_1)] \end{eqnarray*}$

Ich hab schon von beiden Seiten versucht auf die andere zu kommen.

Gibt es hier einen Trick ? Ich sehs nicht.
Grüße

28.06.2009, 15:51

Leopold

Auf diesen Beitrag antworten »

Wenn du noch erklären würdest, was die Zeichen $\begin{eqnarray*} ' \end{eqnarray*}$ und $\begin{eqnarray*} \Sigma^{-1} \end{eqnarray*}$ hier für eine Bedeutung haben ...

28.06.2009, 16:11

piloan

Auf diesen Beitrag antworten »

$\begin{eqnarray*} \mu_1, \mu_2 \end{eqnarray*}$ sind Erwartungsvektoren.
$\begin{eqnarray*} \Sigma^{-1} \end{eqnarray*}$ ist eine Kovarianzmatrix. Also symmetrisch.

$\begin{eqnarray*} x_0 \end{eqnarray*}$ ist ebenfalls ein Vektor. Alle sind passend, damit ich multiplizieren kann.

Grüße

28.06.2009, 16:58

Leopold

Auf diesen Beitrag antworten »

Und der Strich bedeutet vermutlich das Transponieren.

Wenn man beide Seiten der Gleichung vollständig ausmultipliziert, erhält man dasselbe. Beachte, daß

$\begin{eqnarray*} a'Sb = b'Sa \end{eqnarray*}$

gilt, wenn $\begin{eqnarray*} S \end{eqnarray*}$ eine symmetrische Matrix und $\begin{eqnarray*} a,b \end{eqnarray*}$ Spaltenvektoren sind. Es handelt sich ja hier um einen Skalar, der bezüglich des Transponierens invariant ist:

$\begin{eqnarray*} a'Sb = (a'Sb)' = b'Sa \end{eqnarray*}$

28.06.2009, 17:59

piloan

Auf diesen Beitrag antworten »

Also irgendwie steh ich auf dem Schlauch:

$\begin{eqnarray*} (\mu_1-\mu_2)'\Sigma^{-1}x_0 -\frac{1}{2}[(\mu_1-\mu_2)'\Sigma^{-1}(\mu_1+\mu_2)=\mu_1'\Sigma^{-1}x_0-\mu_2'\Sigma^{-1}x -\frac{1}{2}[\mu_1'\Sigma^{-1}\mu_1-\mu_2'\Sigma^{-1}\mu_2] \end{eqnarray*}$

Soweit sollte es doch richtig sein. Welche Regel für symmetrische Matrizen meinst du ?

Viele Grüße

28.06.2009, 18:06

AD

Auf diesen Beitrag antworten »

Ich würde erst mal die linke Seite zusammenfassen und das ganze mit 2 multiplizieren:

$\begin{eqnarray*} (\mu_1-\mu_2)'\Sigma^{-1}(2x_0-\mu_1-\mu_2) = (x_0-\mu_2)'\Sigma^{-1}(x_0-\mu_2)-(x_0-\mu_1)'\Sigma^{-1}(x_0-\mu_1) \end{eqnarray*}$ .

Mit den Abkürzungen $\begin{eqnarray*} a:=x_0-\mu_1 \end{eqnarray*}$ und $\begin{eqnarray*} b:=x_0-\mu_2 \end{eqnarray*}$ kann man das als

$\begin{eqnarray*} (b-a)'\Sigma^{-1}(b+a) = b'\Sigma^{-1}b ~ - ~ a'\Sigma^{-1}a \end{eqnarray*}$

schreiben, und das sieht man dann schon nahezu sofort.

Anzeige

28.06.2009, 21:50

piloan

Auf diesen Beitrag antworten »

Hi,
wie kommst du auf folgende Identitaet?

$\begin{eqnarray*} (\mu_1-\mu_2)'\Sigma^{-1}(2x_0-\mu_1-\mu_2)= (x_0-\mu_2)'\Sigma^{-1}(x_0-\mu_2)- (x_0-\mu_1)'\Sigma^{-1}(x_0-\mu_1) \end{eqnarray*}$

Wenn ich die Klammer wieder ausmultipliziere komme ich auf:

$\begin{eqnarray*} (\mu_1-\mu_2)'\Sigma^{-1}(2x_0-\mu_1-\mu_2)= (\mu_1-\mu_2)'\Sigma^{-1}(x_0-\mu_2)+ (\mu_1-\mu_2)'\Sigma^{-1}(x_0-\mu_1) \end{eqnarray*}$

Da muss ja ein großer Denkfehler bei mir sein.

29.06.2009, 10:04

AD

Auf diesen Beitrag antworten »

Zitat:

Original von piloan
Hi,
wie kommst du auf folgende Identitaet?

Das hast du missverstanden: Ich habe dort erstmal nur die Behauptung äquivalent umgeformt.

29.06.2009, 11:10

piloan

Auf diesen Beitrag antworten »

Habs hinbekommen. Danke smile

smile

Nochmal eine andere Frage.

Ich habe folgende Funktion:

$\begin{eqnarray*} Q(a)=\frac{(a'\delta)^2}{a'Wa} \end{eqnarray*}$

Diese will ich maximieren. Die Lösung ist in einem Buch angegeben durch:

$\begin{eqnarray*} Q(a)=\frac{2\delta a'Wa- 2Wa(a'(\delta))}{(a'Wa)^2 } \end{eqnarray*}$

Auf diese Ableitung komm ich ueberhaupt nicht.

In einem anderen Buch hab ich den Hinweis bekommen mit der Cauchy-Schwarz-Ungleichung zu arbeiten.

$\begin{eqnarray*} Q(a)=\frac{(a'\Sigma^{-\frac{1}{2}}\Sigma^{\frac{1}{2}}\delta)^2}{a'Wa}=\frac{((\Sigma^{-\frac{1}{2}}a)'\Sigma^{\frac{1}{2}}\delta)^2}{a'Wa} \end{eqnarray*}$

Wenn ich nun CS anwende komm ich auch nicht auf die Lösung

$\begin{eqnarray*} \delta'\Sigma \delta \end{eqnarray*}$

Ich hab immer was verdreht.

Vielleicht siehst du ja einen der Wege sofort smile

smile

29.06.2009, 11:26

AD

Auf diesen Beitrag antworten »

Zunächst mal solltest du weniger von Ableitung als vielmehr von Gradient reden. Entweder schaust du irgendwo nach, wie man den Gradienten von Skalarprodukten $\begin{eqnarray*} a\cdot\delta \end{eqnarray*}$ oder gar quadratischen Formen wie $\begin{eqnarray*} a'\Sigma^{-1}a \end{eqnarray*}$ bildet - oder du erarbeitest es dir selbst, komponentenweise. Was du jedenfalls nicht machen solltest ist, einfach die skalaren Rechenregeln formal zu übernehmen. Das geht zwar sehr oft gut, aber manchmal eben nicht.

29.06.2009, 11:46

piloan

Auf diesen Beitrag antworten »

Von der quadratischen Form ist mir klar.

Das wäre $\begin{eqnarray*} 2Wa \end{eqnarray*}$

Probleme hab ich bei dem Skalarprodukt.

Habs mir auch schon aufgeschrieben, für den Fall $\begin{eqnarray*} a=(a_1,a_2)' \end{eqnarray*}$ und $\begin{eqnarray*} \delta=(\delta_1,\delta_2) \end{eqnarray*}$

Aber bekomm noch einen Vektor raus, den ich nicht gebrauchen kann.

29.06.2009, 13:31

piloan

Auf diesen Beitrag antworten »

Also ich rechne und rechne und komm nicht auf das angegebene Ergebnis.

Entweder deute ich das a falsch oder ich mach einen anderen Fehler.

Ich muss doch die Quotientenregel anwenden und beim Nenner ist es auch recht leicht, wie ich schon geschrieben habe.

Aber beim $\begin{eqnarray*} (a\delta)^2 \end{eqnarray*}$ komm ich nicht weiter. Egal wie ichs versuche, es klappt net

29.06.2009, 13:53

AD

Auf diesen Beitrag antworten »

Es ist doch $\begin{eqnarray*} (a'\delta)^2 = (\delta'a)^2 = a'(\delta\delta')a \end{eqnarray*}$ nur ein Spezialfall von $\begin{eqnarray*} a'Wa \end{eqnarray*}$ mit $\begin{eqnarray*} W=\delta\delta' \end{eqnarray*}$ .

29.06.2009, 14:05

piloan

Auf diesen Beitrag antworten »

Hmhm... also

$\begin{eqnarray*} \frac{2(\delta\delta')aa'Wa-2Waa'(\delta\delta')a}{(a'Wa)^2} \end{eqnarray*}$

Ich hab doch immer zuviel im Zaehler stehen. Das Problem hab ich schon die ganze Zeit.

Und ausklammern bringt mir doch hier auch nichts

29.06.2009, 14:50

AD

Auf diesen Beitrag antworten »

Wie meinst du das "zuviel im Zähler" ? verwirrt

verwirrt

Zunächst mal kannst du durch Herausziehen reeller Faktoren vereinfachen

$\begin{eqnarray*} \nabla_a \left( \frac{(a'\delta)^2}{a'Wa} \right) = 2(\delta' a) \cdot \frac{(a'Wa) \delta - (\delta'a)Wa}{(a'Wa)^2} \end{eqnarray*}$

Die Klammern im Zählen deuten nur an, dass da innerhalb reelle Zahlen stehen.

Offenbar fehlt in deiner Quelle der reelle Vorfaktor $\begin{eqnarray*} (\delta' a) \end{eqnarray*}$ .

Wenn deine Frage nun dahingeht, wann der Gradient Null wird:

(1) Wenn $\begin{eqnarray*} \delta'a=0 \end{eqnarray*}$ , d.h. $\begin{eqnarray*} \delta \perp a \end{eqnarray*}$ . Das führt dann allerdings aufs Minimum 0 von $\begin{eqnarray*} Q \end{eqnarray*}$

(2) $\begin{eqnarray*} (a'Wa) \delta - (\delta'a)Wa = 0 \end{eqnarray*}$ führt auf $\begin{eqnarray*} a= \lambda W^{-1}\delta \end{eqnarray*}$ mit beliebigem $\begin{eqnarray*} \lambda\in\mathbb{R} \end{eqnarray*}$ .

29.06.2009, 15:19

piloan

Auf diesen Beitrag antworten »

Hi,
danke danke.

Mein Problem war der Vorfaktor. Die haben den einfach weggelassen.

Nun komm ich auch dahinter.

Hier war uebrigens die Quelle:

http://books.google.de/books?id=qdC7A2npn4cC&pg=PA379&lpg=PA379&ots=gt0xtWD8qj&dq=fishersche+diskriminanzfunktion+herleitung]Quelle[/URL]

1

Verwandte Themen

Die Beliebtesten »

Die Größten »

Die Neuesten »