Determinante entwickeln (Taylor)

06.02.2017, 19:06

Berni91

Auf diesen Beitrag antworten »

Determinante entwickeln (Taylor)

Meine Frage:
Hallo,

diese Frage kommt aus dem Bereich der Statistik - hänge aber bei einer Algebra Komponente.

und zwar :

Wir haben eine positiv definite und symmetrische Matrix A vom Rang f.

Und möchten, unter der Bedingung, dass

$\begin{eqnarray*} \tilde{A} \end{eqnarray*}$ vollen Rang k<f hat , diese Bedingung durch die Gleichungen

$\begin{eqnarray*} det(\tilde{A}_{(1,...,k,i)\times (1,...,k,j)})=0 \times \end{eqnarray*}$

mit $\begin{eqnarray*} k <i \le j \le f \end{eqnarray*}$

um A mittels Taylor linearisieren -- die obige GLeichung bedeutet, dass also jede Spalte / Zeile die zu $\begin{eqnarray*} \tilde{A} \end{eqnarray*}$ hinzukommt , linear abhängig ist.

Nun meine Frage :

Ich sehe in :

$\begin{eqnarray*} det( \tilde{A}_{(1,...,k,i)\times (1,...,k,j)})=0 \end{eqnarray*}$ bloß eine Gleichung

und :

wie kann man denn um eine Matrix Taylor - entwickeln ?

Ich hoffe ihr habt ein paar Ideen

Viele Grüße und Danke

B.

Meine Ideen:
Könnte man die Matrix A eventuell diagonalisieren ?

dann könnte ich quasi um den Vektor der Eigenwerte entwickeln... ich sehe aber auch nicht, wie oben schon erwähnt, dass es sich bei

$\begin{eqnarray*} det(\tilde(A)_{(1,...,k,i)\times (1,...,k,j)})=0 \end{eqnarray*}$

um Gleichungen handelt... sondern lediglich um eine Gleichung.

09.02.2017, 13:05

Berni91

Auf diesen Beitrag antworten »

Hallo,

hat niemand eine Idee dazu ?

LG und Danke

09.02.2017, 13:15

HAL 9000

Auf diesen Beitrag antworten »

Ich kann nur für mich reden: Und da bin ich hier

Zitat:

Original von Berni91
$\begin{eqnarray*} det(\tilde{A}_{(1,...,k,i)\times (1,...,k,j)})=0 \times \end{eqnarray*}$

mit $\begin{eqnarray*} k <i \le j \le f \end{eqnarray*}$

um A mittels Taylor linearisieren -- die obige GLeichung bedeutet, dass also jede Spalte / Zeile die zu $\begin{eqnarray*} \tilde{A} \end{eqnarray*}$ hinzukommt , linear abhängig ist.

ausgestiegen, weil mir einfach zu schlecht erklärt war, was $\begin{align*} \tilde{A}_{(1,...,k,i)\times (1,...,k,j)} \end{align*}$ für eine Matrix ist. Vermutlich haben diese Parameter i,j irgendwas mit dem A vom Anfang zu tun, aber nix dazu hast du erklärt.

Und ich hab genug Threads erlebt, wo man den Leuten ewig hinterherrennen muss, bis man eine vernünftige, einigermaßen verständliche Problembeschreibung kriegt - das muss ich mir nicht antun auf einem Gebiet, was mich sowieso nicht so doll interessiert. Aber ich könnte mir vorstellen, dass viele ähnliche Verständnisprobleme hier hatten.

09.02.2017, 14:14

Berni91

Auf diesen Beitrag antworten »

Hallo,

Verzeihung, dann breite ich das mal ein wenig aus.

Also wir erheben Daten (zb : für m Personen, n Variablen) -- damit erhalten wir eine $\begin{eqnarray*} m \times n \end{eqnarray*}$ - Matrix -- aus dieser können wir eine Korrelations (respektive eine Kovarianzmatrix) bestimmen, diese nennen wir $\begin{eqnarray*} A \end{eqnarray*}$ und diese sei vom vollen Rang k -- diese Kovarianzmatrix können wir (nach dem Fundamentaltheorem der Faktorenanalyse ) folgendermaßen darstellen :

$\begin{eqnarray*} A = LL^{T} \end{eqnarray*}$

wobei die Matrix L die sogenannte Ladungsmatrix ist.
Diese Darstellung geht aber nur, falls wir die gesamte Varianz durch die Faktoren ausdrücken können (im Regelfall wird das nicht der Fall sein, also müssen wir noch einen Fehler dazugeben)

$\begin{eqnarray*} A = LL^{T} + D \end{eqnarray*}$ .

die Elemente in A sind bekannt -- die Elemente in L und D müssen (möchten) wir gerne schätzen.
Um das Rotationsproblem der Faktorenanalyse zu vermeiden setzen wir
$\begin{eqnarray*} LL^{T} = A_{0} \end{eqnarray*}$

und nun möchten wir die Einträge von $\begin{eqnarray*} A_{0} \end{eqnarray*}$ schätzen.

im Folgenden bezeichne $\begin{eqnarray*} \widetilde{A_{0}} \end{eqnarray*}$ den Schätzer von $\begin{eqnarray*} A_{0} \end{eqnarray*}$ .

wir nehmen nun an, dass $\begin{eqnarray*} \widetilde{A_{0}} \end{eqnarray*}$ den vollen Rang f < k hat , da wir beim Schätzen Information verlieren werden.

Ich zitiere nun meine Aufgabenstellung :

Die Bedingung $\begin{eqnarray*} rang(\widetilde{A_{0}}) =f \end{eqnarray*}$ , lässt sich durch die Gleichungen

$\begin{eqnarray*} det((\widetilde{A_{0}})_{(1,....,f,i) \times (1,...,f,j)}) = 0 \end{eqnarray*}$ mit $\begin{eqnarray*} f < i \le j \le k \end{eqnarray*}$

um die wahren Werte (also um A) herum Taylorentwickeln, was die Bedinung näherungsweise linear macht.
der volle Rang von $\begin{eqnarray*} \widetilde{A_{0}} \end{eqnarray*}$ ist also tatsächlich f und der Rest (also was auf den Rang von $\begin{eqnarray*} A_{0} \end{eqnarray*}$ fehlt, ist linear abhängig).

Mir ist allerdings nicht klar, wie man einen Rang linearisieren kann ? bzw sollen die Gleichungen (ich sehe auch hier irgendwie nur eine Gleichung, vll interpretiere ich es aber auch falsch)

$\begin{eqnarray*} det((\widetilde{A_{0}})_{(1,....,f,i) \times (1,...,f,j)}) = 0 \end{eqnarray*}$ mit $\begin{eqnarray*} f < i \le j \le k \end{eqnarray*}$

auf ein unterbestimmtes Gleichungssystem führen.

Ich hoffe, dass ich mich nun genauer ausgedrückt habe.

LG und vielen Dank für deine Rückmeldung

09.02.2017, 14:34

Shalec

Auf diesen Beitrag antworten »

Hey,

für mich ist es auch noch nicht ganz klar, was $\begin{eqnarray*} (\widetilde{A})_{(1,...,f,i)\times (1,...,f,j)} \end{eqnarray*}$ genau beschreiben soll. (Also, welche Bedeutung der Index genau haben soll)

Ich vermute nun, dass du für jedes i und j eine Gleichung $\begin{eqnarray*} det(\widetilde{A})_{(1,...,f,i)\times (1,...,f,j)} =0 \end{eqnarray*}$ erhälst und diese damit gemeint sind. (Also hier werden offenbar in Abhängigkeit von i und j Gleichungen beschrieben.)

Ableitungen (auch totale Differentiale) kannst du als Linearisierungen in einer Umgebung betrachtet. Da das aber auch nicht unbedingt mein Fachgebiet ist, kann ich auch nur rudimentär helfen.

09.02.2017, 15:46

Berni91

Auf diesen Beitrag antworten »

Hallo,

ich versuche deine Idee mal an einem Beispiel :

sagen wir $\begin{eqnarray*} rang(A_{0}) = 5 \end{eqnarray*}$ und $\begin{eqnarray*} rang(\widetilde{A_{0}}) = 3 \end{eqnarray*}$

dann meinst du also , dass :

$\begin{eqnarray*} det((\widetilde{A_{0}})_{(1,2,3,4) \times (1,2,3,4)}) =0 \end{eqnarray*}$

und

$\begin{eqnarray*} det((\widetilde{A_{0}})_{(1,2,3,4,5) \times (1,2,3,4,5)}) =0 \end{eqnarray*}$

aber das liefert doch nur zwei Gleichungen ... irgendwie kapiere ich diese Aufgabe nicht...

LG

Anzeige

09.02.2017, 15:55

Shalec

Auf diesen Beitrag antworten »

Edit (mY+): Vollzitat entfernt. Es gibt auch einen Antwort-Button!!

In deinem Beispiel stimmt das. Du hattest ja auch

Zitat:

$\begin{eqnarray*} det((\widetilde{A_{0}})_{(1,....,f,i) \times (1,...,f,j)}) = 0 \end{eqnarray*}$ mit $\begin{eqnarray*} f < i \le j \le k \end{eqnarray*}$

auf ein unterbestimmtes Gleichungssystem führen.

geschrieben. Unterbestimmt ist es auf jeden Fall verwirrt

verwirrt

Hast du vlt. ein Skript dazu, in dem näheres zu deiner Aufgabe steht? Ich vermute mittlerweile, dass die Tupel im Index für die Anzahl der Zeilen und Spalten stehen.

09.02.2017, 18:15

Berni91

Auf diesen Beitrag antworten »

Nein leider,

es entspringt der Feder meines Dozenten -- die Idee ist allerdings weitreichender ... diese linearisierten Teile, werden dann in Minimierungsbedingungen eingesetzt (z.B. Methode der kleinsten Quadrate) und dann soll eine spezielle Verteilung rauskommen.

Aber zuerst muss ich mal diese Linearisierung vernünftig hinkriegen ^^

12.02.2017, 16:39

Berni91

Auf diesen Beitrag antworten »

Hallo,

also die Tupel im Index stehen für die Zeilen und Spalten -- die Gleichung meint also, dass, wenn ich eine Zeile und Spalte dazugebe, die Determinate = 0 ist.

Entsteht eventuell ein GLeichungssystem durch die partiellen Ableitungen bei der Taylorentwicklung?

LG Berni

12.02.2017, 18:35

Shalec

Auf diesen Beitrag antworten »

Edit (mY+): Vollzitat entfernt. Es gibt auch einen Antwort-Button!!

Da kann ich dir leider auch nicht weiter helfen. Das ist nicht unbedingt mein Fachgebiet. Aber man könnte sich nun folgendes Fragen:

Wie würde eine Taylorentwicklung gemäß dieser Aufgabe aussehen?

Ich muss leider sagen, dass ich davon wirklich keine Ahnung habe.

19.02.2017, 09:17

Berni91

Auf diesen Beitrag antworten »

Hallo,

also dazu muss ich die Determinante mal vernünftig ableiten können, dass eine Taylorentwicklung möglich ist.

wenn ich

$\begin{eqnarray*} f((a_{ij})) := det((a_{ij})) \end{eqnarray*}$

setze, so ist beispielsweise für die Matrix

$\begin{eqnarray*} A = \begin{pmatrix} a & b \\ c & d \end{pmatrix} \end{eqnarray*}$

und det(A) = ad-cb

also

$\begin{eqnarray*} \frac{\partial f}{\partial a} = d \end{eqnarray*}$

oder

$\begin{eqnarray*} \frac{\partial f}{\partial b} = -c \end{eqnarray*}$ .

Wie sieht denn nun der allgemeine Fall aus ? also wenn ich eine beliebe $\begin{eqnarray*} n \times n \end{eqnarray*}$ - Matrix B habe und davon beispielsweise

$\begin{eqnarray*} \frac{\partial B}{\partial b_{12}} \end{eqnarray*}$ bilden möchte?

das sollte dann doch über die Entwicklung nach der i-ten Zeile - also $\begin{eqnarray*} \sum_{j=1}^{n}(-1)^{i+j}b_{ij}B_{ij} \end{eqnarray*}$ gehen?

so wäre also

$\begin{eqnarray*} \frac{\partial B}{\partial b_{12}} = (-1)^{1+2}B_{12} \end{eqnarray*}$ , oder?

sofern das okay ist - werde ich dann meine Ideen zur Taylorentwicklung posten.

Vielen lieben Dank

20.02.2017, 12:35

Berni91

Auf diesen Beitrag antworten »

Was ich nur nicht ganz weiß ist ... wie kann ich um eine Matrix Taylorentwickeln ?

wenn ich zb die Determinante der Matrix B , um die Matrix A (mittels Taylor) linearisieren möchte -- wäre das dann :

$\begin{eqnarray*} det(B) = det(A) + det(A)' (B-A) \end{eqnarray*}$

und müsste ich bei det(A)' nun alle partiellen Ableitungen bilden ?

Vielen lieben Dank für etwaige Rückmeldungen

20.02.2017, 12:43

IfindU

Auf diesen Beitrag antworten »

Das wäre richtig. Die Ableitung der Determinante ist die sogenannte Kofaktor-Matrix. Man kann es sich wie folgt herleiten: Man leitet nach der $\begin{eqnarray*} (i,j) \end{eqnarray*}$ Komponente von $\begin{eqnarray*} A \end{eqnarray*}$ , indem man danach mit Laplace entwickelt, und so explizit die affine Beziehung der Determinante in dieser Komponente erhält.

Edit : Ich sehe gerade, dass du das im vorigen Post selber angesprochen hast.

20.02.2017, 14:55

Berni91

Auf diesen Beitrag antworten »

Hallo,

danke für deinen Beitrag.

jetzt ist mir also klar wie man die Determinante vernünftig ableiten kann.

und nun retour zu meinem ursprünglichen Beitrag (machen wir mal ein kleines Anwendungsbeispiel) :

$\begin{eqnarray*} A = \begin{pmatrix} a_{11} & a_{12} & a_{13} \\ a_{21} & a_{22} & a_{23} \\ a_{31} & a_{32} & a_{33} \end{pmatrix} \end{eqnarray*}$

und $\begin{eqnarray*} \widetilde{A} =\begin{pmatrix} \widetilde{a_{11}} & \widetilde{a_{12}} & \widetilde{a_{13}} \\ \widetilde{a_{21}} & \widetilde{a_{22}} & \widetilde{a_{23}} \\ \widetilde{a_{31}} & \widetilde{a_{32}} & a_{33} \end{pmatrix} \end{eqnarray*}$

wobei $\begin{eqnarray*} rg(A) = 3 \end{eqnarray*}$ und $\begin{eqnarray*} rg(\widetilde{A}) = 2 \end{eqnarray*}$

somit ist also klar, dass $\begin{eqnarray*} det(\widetilde{A})=0 \end{eqnarray*}$ ist.

wie kann ich nun durch diese Gleichungen den Rang , also $\begin{eqnarray*} rg(\widetilde{A}) = 2 \end{eqnarray*}$ mittels Taylor linearisieren ?

ich könnte doch nur die Determinante von $\begin{eqnarray*} \widetilde{A} \end{eqnarray*}$ um A linearisieren (wie im obigen Post besprochen) -- oder übersehe ich da einen essentiellen Zusammenhang zwischen Rang und Determinante ?

LG

20.02.2017, 15:05

IfindU

Auf diesen Beitrag antworten »

Damit wir nicht an einander vorbei sprechen. Die Gleichheit
$\begin{eqnarray*} det(B) = det(A) + det(A)' (B-A) \end{eqnarray*}$
stimmt im Allgemeinen nicht. Es ist eine Linearisierung, formal korrekt heißt das $\begin{eqnarray*} det(B) = det(A) + det(A)' (B-A) + o(|B-A|) \end{eqnarray*}$ . In Worten: Gleichheit muss nicht gelten, aber der Fehler verschwindet schneller als linear, wenn $\begin{eqnarray*} A \end{eqnarray*}$ und $\begin{eqnarray*} B \end{eqnarray*}$ sich annähern.

Die Determinante ist eine glatte Abbildung (Polynom) sogar. Daher kann man das ganze Ableiten, und erhält oben die Linearisierung. Der Rang ist eine Abbildung, die in dem Fall nur die 4 Werte $\begin{eqnarray*} 0,1,2,3 \end{eqnarray*}$ annehmen kann. Insbesondere springt die Funktion sehr gerne. Höchstens beim vollen Rang hat man Umgebungen wo die Abbildung konstant bleibt. Bei den niedrig dimensionalen reicht eine winzige Verschiebung um den Rang zu ändern. Beispiel: Die Nullmatrix um eine Matrix mit einem Nicht-Nulleintrag mit Wert $\begin{eqnarray*} \epsilon \neq 0 \end{eqnarray*}$ gestört, hat plötzlich nicht mehr den Rang 0, sondern den Rang 1.

20.02.2017, 15:22

Berni91

Auf diesen Beitrag antworten »

Hallo,

ja danke - das ist mir also klar!!

nun noch eine Frage :

erhalte ich durch :

$\begin{eqnarray*} det(A) +det(A)'(B-A) = 0 \end{eqnarray*}$

tatsächlich ein Gleichungssystem ? entsteht dieses durch die partiellen Ableitungen ?

LG

20.02.2017, 15:26

IfindU

Auf diesen Beitrag antworten »

Das ist eine lineare Gleichung (die im Allgemeinen falsch ist), kein "System". Ich verstehe also nicht so wirklich was du meinst.

20.02.2017, 16:54

Berni91

Auf diesen Beitrag antworten »

Hallo,

Ziel ist es aus der Gleichung :

$\begin{eqnarray*} det(A) + det(A)'(B-A) = 0 \end{eqnarray*}$

irgendwie linearisierte Lösungen für die Elemente von B zu kriegen ... ist das möglich , oder totaler Schwachsinn ?

ich dachte mir eventuell indem ich alle partiellen Ableitungen = 0 -- dann würde ein GlS entstehen.

LG

20.02.2017, 16:55

Berni91

Auf diesen Beitrag antworten »

Hallo,

Ziel ist es aus der Gleichung :

$\begin{eqnarray*} det(A) + det(A)'(B-A) = 0 \end{eqnarray*}$

irgendwie linearisierte Lösungen für die Elemente von B zu kriegen ... ist das möglich , oder totaler Schwachsinn ?

ich dachte mir eventuell indem ich alle partiellen Ableitungen = 0 -- dann würde ein GlS entstehen

LG

20.02.2017, 17:12

IfindU

Auf diesen Beitrag antworten »

Also wir haben
$\begin{eqnarray*} \det B \approx \det A + \langle \det(A)', B-A\rangle \end{eqnarray*}$ , wobei $\begin{eqnarray*} \langle \cdot, \cdot \rangle \end{eqnarray*}$ das euklidische Skalarprodukt entspricht.

Soll jetzt $\begin{eqnarray*} \det B = 0 \end{eqnarray*}$ sein, oder wie kommst auf die Gleichheit? Wenn man dein Nullstellenproblem anschaut, dann setzt man am besten $\begin{eqnarray*} C:= B-A \end{eqnarray*}$ . Die Lösungen davon lassen sich leicht charakteriseiren. Falls $\begin{eqnarray*} \det A \neq 0 \end{eqnarray*}$ : Für alle $\begin{eqnarray*} (i,j) \end{eqnarray*}$ mit $\begin{eqnarray*} \det(A)'_{ij} \neq 0 \end{eqnarray*}$ gibt es eine Lösung $\begin{eqnarray*} C \end{eqnarray*}$ gegeben durch [ll]\frac{\det A}{ \det(A)'_{ij}}[/l] an der $\begin{eqnarray*} (i,j) \end{eqnarray*}$ Stelle.Alle diese Lösungen bilden eine "Basis" des Lösungsraum, alle weiteren sind Linearkombinationen (mit der Einschränkung $\begin{eqnarray*} \sum_i \lambda_i = 1 \end{eqnarray*}$ ) davon. Damit kann man alle C, und damit alle $\begin{eqnarray*} B = C +A \end{eqnarray*}$ bestimmen. Ähnlich der Fall $\begin{eqnarray*} \det A = 0 \end{eqnarray*}$ .

Damit kriegt man einen affinen Unterraum, der worst case $\begin{eqnarray*} n^2 \end{eqnarray*}$ dimensional ist. Mir ist aber nicht klar wofür du das brauchst, ob du das brauchst oder was du machen willst.

21.02.2017, 07:43

Berni91

Auf diesen Beitrag antworten »

Vielen Dank für die Antwort =)

Es ist so :

Wir kennen eine Kovarianzmatrix $\begin{eqnarray*} \Sigma \end{eqnarray*}$ , welche wir in der Faktorenanalyse durch sogenannte Ladungsmatrizen L darstellen könnnen und dann gibt es noch einen 'Fehler' durch 'uniquenesses' .

$\begin{eqnarray*} \Sigma = LL^{T} + D \end{eqnarray*}$

Wir sagen, dass $\begin{eqnarray*} rg(\Sigma) = k \end{eqnarray*}$ .

Was nun tatsächlich in diesen Ladungsmatrizen steht müssen wir schätzen -- dabei kommt es aber zum Rotationsproblem, da L nicht eindeutig ist --> also setzen wir besser $\begin{eqnarray*} \Sigma_{0} = LL^{T} \end{eqnarray*}$ und möchten nun $\begin{eqnarray*} \Sigma_{0} \end{eqnarray*}$ schätzen.

Dazu gibt es ja Verfahren ( zB. kleinste Quadrate , oder ML, Hauptkomponentenmethode etc)

Unsere Annahme ist , dass $\begin{eqnarray*} rg(\widetilde{\Sigma_{0}}) = f < k \end{eqnarray*}$

woraus

$\begin{eqnarray*} det((\widetilde{\Sigma_{0}})_{(1,...,f,i) \times (1,....f,j)}) = 0 \end{eqnarray*}$ für $\begin{eqnarray*} f < i \le j \le k \end{eqnarray*}$ folgt.

wir möchten aber, dass eine spezielle Verteilung entsteht und dazu meint mein Dozent, dass es zielführend ist eine entsprechende Linearisierung mittels Taylor zu machen und (unter dieser Bedingung) bzw. mit diesen Lösungen dann die Minimierung durchzuführen ... das sollte für die Schätzer in einer asymptotischen Normalverteilung münden.

Ich hoffe, dass dir / euch klarer ist was das bringen soll.

LG

21.02.2017, 10:26

IfindU

Auf diesen Beitrag antworten »

Danke für die Erklärung. Leider weiß ich nicht was du und Dozent schätzen wollen. Du kannst natürlich die Determinante damit schätzen, allerdings bekommt man bei $\begin{eqnarray*} f \leq k - 2 \end{eqnarray*}$ bereits nur die tolle Nährung $\begin{eqnarray*} \det \Sigma \approx 0 \end{eqnarray*}$ , einfach da $\begin{eqnarray*} \det \Sigma_0 = 0 \end{eqnarray*}$ und $\begin{eqnarray*} {\det}' \Sigma_0 = 0 \end{eqnarray*}$ .

Ich fürchte ich kann dir da nicht weiterhelfen.

Also $\begin{eqnarray*} \det \Sigma \approx \det \Sigma_0 + \langle {\det}'\Sigma_0, D \rangle \end{eqnarray*}$ wäre die Determinante linearisiert. Und selbst die Information der Determinante wirkt sehr wenig, ohne auch nur zu approximieren.

22.02.2017, 09:04

Berni91

Auf diesen Beitrag antworten »

Hallo,

aber man bekommt doch Schätzer für die Einträge der Matrix $\begin{eqnarray*} \Sigma_{0} \end{eqnarray*}$

wie du in deinem vorigen Beitrag ja geschrieben hast, vermöge

$\begin{eqnarray*} \frac{det(\Sigma)}{det(\Sigma)_{ij}'} \end{eqnarray*}$

zumindest wären das die Lösungen von

$\begin{eqnarray*} 0 = det(\Sigma) + det(\Sigma)'( \widetilde{\Sigma_{0}} - \Sigma ) \end{eqnarray*}$

oder?

22.02.2017, 13:21

IfindU

Auf diesen Beitrag antworten »

Das ist nur leider eine Gleichung. Die auch nur approximativ hält. Schlimmer ist, dass sie kaum Informationen liefert. Du hast Matrizen mit $\begin{eqnarray*} n^2 \end{eqnarray*}$ Einträgen, und nur eine Gleichung. Bestenfalls erhälst du einen $\begin{eqnarray*} n^2 - 1 \end{eqnarray*}$ affinen Unterraum. Das heißt in dem Beispiel vorher mit den $\begin{eqnarray*} 3 \times 3 \end{eqnarray*}$ Matrizen könntest du dir (fast) 8 Einträge beliebig aussuchen, bloss der letzte wäre durch die 8 willkürlichen Wahlen bereits festgelegt. Das fast, weil es mathematisch optimistisch gesprochen unsauber und streng genommen falsch ist, aber ich denke das vermittelt ein bisschen wie wenig Informationen man aus der Linearisierung der Determinante gewinnen kann.

22.02.2017, 13:35

Berni91

Auf diesen Beitrag antworten »

Da hast du recht ... das ist wirklich wenig Info -- hättest du eine Idee , wie man da mehr rausholen könnte?

22.02.2017, 13:38

IfindU

Auf diesen Beitrag antworten »

Leider nein. Ich könnte mir nur vorstellen man "linearisiert" das Verfahren zum Bestimmen von $\begin{eqnarray*} L \end{eqnarray*}$ und $\begin{eqnarray*} D \end{eqnarray*}$ . Aber da solltest du wirklich mit dem Dozenten reden was er sich hier gerade drunter vorstellt.

Edit: Mit der Einschränkung $\begin{eqnarray*} \Sigma_0 = L^T L \end{eqnarray*}$ bekommt man sofort, dass $\begin{eqnarray*} \Sigma_0 \end{eqnarray*}$ symmetrisch und positiv semidefinit ist. Das schränkt den Lösungsraum noch weiter ein, aber es sind immer noch sehr viele Freiheitsgrade.

22.02.2017, 14:54

Berni91

Auf diesen Beitrag antworten »

Hallo,

wie meinst du das Verfahren linearisieren ?

LG

22.02.2017, 15:04

IfindU

Auf diesen Beitrag antworten »

Momentan hast du die Gleichung $\begin{eqnarray*} \Sigma = \Sigma_0 + D \end{eqnarray*}$ , und du willst aus $\begin{eqnarray*} \Sigma \end{eqnarray*}$ Informationen über $\begin{eqnarray*} \Sigma_0 \end{eqnarray*}$ gewinnen. Offenbar geht das aus der puren Gleichung nicht. Wähle dir $\begin{eqnarray*} L \end{eqnarray*}$ beliebig, definiere dir $\begin{eqnarray*} \Sigma_0 := L^T L \end{eqnarray*}$ und $\begin{eqnarray*} D := \Sigma - \Sigma_0 \end{eqnarray*}$ . Dann ist die Gleichung offenbar erfüllt, und dein Ziel ist es mehr über das L zu erfahren. Das kann nur zum Scheitern verurteilt sein, weil du $\begin{eqnarray*} L \end{eqnarray*}$ aus dem Hut gezaubert hast.

Meine Idee war also weitere Informationen über $\begin{eqnarray*} L \end{eqnarray*}$ und $\begin{eqnarray*} D \end{eqnarray*}$ zu bekommen. Und die einzige Möglichkeit die ich sehe ist eben sich das Verfahren anzugucken welches beides liefert. Offenbar leistet das (hoffentlich) mehr als mein "Verfahren" oben.

Edit: Bemerkung: Hat $\begin{eqnarray*} L \end{eqnarray*}$ den Rang $\begin{eqnarray*} f \end{eqnarray*}$ , so hat $\begin{eqnarray*} \Sigma_0 \end{eqnarray*}$ höchstens (sogar genau? bin unsicher) Rang $\begin{eqnarray*} f \end{eqnarray*}$ .

23.02.2017, 15:57

Berni91

Auf diesen Beitrag antworten »

Hallo,

also um alle Unsicherheiten zu vermeiden (dass ich eventuell auch was falsch interpretiere) schreibe ich dir mal genau die Notizen meines Dozenten an mich auf :

Verfahren zum Schätzen :

1) Maximum Likelihood
2)kleinste Quadrate

Hierbei werden minimiert :

1) $\begin{eqnarray*} log(det(\widetilde{\Sigma})) + tr(\widetilde{\Sigma}^{-1} \widehat{\Sigma}) \end{eqnarray*}$
2) $\begin{eqnarray*} \sum_{i \neq j}(\widetilde{\sigma_{ij}} - \widehat{\sigma_{ij}})^2 \end{eqnarray*}$

$\begin{eqnarray*} \widehat{\Sigma} \end{eqnarray*}$ ... empirische Kovarianzmatrix.
$\begin{eqnarray*} \widetilde{\Sigma} \end{eqnarray*}$ ..... geschätzt aus Modell ( $\begin{eqnarray*} \widetilde{\Sigma} \approx \widetilde{D} + \widetilde{L}\widetilde{L}^{T} \end{eqnarray*}$ )

$\begin{eqnarray*} \Sigma \end{eqnarray*}$ tatsächliche Kovarianzmatrix. (wenn Modell stimmt : $\begin{eqnarray*} \Sigma = LL^{T} + D \end{eqnarray*}$

Für die Analyse ist die Darstellung durch $\begin{eqnarray*} LL^{T} \end{eqnarray*}$ eher nicht gut, da L nicht eindeutig -- also setzen wir besser
$\begin{eqnarray*} LL^{T} = \Sigma_{0} \end{eqnarray*}$

Die Minimierung erfolgt unter der Nebenbedingung $\begin{eqnarray*} rg(\widetilde{\Sigma_{0}}) = f (<k) \end{eqnarray*}$
diese lässt sich wenn wir annehmen, dass
$\begin{eqnarray*} (\widetilde{\Sigma_{0}})_{(1,..,f) \times (1,...,f)} \end{eqnarray*}$ vollen Rang hat , durch die Gleichungen
$\begin{eqnarray*} det((\widetilde{\Sigma_{0}})_{(1,..,f,i) \times (1,...,f,j)}) = 0 \hspace{2cm} f < i \le j \le k \end{eqnarray*}$
um $\begin{eqnarray*} \Sigma \end{eqnarray*}$ Taylorentwickeln , was die Nebenbedingungen näherungsweise linear und die Kriterien quadratisch macht. Führt zu einer asymptotischen Normalverteilung für die Schätzer und zu einer verallgemeinerten Chi-Quadrat Verteilung für die Kriterien.

Vll lese ich das einfach falsch und man soll es gänzlich anders angehen.

auf jeden Fall herzlichen Dank für deine Unterstützung.

LG

26.02.2017, 16:13

Berni91

Auf diesen Beitrag antworten »

aber ich nehme eher an, dass ich das schon richtig interpretiere ?

27.02.2017, 08:29

IfindU

Auf diesen Beitrag antworten »

Hey. Ich wollte mich früher melden, aber ich wollte mir erst einmal ein paar Gedanken dazu machen.

Leider habe ich noch nichts wirklich sinnvolles zu sagen. Ein paar Kommentare aber: Anstatt $\begin{eqnarray*} \det \widetilde\Sigma_0 \end{eqnarray*}$ zu entwickeln, kann man $\begin{eqnarray*} \det((\widetilde{\Sigma_{0}})_{(1,..,f,i) \times (1,...,f,j)}) \end{eqnarray*}$ für jedes $\begin{eqnarray*} f < i \le j \le k \end{eqnarray*}$ entwickeln. Das ergibt dann deutlich mehr Gleichungen, etwa $\begin{eqnarray*} \frac { (k - f)^2 } 2 \end{eqnarray*}$ (Zu früh morgens für eine genau Rechnung Big Laugh

Big Laugh

).

Das ergibt dann ein paar Gleichungen, und diese kann man (hoffentlich) in die Minimierungsprobleme einsetzen. Wenigstens $\begin{eqnarray*} \log \det \widetilde\Sigma \end{eqnarray*}$ sieht sympathisch dafür aus. Die anderen benötigen mehr Gedanken: Lohnt sich deren Linearisierung, kann man Informationen gewinnen usw.

27.02.2017, 09:00

Berni91

Auf diesen Beitrag antworten »

Vielen Dank für deinen Beitrag.

Darüber denke ich mal nach smile

smile

dann kriegt man also doch ein GLS raus , welches aber nur dann ganz gut ist , wenn sich $\begin{eqnarray*} rang(\widetilde{\Sigma_{0}}) \end{eqnarray*}$ und $\begin{eqnarray*} rang(\Sigma) \end{eqnarray*}$ deutlich unterscheiden -- zumindest entstehen dann einige Gleichungen smile

smile

27.02.2017, 09:06

IfindU

Auf diesen Beitrag antworten »

Genau. Aber mehr kann ja man ja nicht erwarten von dem Ansatz: Die Einschränkung an den Rang ist so ziemlich die einzige Tatsache, von der wir gerade Gebrauch machen. Daher je stärker die Annahme an den Rang ist, desto mehr Informationen können wir gewinnen.

Wenn das nicht ausreicht, muss man weiteres benutzen: $\begin{eqnarray*} \Sigma_0 \end{eqnarray*}$ ist symmetrisch, postiv semi-definit usw.

Als weiteres: Wenn $\begin{eqnarray*} f \end{eqnarray*}$ ganz nahe an $\begin{eqnarray*} r \end{eqnarray*}$ ist, so kann man vlt folgern, dass $\begin{eqnarray*} \Sigma_0 \end{eqnarray*}$ und $\begin{eqnarray*} \Sigma \end{eqnarray*}$ bereits fast die gleiche Matrix ist. Ich nehme an für ein optimales Ergebnis müsste man beide Ansätze kombinieren. Aber das ist jetzt mehr Geschwafel als Mathe Big Laugh

Big Laugh

27.02.2017, 12:06

Berni91

Auf diesen Beitrag antworten »

Ich werde mir das gleich heute Abend mal überlegen und dann meine Unwissenheit hier wieder reinhämmern :P

27.02.2017, 19:22

Berni91

Auf diesen Beitrag antworten »

Hallo,

so also wenn Beispielsweise $\begin{eqnarray*} \Sigma = \begin{pmatrix} \sigma_{11} & \sigma_{12} & \sigma_{13} \\ \sigma_{21} &\sigma_{22} &\sigma_{23} \\ \sigma_{31} & \sigma_{32} & \sigma_{33} \end{pmatrix} \end{eqnarray*}$ und wir gehen davon aus, dass $\begin{eqnarray*} rg(\Sigma)=3 \end{eqnarray*}$ .
Außerdem wissen wir, dass $\begin{eqnarray*} Sigma \end{eqnarray*}$ symmetrisch ist - woraus folgt, dass $\begin{eqnarray*} \sigma_{21} = \sigma_{12} , \sigma_{21} = \sigma_{13} , \sigma_{32} = \sigma_{23} \end{eqnarray*}$ (was hier wenig zur Sache tut, da wir $\begin{eqnarray*} \Sigma \end{eqnarray*}$ ohnehin exakt kennen).

Jetzt gehen wir davon aus, dass $\begin{eqnarray*} \widetilde{\Sigma_{0}} \end{eqnarray*}$ vollen Rang = 1 hat.

Demnach hätten wir zwei Gleichungen zu linearisieren und zwar :

1) $\begin{eqnarray*} det(\widetilde{\Sigma_{0}}_{(1,2) \times (1,2)}) = 0 \end{eqnarray*}$
2) $\begin{eqnarray*} det(\widetilde{\Sigma_{0}}_{(1,2,3) \times (1,2,3)}) = 0 \end{eqnarray*}$

wobei ja beispielsweise $\begin{eqnarray*} \widetilde{\Sigma_{0}}_{(1,2) \times (1,2)} = \begin{pmatrix} \widetilde{\sigma_{11}} & \widetilde{\sigma_{12}} \\ \widetilde{\sigma_{21}} & \widetilde{\sigma_{22}} \end{pmatrix} \end{eqnarray*}$ sein sollte, oder?

aber wie entwickle ich denn nun beispiesweise diese $\begin{eqnarray*} 2 \times 2 \end{eqnarray*}$ Matrix um $\begin{eqnarray*} \Sigma \end{eqnarray*}$ herum ? die ja eine $\begin{eqnarray*} 3 \times 3 \end{eqnarray*}$ Matrix ist ?? oder fülle ich die eine Matrix einfach mit einer 0 Zeile und Spalte ??

weil im Prinzip wäre ja nun :

$\begin{eqnarray*} det(\widetilde{\Sigma_{0}}_{(1,2) \times (1,2)}) \approx det(\Sigma) + det(\Sigma)'(\widetilde{\Sigma_{0}}_{(1,2) \times (1,2)} - \Sigma) \end{eqnarray*}$

?

LG

28.02.2017, 10:42

IfindU

Auf diesen Beitrag antworten »

Erst einmal: Um was du entwickelst ist nicht eindeutig. Aber ich denke das natürlichste wird das folgende sein:

Führen wir mal ein paar Symbole ein, damit die Sache leichter wird. Sei $\begin{eqnarray*} P_{ij} : \mathbb R^{k \times k} \to \mathbb R^{ (f + 1) \times (f+1)} \end{eqnarray*}$ gegeben durch $\begin{eqnarray*} P(X) = X_{(1,2,\ldots, f, i), (1,2,\ldots, f, j)} \end{eqnarray*}$ .

Dann entwickeln wir $\begin{eqnarray*} P(\widetilde \Sigma_0) \end{eqnarray*}$ um $\begin{eqnarray*} P(\Sigma) \end{eqnarray*}$ .

Zitat:

Original von Berni91
$\begin{eqnarray*} det(\widetilde{\Sigma_{0}}_{(1,2) \times (1,2)}) \approx det(\Sigma) + det(\Sigma)'(\widetilde{\Sigma_{0}}_{(1,2) \times (1,2)} - \Sigma) \end{eqnarray*}$

In dem Bsp also $\begin{eqnarray*} \det ( P_{2,2}\widetilde \Sigma_0 ) \approx \det ( P_{2,2}( \Sigma) ) + {\det}'(P_{2,2}(\Sigma))( P_{2,2} ( \widetilde \Sigma_0 - \Sigma) ) \end{eqnarray*}$

28.02.2017, 14:43

Berni91

Auf diesen Beitrag antworten »

Hallo,

also dann wäre

$\begin{eqnarray*} det(P_{2,2}(\widetilde{\Sigma_{0}})) \approx \begin{vmatrix} \sigma_{11} & \sigma_{21} \\ \sigma_{12} & \sigma_{22} \end{vmatrix} + \begin{vmatrix} \sigma_{11} & \sigma_{21} \\ \sigma_{12} & \sigma_{22} \end{vmatrix}' \begin{pmatrix} \widetilde{\sigma_{11}} - \sigma_{11} & \widetilde{\sigma_{21}} - \sigma_{21} \\ \widetilde{\sigma_{12}}-\sigma_{12} & \widetilde{\sigma_{22}} - \sigma_{22} \end{pmatrix} \end{eqnarray*}$

sofern das mal richtig ist ?

und dann wären ja die Lösungen von $\begin{eqnarray*} det(P_{2,2}(\widetilde{\Sigma_{0}})) \approx 0 \end{eqnarray*}$ durch

$\begin{eqnarray*} \begin{vmatrix} \sigma_{11} & \sigma_{21} \\ \sigma_{12} & \sigma_{22} \end{vmatrix} + \begin{vmatrix} \sigma_{11} & \sigma_{21} \\ \sigma_{12} & \sigma_{22} \end{vmatrix}' \begin{pmatrix} \widetilde{\sigma_{11}} - \sigma_{11} & \widetilde{\sigma_{21}} - \sigma_{21} \\ \widetilde{\sigma_{12}}-\sigma_{12} & \widetilde{\sigma_{22}} - \sigma_{22} \end{pmatrix} = 0 \end{eqnarray*}$ gegeben. ?

was (laut deinem Beitrag von früher) für jedes (i,j) eine Lösung $\begin{eqnarray*} \frac{det(P_{2,2}(\Sigma))}{det(P_{2,2}(\Sigma))'_{ij}} \end{eqnarray*}$

was meiner bescheidenen Meinung nach an (1,1) durch
$\begin{eqnarray*} \frac{\sigma_{11}\sigma_{22} - \sigma_{12}\sigma_{21}}{\sigma_{22}} \end{eqnarray*}$

gegeben wäre?

28.02.2017, 14:58

IfindU

Auf diesen Beitrag antworten »

Zitat:

Original von Berni91
[...]
sofern das mal richtig ist ?

Wenigstens das was ich vor hatte Big Laugh

Big Laugh

Wir suchen also wie du geschrieben hast
$\begin{eqnarray*} \begin{vmatrix} \sigma_{11} & \sigma_{21} \\ \sigma_{12} & \sigma_{22} \end{vmatrix} + \begin{vmatrix} \sigma_{11} & \sigma_{21} \\ \sigma_{12} & \sigma_{22} \end{vmatrix}' \begin{pmatrix} \widetilde{\sigma_{11}} - \sigma_{11} & \widetilde{\sigma_{21}} - \sigma_{21} \\ \widetilde{\sigma_{12}}-\sigma_{12} & \widetilde{\sigma_{22}} - \sigma_{22} \end{pmatrix} = 0 \end{eqnarray*}$ .

Etwas umgeschrieben ist das
$\begin{eqnarray*} \begin{vmatrix} \sigma_{11} & \sigma_{21} \\ \sigma_{12} & \sigma_{22} \end{vmatrix} = \begin{vmatrix} \sigma_{11} & \sigma_{21} \\ \sigma_{12} & \sigma_{22} \end{vmatrix}' \begin{pmatrix} \widetilde{\sigma_{11}} & \widetilde{\sigma_{21}} \\ \widetilde{\sigma_{12}} & \widetilde{\sigma_{22}} \end{pmatrix} \end{eqnarray*}$ .
Das folgt, da für $\begin{eqnarray*} 2 \times 2 \end{eqnarray*}$ Matrizen gilt $\begin{eqnarray*} |A|' \cdot A = 2 \det A \end{eqnarray*}$ , wie eine direkte Rechnung sofort bestätigt.

Damit hast du eine lineare Gleichung für die 3 Variablen $\begin{eqnarray*} \widetilde {\sigma_{11}}, \widetilde {\sigma_{12}}, \widetilde {\sigma_{22}} \end{eqnarray*}$ . (Mit der Symmetrie der Matrizen bereits ausgenutzt). Zusammen mit $\begin{eqnarray*} P_{2,3}, P_{3,3} \end{eqnarray*}$ gibt das dann 3 Gleichungen für 6 Variablen.

An der Stelle möchte ich noch einmal betonen, dass ich kein "Endziel" sehe. Ich kann also nicht sagen wie sinnvoll das ist was wir machen. Es ist bestenfalls richtig, was leider nicht das gleiche wie zielführend ist.

13.03.2017, 09:49

Berni91

Auf diesen Beitrag antworten »

Hallo,

vll nun die Erleuchtung smile

smile

die Minimierung von

$\begin{eqnarray*} \sum_{i \neq j}( \sigma_{ij} - \widetilde{\sigma_{ij}})^2 \end{eqnarray*}$ soll unter den Nebenbedingungen

$\begin{eqnarray*} det(\widetilde{\Sigma_{0}}_{(1,..,f,i) \times (1,...,f,j)} =0 \end{eqnarray*}$

erfolgen.

also eine Lagrange Aufgabe ... macht meine Interpretation Sinn ? wäre das denkbar?

LG

13.03.2017, 14:26

IfindU

Auf diesen Beitrag antworten »

Das klingt nach einer sinnvollen Problemstellung, ja.

12 nächste Seite »

Verwandte Themen

Die Beliebtesten »

Die Größten »

Die Neuesten »