Determinante entwickeln (Taylor) - Seite 2

13.03.2017, 15:02

Berni91

Auf diesen Beitrag antworten »

wenn ich nun wirklich eine beispielhafte Kovarianzmatrix habe :

$\begin{eqnarray*} \Sigma = \begin{pmatrix} 1 & -0,31 & 0,25 \\ -0,31 & 2,3 & 0,78 \\ 0,25 & 0,78 & 3 \end{pmatrix} \end{eqnarray*}$

diese hat den Rang 3.

und ich nehme an, dass die empirische Kovarianzmatrix $\begin{eqnarray*} \widetilde{\Sigma_{0}} = \begin{pmatrix} \widetilde{\sigma_{11}} & \widetilde{\sigma_{12}} & \widetilde{\sigma_{13}} \\ \widetilde{\sigma_{21}} & \widetilde{\sigma_{22}} & \widetilde{\sigma_{23}} \\ \widetilde{\sigma_{31}} & \widetilde{\sigma_{32}} & \widetilde{\sigma_{33}} \end{pmatrix} \end{eqnarray*}$ , welche den Rang = 2 hat.

Dann haben wir :

$\begin{eqnarray*} \sum_{i \neq j} (\sigma_{ij} - \widetilde{\sigma_{ij}})^2 \to min \end{eqnarray*}$

führt auf ein GLS :

$\begin{eqnarray*} I : ((-0,31 - \widetilde{\sigma_{12}})^2)' = 0 \end{eqnarray*}$
II : ..
III : ....

usw... also alle partiellen Ableitungen = 0 setzen und im Endeffekt, fällt alles bis auf einen Term immer weg.

und nun zur (linearisierten) Nebenbedingung

$\begin{eqnarray*} det( \widetilde{\Sigma_{0}}_{(3,3) \times (3,3)}) \approx det(\Sigma) + det(\Sigma)'(\widetilde{\Sigma_{0}} - \Sigma) \approx 0 \end{eqnarray*}$

wie bilde ich hier denn die Ableitungen ? da \Sigma jetzt ja einfach mit Zahlen befüllt ist.

danke für deine Hilfe.

LG

13.03.2017, 15:12

IfindU

Auf diesen Beitrag antworten »

Mit $\begin{eqnarray*} { \det }'(\Sigma) \end{eqnarray*}$ bezeichne ist nicht die Ableitung von $\begin{eqnarray*} \det \Sigma \end{eqnarray*}$ nach $\begin{eqnarray*} \Sigma \end{eqnarray*}$ , sondern $\begin{eqnarray*} \Sigma \end{eqnarray*}$ eingesetzt in die Ableitung der Determinante! Wenn man $\begin{eqnarray*} cof \end{eqnarray*}$ als Kofaktormatrix bezeichnet, dann ist $\begin{eqnarray*} {\det}'(\Sigma) = cof (\Sigma) \end{eqnarray*}$ .

14.03.2017, 09:42

Berni91

Auf diesen Beitrag antworten »

ahh na klar , puh dann kommen bei diesen Nebenbedingungen aber wilde Polynome raus.

und :

eigentlich entstehen durch : $\begin{eqnarray*} \sum_{i \neq j}(\widetilde{\sigma_{ij}} - \sigma_{ij})^2 \to min \end{eqnarray*}$
ja exakte Werte ... das einzige was (ziemlich mies) geschätzt wird, ist die Hauptdiagonale , da ja alle anderen Elemente eindeutig aus den Gleichungen hervorgehen.

Dennoch sieht das für mich stark nach der kleinsten Quadrat Methode aus.

LG

14.03.2017, 10:30

Berni91

Auf diesen Beitrag antworten »

und eine Kleinigkeit muss ich nachschießen :

bei $\begin{eqnarray*} cof(\Sigma)(\widetilde{\Sigma_{0}}-\Sigma) \end{eqnarray*}$ erhalten wir ja eine Matrix - damit hätten wir dann

$\begin{eqnarray*} \det(\widetilde{\Sigma_{0}}) \approx Zahl + Matrix \end{eqnarray*}$

oder ?

Lg

14.03.2017, 10:47

IfindU

Auf diesen Beitrag antworten »

Nein! Und das wäre sicherlich keine Kleinigkeit. Es ist $\begin{eqnarray*} cof(\Sigma) \end{eqnarray*}$ eine Matrix, und $\begin{eqnarray*} (\widetilde \Sigma_0 - \Sigma) \end{eqnarray*}$ eine Matrix. Die hier gemeinte Multiplikation ist das Skalarprodukt. Und das liefert eine Zahl.

Hier hatte ich es noch explizit hingeschrieben. Ich dachte das waere dir danach klar gewesen.

14.03.2017, 11:26

Berni91

Auf diesen Beitrag antworten »

Na klar !

Sorry, wie dumm von mir !!

Anzeige

14.03.2017, 12:11

IfindU

Auf diesen Beitrag antworten »

Ich habe den Post davor nicht gesehen: Ich denke nicht, dass es zwingend eindeutig ist was fuer Minimierer man dort bekommt. Das Problem ist eben, dass man die $\begin{eqnarray*} \widetilde \sigma \end{eqnarray*}$ nicht unabhängig von einander einfach optimal wählen kann. Man muss dabei eben beachten, dass man einen kleinen Rang der davon erzeugten Matrix braucht.

Es kann sein, dass sie eindeutig bestimmt sind, aber ich sehe es gerade nicht spontan.

15.03.2017, 09:09

Berni91

Auf diesen Beitrag antworten »

Hallo,

kann man in die Minimierung irgendwie einfließen lassen, dass der Rang von $\begin{eqnarray*} \widetilde{\Sigma_{0}} \end{eqnarray*}$ entsprechend klein ist ?

Wenn man die Annahme trifft, dass der Rang zwar deutlich kleiner ist, so kriegt man zwar ein paar 'Determinanten-Gleichungen' , aber bei :

$\begin{eqnarray*} \sum_{i \neq j}(\widetilde{\sigma} - \sigma)^2 \to min \end{eqnarray*}$

erhält man , dann dennoch $\begin{eqnarray*} \widetilde{\sigma_{ij}} = \sigma_{ij} \end{eqnarray*}$ und nur für die Diagonalelemente erhält man 'Schätzer' , die dann eindeutig sind, wenn man eben entsprechend viele NB hat -- die Matrix $\begin{eqnarray*} \widetilde{\Sigma_{0}} \end{eqnarray*}$ , die dabei entsteht hat aber fast sicher den gleichen Rang wie $\begin{eqnarray*} \Sigma \end{eqnarray*}$ , da ja schon mal alle nicht-diagonal-Elemente übereinstimmen.

LG

15.03.2017, 13:56

IfindU

Auf diesen Beitrag antworten »

Für Optimierungen mit Nebenbedingungen sind üblicherweise Lagrange-Multiplikatoren die richtige Wahl. Damit bekommst du ein komplizierteres lineares Gleichungssystem, aber dennoch eins, wenn du die Forderung der verschwindendeten Determinanten durch die linearisierte Bedingung ersetzt.

19.03.2017, 13:41

Berni91

Auf diesen Beitrag antworten »

Hallo,

entspricht das Skalarprodukt hier dem Frobenius-SKP?

Falls ja, so wären in den Nebenbedingung nur die Diagonalelemente -- damit würde für alle anderen aus
$\begin{eqnarray*} \sum_{i \neq j} \widetilde{\sigma_{ij}} - \sigma_{ij} \to min \end{eqnarray*}$
folgen
$\begin{eqnarray*} \widetilde{\sigma_{ij}} = \sigma_{ij} \end{eqnarray*}$ für $\begin{eqnarray*} i \neq j \end{eqnarray*}$

LG

19.03.2017, 13:50

IfindU

Auf diesen Beitrag antworten »

Was ist Frobenius SKP? Und da fehlen gerade Beträge oder Quadrate oder etwas. Sonst existiert das Minimum nicht, und $\begin{eqnarray*} \widetilde \sigma_{ij} = - \infty \end{eqnarray*}$ wäre "optimal".

Mit Beträgen, ohne weitere Bedingung an $\begin{eqnarray*} \widetilde \sigma \end{eqnarray*}$ wäre das natürlich optimal.

19.03.2017, 14:49

Berni91

Auf diesen Beitrag antworten »

jaja natürlich da fehlt das quadrat.

ich gehe einfach vom euklidischen SKP aus , also :

$\begin{eqnarray*} \langle A , B \rangle = \sum_{i=1}^{m} \sum_{j=1}^{n} a_{ij}b_{ij} \end{eqnarray*}$ für $\begin{eqnarray*} A,B \in \mathbb{R}^{m \times n} \end{eqnarray*}$

19.03.2017, 14:55

IfindU

Auf diesen Beitrag antworten »

Wenn du das Skalarprodukt meinst, was bei der Linearisierung der Determinante entsteht, dann ja. Ansonsten weiss ich nicht welches du meinst.

19.03.2017, 17:32

Berni91

Auf diesen Beitrag antworten »

okay

smile

eine Sache fällt mir noch ein -- was meinst du in deinem Beitrag

Determinante entwickeln (Taylor)

mit $\begin{eqnarray*} P_{2,3} \end{eqnarray*}$ ? macht denn eine Matrix mit 2 Zeilen 3 Spalten bzw 3 Zeilen und 2 Spalten irgendwie Sinn ? das SKP zwischen Kofaktormatrix und $\begin{eqnarray*} \widetilde{\Sigma} - \Sigma \end{eqnarray*}$ ist doch dann schlichtweg 0 , oder ?

LG

19.03.2017, 18:36

IfindU

Auf diesen Beitrag antworten »

Schau mal wie $\begin{eqnarray*} P_{ij} \end{eqnarray*}$ definiert ist. Es ist die $\begin{eqnarray*} f \times f \end{eqnarray*}$ Matrix, und dazu nimmt man noch (Teile von) Zeile i und Spalte j dazu, so dass es eine $\begin{eqnarray*} (f+1) \times (f+1) \end{eqnarray*}$ Matrix wird.

20.03.2017, 11:15

Berni91

Auf diesen Beitrag antworten »

Wenn $\begin{eqnarray*} rg( \widetilde{\Sigma_{0}}) = f = 1 \end{eqnarray*}$

dann gibt es doch nur $\begin{eqnarray*} P_{2,2} \end{eqnarray*}$ und $\begin{eqnarray*} P_{3,3} \end{eqnarray*}$ , ich verstehe einfach $\begin{eqnarray*} P_{2,3} \end{eqnarray*}$ nicht -- das wäre doch (lt deiner Definition) eine $\begin{eqnarray*} 2 \times 3 \end{eqnarray*}$ Matrix.

Außer ich steh hier total auf der Leitung.

20.03.2017, 11:22

IfindU

Auf diesen Beitrag antworten »

Nehmen wir mal ein einfaches Beispiel: $\begin{eqnarray*} f = 1 \end{eqnarray*}$ und $\begin{eqnarray*} \widetilde \Sigma_0 = \begin{pmatrix} a & b & c \\ d & e & f \\ g & i & h \end{pmatrix} \end{eqnarray*}$ .

Dann wäre $\begin{eqnarray*} P_{2,2}(\widetilde \Sigma_0) = \begin{pmatrix} a & b \\ d & e\end{pmatrix} \end{eqnarray*}$ und $\begin{eqnarray*} P_{3,3}(\widetilde \Sigma_0)= \begin{pmatrix} a & c \\ g & h \end{pmatrix} \end{eqnarray*}$ . Weiter nun $\begin{eqnarray*} P_{2,3}(\widetilde \Sigma_0) = \begin{pmatrix} a & c \\ d & f\end{pmatrix} \end{eqnarray*}$ , $\begin{eqnarray*} P_{3,2}(\widetilde \Sigma_0) = \begin{pmatrix} a & b \\ g & h\end{pmatrix} \end{eqnarray*}$ .

Also die ersten $\begin{eqnarray*} f \times f \end{eqnarray*}$ Matrix genommen, und dann geben die Zahlen bei $\begin{eqnarray*} P \end{eqnarray*}$ an welche Zeile und Spalte dazu kommt.

20.03.2017, 11:26

Berni91

Auf diesen Beitrag antworten »

ahhhhhhhhhhhh -- jetzt klingelts Big Laugh

Big Laugh

DANKE!

21.03.2017, 09:12

Berni91

Auf diesen Beitrag antworten »

Ich hab mal ein Beispiel gerechnet :

$\begin{eqnarray*} \Sigma = \begin{pmatrix} 1 & 4 & 3 \\ 4 & 5 & 6 \\ 3 & 6 & 8 \end{pmatrix} \end{eqnarray*}$

weiters ist $\begin{eqnarray*} rg(\Sigma) = 3 \end{eqnarray*}$ .

$\begin{eqnarray*} \widetilde{\Sigma_{0}} \end{eqnarray*}$ soll ebenfalls symmetrisch sein, also

$\begin{eqnarray*} \widetilde{\Sigma_{0}} = \begin{pmatrix} a & b & c \\ b & e & f \\ c & f & i \end{pmatrix} \end{eqnarray*}$ und wir nehmen an, dass $\begin{eqnarray*} rg(\widetilde{\Sigma_{0}}) = 1 \end{eqnarray*}$ .

Minimieren möchten wir nun also :

$\begin{eqnarray*} 2(b-4)^2 + 2(c-3)^2 + 2(f-6)^2 \to min \end{eqnarray*}$

unter den Nebenbedingungen :

1) $\begin{eqnarray*} \begin{vmatrix} a & b \\ b & e \end{vmatrix} \approx \begin{vmatrix} 1 & 4 \\ 4 & 5 \end{vmatrix} + \begin{pmatrix} 1 & -4 \\ -4 & 5 \end{pmatrix} \cdot \begin{pmatrix} a-1 & b-4 \\ b-4 & e-5 \end{pmatrix} \approx 0 \end{eqnarray*}$

2) $\begin{eqnarray*} \begin{vmatrix} a & c \\ c & i \end{vmatrix} \approx \begin{vmatrix} 1 & 3 \\ 3 & 8 \end{vmatrix} + \begin{pmatrix} 1 & -3 \\ -3 & 8 \end{pmatrix} \cdot \begin{pmatrix} a-1 & c-3 \\ c-3 & i-8 \end{pmatrix} \approx 0 \end{eqnarray*}$

3) $\begin{eqnarray*} \begin{vmatrix} a & b \\ c & f \end{vmatrix} \approx \begin{vmatrix} 1 & 4 \\ 3 & 6 \end{vmatrix} + \begin{pmatrix} 1 & -3 \\ -4 & 6 \end{pmatrix} \cdot \begin{pmatrix} a-1 & b-4 \\ c-3 & f-6 \end{pmatrix} \approx 0 \end{eqnarray*}$

und die 4 GLeichung , also die, die durch $\begin{eqnarray*} P_{3,2} \end{eqnarray*}$ entsteht ist einfach nur nochmals 3).

dies führt auf die Lagrangefunktion :

$\begin{eqnarray*} L(.) = 2b^2 -16b +32 +2c^2 -12c+18 +2f^2 -24f +72 + \lambda (-5+a-8b+5e) + \mu (-48+a-6c+8i) + \phi (-19+a-4c-3b+6f) \end{eqnarray*}$

dies liefert dann ein unterbestimmtes Gleichungssystem mit 3 Freiheitsgraden , also

I: $\begin{eqnarray*} \frac{\partial L}{\partial b} = 4b-16-8 \lambda -3 \phi = 0 \end{eqnarray*}$
II: $\begin{eqnarray*} \frac{\partial L}{\partial c} = 4c-12 -6\mu - 4 \phi = 0 \end{eqnarray*}$
III: $\begin{eqnarray*} \frac{\partial L}{\partial f} = 4f - 24 +6 \phi= 0 \end{eqnarray*}$
IV : $\begin{eqnarray*} \frac{\partial L}{\partial \lambda} = -5+a-8b+5e= 0 \end{eqnarray*}$
V: $\begin{eqnarray*} \frac{\partial L}{\partial \mu} = 48+a-6c+8i= 0 \end{eqnarray*}$
VI: $\begin{eqnarray*} \frac{\partial L}{\partial \phi} = -19+a-4c-3b+6f = 0 \end{eqnarray*}$

die Lösung könnte man eventuell noch etwas einschränken indem man fordert, dass die Diagonalelemente alle $\begin{eqnarray*} \ge 0 \end{eqnarray*}$ sind , aber sonst bleibt es wohl so ?

LG

21.03.2017, 11:30

IfindU

Auf diesen Beitrag antworten »

Sieht gut aus Freude

Freude

Ich sehe auch nicht wie man das noch weiter einschränken könnte.

21.03.2017, 14:59

Berni91

Auf diesen Beitrag antworten »

cool , vielen Dank Big Laugh

Big Laugh

und zur Lösung des GLS -- hast du beispielsweise eine Idee , wie man die freien Variablen 'vernünftig' wählen sollte / könnte ? smile

smile

21.03.2017, 15:04

IfindU

Auf diesen Beitrag antworten »

Ich würde b, c, f wie in $\begin{eqnarray*} \Sigma \end{eqnarray*}$ wählen und den Rest über die Gleichungen bestimmen wenn es geht Big Laugh

Big Laugh

Frage ist ob das immer geht, und wenn ja: Wie sinnvoll ist dann die Approximation. Fragen über Fragen.

21.03.2017, 15:36

Berni91

Auf diesen Beitrag antworten »

Also wenn ich das mache, dann erhalte ich :

a=7
e=6
i=59/8

und alle Lagrange-Multiplikatoren sind 0.

bei e und i ist die Schätzung gar nicht soooo schlecht ... bei a halt enorm mies.

21.03.2017, 15:45

IfindU

Auf diesen Beitrag antworten »

Ich dachte du minimierst nicht über die Diagonale. Daher war mein Vorschlag: Nimm einfach die relevanten Einträge, und baue daraus eine Rang 1 Matrix (wenigstens approximativ).

21.03.2017, 16:27

Berni91

Auf diesen Beitrag antworten »

ja, stimmt - minimiert wird über die nicht-diagonal-elemente ... aber die Diagonale wird zwangsläufig mitgeschätzt -- approximativ kann da aber keine Rang 1 Matrix entstehen.... da kommt eine Matrix vom Rang von $\begin{eqnarray*} \Sigma \end{eqnarray*}$ raus ... speziell, wenn ich 6 Einträge wie in $\begin{eqnarray*} \Sigma \end{eqnarray*}$ wähle ..

21.03.2017, 16:39

IfindU

Auf diesen Beitrag antworten »

Das stimmt. War eine dumme Idee. Also ich habe gerade nichts cleveres parat, sorry.

22.03.2017, 08:43

Berni91

Auf diesen Beitrag antworten »

Aber wenn wir die Dimension auf 4 erhöhen und weiterhin verlangen, dass $\begin{eqnarray*} rg(\widetilde{\Sigma_{0}}) = 1 \end{eqnarray*}$ , dann sollte sich das mit den Gleichungen vermutlich ausgehen.. zumindest wird es schwächer unterbestimmt.

Du hast übrigens mal geschrieben, dass wir $\begin{eqnarray*} \frac{(k-f)^2}{2} \end{eqnarray*}$ Gleichungen kriegen, aber sind es nicht
$\begin{eqnarray*} \lceil \frac{(k-f)^2}{2} \rceil + (k-f) \end{eqnarray*}$ ? oder sowas in diese Richtung

22.03.2017, 09:20

IfindU

Auf diesen Beitrag antworten »

Zitat:

Original von IfindU
Das ergibt dann deutlich mehr Gleichungen, etwa $\begin{eqnarray*} \frac { (k - f)^2 } 2 \end{eqnarray*}$ (Zu früh morgens für eine genau Rechnung Big Laugh

Big Laugh

).

Da Zauberwort war "etwa". Ich habe nicht genau nachgerechnet wie viele es waren. An dem Zeitpunkt interessierte mich nur die Hausnummer. Und nach deinem Beispiel fuerchte ich es sind sogar noch weniger. So koennte durch die Annahme der Symmetrie mehr $\begin{eqnarray*} P_{i,j} \end{eqnarray*}$ zusammenfallen.

22.03.2017, 18:41

Berni91

Auf diesen Beitrag antworten »

Hmm ja stimmt!!

Auf jeden Fall mache ich mir Gedanken zum lösen dieses unter bestimmten GLS -- fraglich welche freien Variablen, man wie wählen sollte

25.03.2017, 18:32

Berni91

Auf diesen Beitrag antworten »

Vll wäre es sinnvoll

$\begin{eqnarray*} \sum_{i \neq j}(\widetilde{\sigma_{ij}} - \widehat{\sigma_{ij}})^2 \to min \end{eqnarray*}$

dies zu minimieren... wobei die $\begin{eqnarray*} \widehat{\sigma_{ij}} \end{eqnarray*}$ die Elemente der empirischen Kovarianzmatrix sind -- somit wären die $\begin{eqnarray*} \widehat{\sigma_{ij}} \end{eqnarray*}$ bereits 'Schätzer' und man würde dann evenutell wirklich eine Matrix $\begin{eqnarray*} \widetilde{\Sigma_{0}} \end{eqnarray*}$ erhalten, die im Rang kleiner $\Sigma$ ist?

26.03.2017, 08:58

IfindU

Auf diesen Beitrag antworten »

Ich kann nicht wirklich sagen wie sinnvoll das vom Konzept ist. Aber sei dir bewusst, dass die invertierbaren Matrizen dicht in den Matrizen liegen. Nur weil du bzgl. der euklidischen Norm (aka dem Minimierungsproblem) nahe an einer Matrix mit niedrigem Rang bist, heisst es nicht, dass die Matrix selbst niedrigen Rang hat.

27.03.2017, 19:43

Berni91

Auf diesen Beitrag antworten »

Hallo,

macht es eigentlich was, dass $\begin{eqnarray*} \Sigma_{0} \end{eqnarray*}$ nicht vollen Rang hat ? also wegen der Taylorentwicklung.. da ja dann $\begin{eqnarray*} det(\Sigma_{0}) \end{eqnarray*}$ nicht so einwandfrei diffbar ist ... aber eigentlich muss ja nur $\begin{eqnarray*} det(\Sigma) \end{eqnarray*}$ diffbar sein.. oder?

LG

28.03.2017, 10:55

IfindU

Auf diesen Beitrag antworten »

Die Determinante ist eine glatte Funktion in dem Raum der Matrizen. Der Rang der Matrizen ist dabei irrelevant. Die Menge der invertierbaren Matrizen liegt dicht in dem Raum. Aber die Matrizen, die nahe an nicht-invertierbaren Matrizen (diese also mit verschwindender Determinante), haben eine betragsmäßig kleine Determinante. Im Gegensatz zum Rang, der dort konstant $\begin{eqnarray*} n \end{eqnarray*}$ ist, und sie nahe an Matrizen mit deutlichen kleinerem Rang liegen.

30.03.2017, 13:12

Berni91

Auf diesen Beitrag antworten »

Ich dachte mir, dass man vielleicht auf die NB verzichten könnte, falls man anstatt $\begin{eqnarray*} \Sigma_{0} \end{eqnarray*}$ wirklich über die Ladungsmatrizen L geht.

also aus

$\begin{eqnarray*} \Sigma = LL^{T} + D \end{eqnarray*}$ wobei D eine Diagonalmatrix ist, in der die 'Uniquenesses' stehen - erhält man, falls man L als Dreiecksmatrix ansetzt (eventuell sogar besser, wenn man L als Trapez ansetzt, da ja LL^{T} sonst nie eindeutig sein kann)

und $\begin{eqnarray*} \Tilde{L} \approx L + \Delta \end{eqnarray*}$

$\begin{eqnarray*} \Tilde{L}\Tilde{L^{T}} \approx LL^{T} + L\Delta^{T} +\Delta L^{T} \end{eqnarray*}$

dann führt die Minimierung (meines Erachtens) auch ohne Nebenbedingungen auf ein vernünftiges GLS

$\begin{eqnarray*} (\Sigma - (LL^{T} + L\Delta^{T} +\Delta L^{T}))^2 \to min \end{eqnarray*}$

auch hier minimieren wir über die Nichtdiagonal-Elemente.

Was meinst du ?

LG

30.03.2017, 14:36

IfindU

Auf diesen Beitrag antworten »

Ich hatte es so verstanden, dass der niedrige Rang (Nebenbedingung) eine Annahme war, die man nicht benötigt, aber mit deren Hilfe man sich bessere Konvergenz verschaffen wollte.

Dein Ansatz löst sich nun davon. Und mir fehlt leider das Wissen und Verständnis in der Region, um einzuschätzen was gut ist, was besser ist, oder sogar was sinnvoll ist.

31.03.2017, 10:07

Berni91

Auf diesen Beitrag antworten »

Es geht eigentlich kaum um dieSchätzer per se ... bei der Minimierung möchte ich die quadrate beliebiger normalverteilubgen haben -- dieses minimierunhsproblen soll ein realauftreten für einen speziellen Fall der Chi quadrat Verteilung sein ... nicht die quadrate von standardnormalverteilen ZV , sondern die von beliebig normalverteilten ... smile

smile

01.04.2017, 13:42

Berni91

Auf diesen Beitrag antworten »

Also im klassischen Faktorenmodell kann man die Kovarianzmatrix $\begin{eqnarray*} \Sigma = LL^{T}+ D \end{eqnarray*}$ , wobei D eine Diagonalmatrix ist darstellen.

Die empirische Kovarianzmatrix lässt sich als $\begin{eqnarray*} \widehat{\Sigma} = LL^{T} \end{eqnarray*}$ darstellen, also unterscheinden sich $\begin{eqnarray*} \Sigma \end{eqnarray*}$ und $\begin{eqnarray*} \widehat{\Sigma} \end{eqnarray*}$ nur in der Diagonale.

Schätze ich die Kovarianzmatrix nun aus dem Modell (bezeichnen wir die als $\begin{eqnarray*} \widetilde{\Sigma} \end{eqnarray*}$ , so mache ich bei L einen Fehler $\begin{eqnarray*} \Delta \end{eqnarray*}$

also

$\begin{eqnarray*} \widetilde{L} \widetilde{\L}^{T} \approx LL^{T} + L \Delta^{T} + \Delta L^{T} \end{eqnarray*}$

führt mich also auf die Minimierung

$\begin{eqnarray*} (\widehat{\Sigma} - \widetilde{\Sigma})^2 = (LL^{T} -(LL^{T} + L \Delta^{T} + \Delta L^{T}))^2 \to min \end{eqnarray*}$

wobei auch hier über die nichtdiag. Elemente minimiert wird.

und jetzt müsste ich nur noch wissen, ob $\begin{eqnarray*} LL^{T} -(LL^{T} + L \Delta^{T} + \Delta L^{T}) \end{eqnarray*}$ einer Normalverteilung folgt.

Kann man dazu was sagen ? zumindest sind die Kovarianzmatrizen ja aus multivariaten Normalverteilungen...

Danke für deine Mühe

03.04.2017, 11:24

Berni91

Auf diesen Beitrag antworten »

Wenn $\begin{eqnarray*} \widetilde{\Sigma} \end{eqnarray*}$ nicht vollen Rang hat, so gibt es eine nicht singuläre Matrix M sodass

$\begin{eqnarray*} M \widetilde{\Sigma} M^{T} = \begin{pmatrix} E & 0 \\ 0 & 0 \end{pmatrix} \end{eqnarray*}$

also ist

$\begin{eqnarray*} \widetilde{\Sigma} = M^{-1} \begin{pmatrix} E & 0 \\ 0 & 0 \end{pmatrix} (M^{-1})^{T} \end{eqnarray*}$

sagen wir $\begin{eqnarray*} rg(\widetilde{\Sigma}) = g \end{eqnarray*}$ , so können wir M zerlegen, dass
$\begin{eqnarray*} M = \begin{pmatrix} M_{1} \\ M_{2} \end{pmatrix} \end{eqnarray*}$ , wobei $\begin{eqnarray*} rg(M_{1}) = g \end{eqnarray*}$

also ist

$\begin{eqnarray*} M_{1} \widetilde{\Sigma} (M_{1})^{T} \end{eqnarray*}$

ist nun $\begin{eqnarray*} Y \sim N(0,E) \end{eqnarray*}$ so ist also

$\begin{eqnarray*} (X- \mu) = M_{1}^{-1}Y \end{eqnarray*}$

also ist

$\begin{eqnarray*} X \sim N(\mu, M_{1}^{-1}(M_{1}^{-1})^{T}) \end{eqnarray*}$

aber ich weiß nicht, ob mir das was für die Verteilung betreffend der Minimierung helfen kann ...

08.04.2017, 07:10

IfindU

Auf diesen Beitrag antworten »

Hey,

tut mir Leid, dass ich mich nicht vorher gemeldet habe -- ich hatte wenig Zeit und noch weniger Zugang zu einem Computer.

Was mir noch mehr Leid tut, ist dass ich dir wirklich nicht helfen kann. Mein Fachgebiet ist die Analysis, und davon entfernen wir uns die ganze Zeit mehr. Ich bin mir auch nicht sicher, ob wir im Forum einen aktiven Statistiker (?) haben.

Als Empfehlung kann ich dir nur geben einen neuen Thread zu starten, wo du das aktuelle Problem `kompakt' darstellst. Deine Zielgruppe ist bereits klein genug, um sie nicht mit Seitenweisen Forenbeitraegen wegzuschrecken Augenzwinkern

Augenzwinkern

Viel Erfolg noch!

08.04.2017, 15:11

Berni91

Auf diesen Beitrag antworten »

Hallo,

kein Problem -- vielen Dank, dass du dich meinen Fragen wirklich immer gewidmet hast smile

smile

LG

« vorherige Seite 12

Verwandte Themen

Die Beliebtesten »

Die Größten »

Die Neuesten »