z-Transformation (Standardisierung) multivariater Normalverteilungen

24.02.2009, 08:33

Ritmo83

z-Transformation (Standardisierung) multivariater Normalverteilungen

Hallo,

da mir bei meiner letzten Frage so kompetent geholfen wurde, dachte ich mir, dass ich es mit meinem aktuellen Problem nochmal versuche.

Folgende Situation:

Gegeben: multivariate Normalverteilung $\begin{eqnarray*} \mathcal{N}(\mu, \Sigma) \end{eqnarray*}$

Ich möchte jetzt die Wahrscheinlichkeit ausrechnen, dass sich ein Vektor $\begin{eqnarray*} x \in R^{n} \end{eqnarray*}$ in einem Hyperwürfel $\begin{eqnarray*} I = \{[a_i,b_i] | a_i, b_i \in R, i = 1,\ldots,n\} \end{eqnarray*}$ befindet, also:

$\begin{eqnarray*} P(a_1 \leq x_1 \leq b_1,\ldots, a_n \leq x_n \leq b_n) = \int_{a_1}^{b_1} \ldots \int_{a_n}^{b_n} \frac{1}{\sqrt{(2\pi)^{n} det(\Sigma)}} e^{-\frac{1}{2} (x - \mu)^{T}\Sigma^{-1}(x-u)} \end{eqnarray*}$

Bei einer eindimensionalen Normalverteilung kann man in diesem Fall ja eine z-Transformation anwenden und auf der Standarnormalverteilung arbeiten.

Bsp: $\begin{eqnarray*} \int_{a}^{b} \mathcal{N}(\mu_1, \sigma_1^2) = \int_{\frac{a - \mu_1}{\sigma_1}}^{\frac{b-\mu_1}{\sigma_1}} \mathcal{N}(0,1) \end{eqnarray*}$

Ich habe nun den Transformationssatz für Integrale gefunden, der folgendes aussagt:

$\begin{eqnarray*} \int_{A} f(x) dx = \int_{g^{-1}(A)} f(g(x)) det(\frac{\partial x}{\partial z}) dz \end{eqnarray*}$

wobei $\begin{eqnarray*} g: V \rightarrow A \end{eqnarray*}$ ein stetig differenzierbare Funktion und $\begin{eqnarray*} \frac{\partial x}{\partial z} \end{eqnarray*}$ die Matrix der partiellen Ableitungen von g (Jacobimatrix) ist.

Angenommen es gelte:

$\begin{eqnarray*} x = g(y) = L^T y + \mu \end{eqnarray*}$ mit $\begin{eqnarray*} \Sigma = L^T L \end{eqnarray*}$ und

$\begin{eqnarray*} y = g^{-1}(x) = (L^T)^{-1} (x - \mu) \end{eqnarray*}$

dann müsste doch eigentlich folgendes gelten:

$\begin{eqnarray*} \int_{a_1}^{b_1} \ldots \int_{a_{n}}^{b_{n}} \frac{1}{\sqrt{(2\pi)^{n} det(\Sigma)}} e^{-\frac{1}{2} (x - \mu)^{T}\Sigma^{-1}(x-u)} dx = \end{eqnarray*}$

$\begin{eqnarray*} \int_{a \in \mathbb{R}^{n}}^{b \in \mathbb{R}^{n}}\frac{1}{\sqrt{(2\pi)^{n} det(\Sigma)}} e^{-\frac{1}{2} (x - \mu)^{T}\Sigma^{-1}(x-u)} dx = \end{eqnarray*}$

$\begin{eqnarray*} \int_{g^{-1}(a)}^{g^{-1}(b)} \frac{1}{\sqrt{(2\pi)^{n} det(\Sigma)}} e^{-\frac{1}{2} ((L^T y + \mu) - \mu)^{T}\Sigma^{-1}((L^T y + \mu) - \mu)} det(L) dy = \end{eqnarray*}$

$\begin{eqnarray*} \int_{g^{-1}(a)}^{g^{-1}(b)} \frac{1}{\sqrt{(2\pi)^{n} det(\Sigma)}} e^{-\frac{1}{2} ((L^T y + \mu) - \mu)^{T}L^{-1}(L^{T})^{-1}((L^T y + \mu) - \mu)} \sqrt{det(L^T)det(L)} dy = \end{eqnarray*}$

$\begin{eqnarray*} \int_{g^{-1}(a)}^{g^{-1}(b)} \frac{1}{\sqrt{(2\pi)^{n} det(\Sigma)}} e^{-\frac{1}{2} (y L^T) L^{-1}(L^{T})^{-1} (L^T y)} \sqrt{det(\Sigma)} dy = \end{eqnarray*}$

$\begin{eqnarray*} \int_{g^{-1}(a)}^{g^{-1}(b)} \frac{1}{\sqrt{(2\pi)^{n} det(I)}} e^{-\frac{1}{2} y^{T} I y} \sqrt{det(\Sigma)} dy \end{eqnarray*}$

Ich habe das ganze jetzt mal mit Matlab und der Funktion mvncdf ausprobiert. Nur leider funktioniert dieses Vorgehen scheinbar nur dann, wenn $\begin{eqnarray*} \Sigma \end{eqnarray*}$ eine Diagonalmatrix ist. Kann mir jemand erklären, warum das in allgemeinen Fall nicht funktioniert? Vielleicht habe ich ja bei dem Transformationssatz eine Randbedingung übersehen oder so, aber ich weiß nicht mehr weiter.

Danke schon mal für die Hilfe.

Gruß, Andre

24.02.2009, 08:55

Auf diesen Beitrag antworten »

Es funktioniert auch im allgemeineren Fall. Das Problem ist der Integrationsbereich:

Was auch immer du mit $\begin{eqnarray*} \int_{g^{-1}(a)}^{g^{-1}(b)} \end{eqnarray*}$ im $\begin{eqnarray*} \mathbb{R}^n \end{eqnarray*}$ ausdrücken willst - durch die Hauptachsentransformation (nichts anderes ist deine Integraltransformation $\begin{eqnarray*} x\to y \end{eqnarray*}$ von der Substanz her) wird auch der das Integrationsgebiet beschreibende Quader i.a. "schief" in den Raum gestellt. Das ist das eigentliche Problem hier, nicht der Integrand.

24.02.2009, 09:12

Ritmo83

Auf diesen Beitrag antworten »

Ok, aber was heißt das jetzt für mich? Was habe ich jetzt konkret falsch gemacht? Ich hätte eigentlich gedacht, dass ich für beide Integrale beim Einsetzen konkreter Werte auch das gleiche Ergebnis erziele.

24.02.2009, 11:09

Auf diesen Beitrag antworten »

Zitat:

Original von Ritmo83
Ok, aber was heißt das jetzt für mich? Was habe ich jetzt konkret falsch gemacht?

Nochmal: Erkläre doch mal, was dein $\begin{eqnarray*} \int_{g^{-1}(a)}^{g^{-1}(b)} \end{eqnarray*}$ im $\begin{eqnarray*} \mathbb{R}^n \end{eqnarray*}$ sein soll. Ein achsenparalleler Quader, wie etwa dein Ausgangsintegral $\begin{eqnarray*} \int_{a \in \mathbb{R}^{n}}^{b \in \mathbb{R}^{n}} \end{eqnarray*}$ (auch schon eine sehr gefährliche Schreibweise!) kann es i.a. nämlich NICHT sein!

P.S.: Diese Wiederholungen ärgern mich schon - ich dachte, ich wäre deutlich genug gewesen im letzten Beitrag.

24.02.2009, 12:04

Ritmo83

Auf diesen Beitrag antworten »

z-Transformation (Standardisierung) multivariater Normalverteilungen
Tut mir leid. Ich hatte Ihren Kommentar leider nicht als Aufforderung verstanden, eine deutlichere Erklärung zu liefern. Entschuldigen Sie diesen Fehler bitte.

Nun aber.

Ich hatte ja den Transformationssatz für Integrale geliefert:

$\begin{eqnarray*} \int_{A} f(x) dx = \int_{g^{-1}(A)} f(g(x)) det(\frac{\partial x}{\partial z}) dz \end{eqnarray*}$

Im eindimensionalen Fall ist folgendes klar:

$\begin{eqnarray*} \int_{a}^{b} \mathcal{N}(\mu, \sigma_1^2) dx = \int_{\frac{a - \mu}{\sigma}}^{\frac{b - \mu}{\sigma}} \mathcal{N}(0,1) dz \end{eqnarray*}$

Ich dachte nun, dass man das auch im mehrdimensionalen Fall machen kann.

Beispiel bivariate Normalverteilung:

$\begin{eqnarray*} \mu = \begin{pmatrix}\mu_1 \\ \mu_2 \end{pmatrix}, \Sigma = \begin{pmatrix} \sigma_1^2 & c \\ c & \sigma_2^2\end{pmatrix} \end{eqnarray*}$

$\begin{eqnarray*} f(x) = \frac{1}{\sqrt{(2\pi)^{n} det(\Sigma)}} e^{-\frac{1}{2} (x - \mu)^{T}\Sigma^{-1}(x-u)} \end{eqnarray*}$

Sei nun:

$\begin{eqnarray*} g(y) = x = L^T y + \mu \end{eqnarray*}$ mit $\begin{eqnarray*} \Sigma = L^T L \end{eqnarray*}$

so, dass

$\begin{eqnarray*} g^{-1}(x) = y = (L^T)^{-1} (x - \mu) \end{eqnarray*}$

Angenommen, ich möchte jetzt das folgende (mehrdimensionale) Integral ausrechnen:

$\begin{eqnarray*} \int_{a_1}^{b_1} \int_{a_2}^{b_2} f(x) dx \end{eqnarray*}$

Sei nun weiterhin angenommen, dass mir das ausrechnen dieses Integral das Ergebnis $\begin{eqnarray*} p \in \mathbb{R} \end{eqnarray*}$ liefert.

Warum liefert dann nicht auch das folgende Integral den gleichen Wert?

$\begin{eqnarray*} \int_{g^{-1}(a_{1})}^{g^{-1}(b_1)} \int_{g^{-1}(a_2)}^{g^{-1}(b_2)} f(g(y)) det(\frac{\partial x}{\partial y}) dy = \end{eqnarray*}$

$\begin{eqnarray*} \int_{((L^T)^{-1})_1 (a_1 - \mu_1)}^{((L^T)^{-1})_1 (b_1 - \mu_1)}\int_{((L^T)^{-1})_2 (a_2 - \mu_2)}^{((L^T)^{-1})_2 (a_2 - \mu_2)} \frac{1}{\sqrt{(2\pi)^{n} det(I)}} e^{-\frac{1}{2} y^{T} I y} dy \end{eqnarray*}$

wobei ich mit $\begin{eqnarray*} ((L^T)^{-1})_i \end{eqnarray*}$ , die i-te Zeile der Matrix $\begin{eqnarray*} (L^T)^{-1} \end{eqnarray*}$ meine. Eigentlich habe ich ja nichts anderes gemacht, als den Transformationssatz für Integrale angewendet (hoffe ich zumindest).

Danke schon mal für die Hilfe. Ich hoffe, dass diese Beschreibung nun weiterhilft.

Viele Grüße,

André

24.02.2009, 12:13

Auf diesen Beitrag antworten »

Du willst mich ärgern, oder?

Ein allerletztes Mal: Was passiert, wenn du im $\begin{eqnarray*} \mathbb{R}^2 \end{eqnarray*}$ ein achsenparalleles Rechteck

$\begin{eqnarray*} [a_1,b_1] \times [a_2,b_2] = \Big\{ (x_1,x_2) \Bigm| a_1\leq x_1\leq b_1,\; a_2\leq x_2\leq b_2 \Big\} \end{eqnarray*}$

DREHST, sagen wir etwa um $\begin{eqnarray*} 45^{\circ} \end{eqnarray*}$ . Ist das gedrehte Rechteck dann immer noch achsenparallel ode nicht??? Deiner Auffassung offensichtlich ja, meiner Auffassung nach nicht. Und solange das so ist, hat es keinen Zweck, dass wir uns weiter unterhalten.

24.02.2009, 13:22

Ritmo83

Auf diesen Beitrag antworten »

Tut mir leid, dass ich es nicht verstehe. Leider bin ich kein Mathematiker. Daher kann ich mit der Beschreibung nichts anfangen. Ich habe keine Ahnung, was es heißt, ein Rechteck durch Variablentransformation zu drehen.

Sehe ich es außerdem nicht richtig, dass ich nicht nur das Rechteck drehe, sondern auch die Achsen, weil ich ja die Funktion auch anpasse?

Eigentlich wollte ich nur wissen, warum ich den Transformationssatz nicht anwenden kann. Dieser Satz sagt, dass die Integrale auf beiden Seiten gleich sind. Daher bin ich davon ausgegangen, dass ich diesen Satz auch auf die Normalverteilung anwenden kann. Das habe ich im Beispiel auch getan. Also sollte bei beiden Berechnungen auch das gleiche herauskommen. Das ist aber nicht der Fall. Also muss ich einen Fehler gemacht haben. Ich weiß aber nicht wo dieser Fehler, analytisch gesehen, liegt. Da hilft mir auch keine intuitive Beschreibung. Um zu verstehen, warum das nicht funktioniert, dachte ich, dass ich mir eine analytische Beweisskizze oder Quelle dazu helfen könnte.

Mit Ihrer intuitiven Beschreibung kann ich leider nichts anfangen. Natürlich mag es sein, dass die Achsen gedreht sind (was auch immer das heißen mag). Daraus kann ich aber noch nicht ableiten, warum der Transformationssatz nicht stimmt.

Vielleicht kann mir ja jemand weiterhelfen.

24.02.2009, 13:37

Auf diesen Beitrag antworten »

Es ist ein Elend mit dir, das hat auch nichts mit "Nicht-Mathematiker" zu tun. Das Problem ist, dass du einfach nicht zuhörst.

Der Transformationssatz stimmt, nur ignorierst du beharrlich die Tatsache, dass du auch das Integrationsgebiet mittransfomieren musst. Und das machst du eben nicht richtig: Du transfomierst nur zwei der insgesamt $\begin{eqnarray*} 2^n \end{eqnarray*}$ Eckpunkte des achsenparallelen Integrationsgebiets-Quaders, nämlich $\begin{eqnarray*} a \end{eqnarray*}$ und $\begin{eqnarray*} b \end{eqnarray*}$ , und nimmst dann völlig unbegründet und auch falscherweise an, dass das transformierte Gebiet wieder ein solcher achsenparalleler Quader ist. Ich erzähle das jetzt zum vierten Mal, wahrscheinlich wieder umsonst. Finger1

Man kann eben nicht alles, was im $\begin{eqnarray*} \mathbb{R}^1 \end{eqnarray*}$ noch so schön klappt, einfach ohne Nachzudenken für den $\begin{eqnarray*} \mathbb{R}^n \end{eqnarray*}$ übernehmen!!!

24.02.2009, 13:46

Ritmo83

Auf diesen Beitrag antworten »

z-Transformation (Standardisierung) multivariater Normalverteilungen
Ich glaube Ihnen ja, dass Sie Recht haben.

Das Problem ist jedoch, dass mir eine intuitive bzw. umgangssprachliche Begründung, wie Sie sie mir gegeben haben nicht weiterhilft. Ich brauche eine analytische Begründung: Formeln, Schlussfolgerungen und zuguterletzt wahrscheinlich einen Widerspruch. Es muss ja auch kein vollständiger Beweis sein. Es reicht mir eine Quelle, in der das gezeigt wird, oder auch eine Beweisskizze.

24.02.2009, 13:49

Auf diesen Beitrag antworten »

Die analytische Begründung hast du selbst geliefert:

Zitat:

Original von Ritmo83
Ich habe nun den Transformationssatz für Integrale gefunden, der folgendes aussagt:

$\begin{eqnarray*} \int_{A} f(x) dx = \int_{g^{-1}(A)} f(g(x)) det(\frac{\partial x}{\partial z}) dz \end{eqnarray*}$

Rechne doch mal das transformierte Gebiet $\begin{eqnarray*} g^{-1}(A) \end{eqnarray*}$ in deinem Fall konkret aus, d.h. für ein achsenparalleles Rechteck $\begin{eqnarray*} A \end{eqnarray*}$ und deine Funktion $\begin{eqnarray*} g^{-1}(x) = y = (L^T)^{-1} (x - \mu) \end{eqnarray*}$ . Wenn L nicht gerade eine Diagonalmatrix ist, dann liegt $\begin{eqnarray*} g^{-1}(A) \end{eqnarray*}$ "schief" im Koordinatensystem.

P.S.: Siezen ist völlig unüblich im Board, und stimmt mich auch kein bisschen milde.

24.02.2009, 14:48

Ritmo83

Auf diesen Beitrag antworten »

z-Transformation (Standardisierung) multivariater Normalverteilungen
Entschuldigung. Ich habe es mir so angewöhnt, zunächst immer das "Sie" zu verwenden.

Ich bedanke mich auf jeden Fall für die Unterstützung. Ich habe das Problem jetzt erkannt. Ich gebe zu, dass es vielleicht etwas länger gedauert hat, aber immerhin bin ich jetzt etwas reicher an Wissen.

Also, danke noch mal und einen schönen Tag noch.

03.08.2009, 11:03

man

Auf diesen Beitrag antworten »

Hallo,

Gibt es dann trotzdem eine Möglichkeit das transformierte Integral zu berechnen, wenn es schief im Raum liegt?
Danke.

03.08.2009, 11:09

man

Auf diesen Beitrag antworten »

Ich meine ohne Simulation des usprüglichen, untransformierten Fall wie es meiner Meinung nach in mvnorm gemacht wird.

Neue Frage »

Antworten »

z-Transformation (Standardisierung) multivariater Normalverteilungen

Verwandte Themen