Abschätzung vom Fehler einer empirischen Verteilungsfunktion

04.01.2012, 18:55

lari86

Abschätzung vom Fehler einer empirischen Verteilungsfunktion

Hallo!
ich muss folgende Abschätzung für den u.i.v.-Fall zeigen:
$\begin{eqnarray*} P\left(|F_{e}\left(x\right) - F\left(x\right) | > \gamma \right) \leq \frac{1}{4*N*\gamma ^{2} } \end{eqnarray*}$

Fe soll dabei die empirische und F die theoretische Verteilungsfunktion sein. Außerdem N der Stichprobenumfang und Gamma der Fehler. Ich habe schon mit der Markov-Ungleichung ( $\begin{eqnarray*} P(X \geq t) \leq \frac{1}{t}E(X) \end{eqnarray*}$ ) angefangen und dann komme ich auf
$\begin{eqnarray*} P\left(|F_{e}\left(x\right) - F\left(x\right) | \geq \gamma \right) \leq \frac{E(F_{e}\left(x\right) - F\left(x\right))}{\gamma } \end{eqnarray*}$
bzw.
$\begin{eqnarray*} P\left(|F_{e}\left(x\right) - F\left(x\right) | \geq \gamma \right) \leq \frac{E(F_{e}\left(x\right)) - E(F\left(x\right))}{\gamma } \end{eqnarray*}$

Und ist nicht der Erwartungswert der empirischen Verteilungsfunktion das arithmetische Mittel? Dann hätte man da das 1/N her, aber wie es dann weitergeht weiß ich einfach nicht...

viele Grüße! Wink

05.01.2012, 10:20

Zündholz

Auf diesen Beitrag antworten »

RE: Abschätzung vom Fehler einer empirischen Verteilungsfunktion
Hallo,

Zitat:

Original von lari86
Und ist nicht der Erwartungswert der empirischen Verteilungsfunktion das arithmetische Mittel?

Das ist nicht der Fall. Versuch das doch zunächst mal auszurechnen. Also

$\begin{eqnarray*} E[F_e(x)] = ... \end{eqnarray*}$

Dabei gehe ich von dieser Definition aus. Falls dies nicht der Fall sein sollte, dann wäre es hilfreich wenn du mir deine Definition schreibst.

Schöne Grüße

05.01.2012, 11:19

Lari86

Auf diesen Beitrag antworten »

Hallo!
Also wir haben folgende Definition:
$\begin{eqnarray*} F_{e}(x) = \frac{1}{N} * \sum\limits_{n=1}^N 1(X_{n} \leq x) \end{eqnarray*}$

also müsste der Erwartungswert
$\begin{eqnarray*} F_{e}(x) = \frac{1}{N} * \sum\limits_{n=1}^N X_{n} * 1(X_{n} \leq x) \end{eqnarray*}$
sein.

Aber wie ich da weiterrechnen kann, weiß ich jetzt nicht...

Wobei doch auch gilt
E(F_{e}(x) = F(x)

Dann wäre es
$\begin{eqnarray*} P\left(|F_{e}\left(x\right) - F\left(x\right) | \geq \gamma \right) \leq \frac{F\left(x\right)) - E(F\left(x\right))}{\gamma } \end{eqnarray*}$

Viele Grüße Wink

05.01.2012, 12:02

Zündholz

Auf diesen Beitrag antworten »

Hallo,

Zitat:

Original von Lari86
also müsste der Erwartungswert
$\begin{eqnarray*} F_{e}(x) = \frac{1}{N} * \sum\limits_{n=1}^N X_{n} * 1(X_{n} \leq x) \end{eqnarray*}$
sein.

Das stimmt so nicht. Vielmehr ist:

$\begin{eqnarray*} E[F_{e}(x)] = \frac{1}{N} * \sum\limits_{n=1}^N E[1(X_{n} \leq x)] = P(X \le x) \end{eqnarray*}$

was dann genau

Zitat:

Wobei doch auch gilt
$\begin{eqnarray*} E[F_{e}(x)] = F(x) \end{eqnarray*}$

dem entspricht. Wenn du dir dann nochmal deine Aufgabe anschaust und für F(x) das obige einsetzt, welche (andere) "berühmte" Ungleichung kann einem da in den Sinn kommen, die eine Abschätzung für die Wahrscheinliche Abweichung vom Erwartungswert gibt?

05.01.2012, 12:54

Lari86

Auf diesen Beitrag antworten »

Hallo,
dann möchtest du vermutlich auf die Tschebyscheff-Ungleichung hinaus.
Wikipedia:

http://upload.wikimedia.org/wikipedia/de/math/2/c/7/2c7addb4c71e715a02f2b904d999c0fe.png

Also dann wäre X die empirische Verteilungsfunktion und müh die theoretische Verteilungsfunktion, welche der Erwartungswert der Empirischen ist. Also müsste jetzt noch die Varianz bestimmt werden.
Auf das gleiche kommt man dann auch über die Markoffungleichung, wenn man
$\begin{eqnarray*} P\left(|F_{e}\left(x\right) - F\left(x\right) | \geq \gamma \right) \leq \frac{E(F_{e}\left(x\right) - F\left(x\right))}{\gamma } \end{eqnarray*}$
hier die rechte Seite quadriert, oder? Da bin ich ein wenig verwirrt, weil nicht der Erwartungswert quadriert wird, sondern die Klammer quasi im Erwartungswert.

Also bleibt die Varianz ... Auf Wikipedia gibt es ein Beispiel http://de.wikipedia.org/wiki/Tschebysche...hung#Beispiel_3
wo das Ergebnis rauskommt. Aber muss man wirklich mit der Binomialverteilung anfangen?

Kannst du mir nochmal erklären warum dies so gilt?
$\begin{eqnarray*} E[F_{e}(x)] = \frac{1}{N} * \sum\limits_{n=1}^N E[1(X_{n} \leq x)] = P(X \le x) \end{eqnarray*}$

Viele Grüße Wink

05.01.2012, 14:03

Zündholz

Auf diesen Beitrag antworten »

Also prinzipiell folgt Tschebytscheff aus der Markov ungleichung (siehe hier). Allerdings finde ich es besser von ersterer zu reden, wenn man die auch meint.

Zitat:

Kannst du mir nochmal erklären warum dies so gilt?
$\begin{eqnarray*} E[F_{e}(x)] = \frac{1}{N} * \sum\limits_{n=1}^N E[1(X_{n} \leq x)] = P(X \le x) \end{eqnarray*}$

Die erste gleichheit ist einfach die linearität des Erwartungswertes. Die letzte Gleichheit besteht aus zwei Teilen, zum einen ist aufgrund der u.i.v Eigenschaft es egal welches X_n man nimmt. Deshalb nimmt man also einfach X, mit sagen wir X = X_1.
Es bleibt noch:
$\begin{eqnarray*} E[1(X\leq x)] = P(X \le x) \end{eqnarray*}$
Das gilt aufgrund der Definition des Erwartungswertes:
$\begin{eqnarray*} E[1(X\leq x)] = \int 1(X\leq x) ~dP = P(X \le x) \end{eqnarray*}$ .

Dabei sollte ich mal sagen/fragen ob wir bei 1(X < x) von der Indikatorfunktion auf der Menge {X<x} reden?

Die Varianz rechnest du nun wie den Erwartungswert aus (allerdings mit den entsprechenden Rechenregeln für die Varianz - diese ist ja nicht linear).

05.01.2012, 14:28

Lari86

Auf diesen Beitrag antworten »

Hallo,

Zitat:

Original von Zündholz
Dabei sollte ich mal sagen/fragen ob wir bei 1(X < x) von der Indikatorfunktion auf der Menge {X<x} reden?

ich denke schon...

05.01.2012, 14:35

Zündholz

Auf diesen Beitrag antworten »

Alles klar,
wießt du wie du bei der Varianz jetzt vorgehen sollst? Falls da Probleme sind frag einfach nach Augenzwinkern

05.01.2012, 15:59

Lari86

Auf diesen Beitrag antworten »

also wie man jetzt aus dem was wir bisher besprochen haben die Varianz berechnet, weiß ganz ehrlich gesagt nicht.

Wie berechne ich nun die Varianz, frage ich mich da Augenzwinkern

Dafür würde ich sagen, dass ich eine Verteilungsfunktion brauche, damit ich da etwas berechnen kann. Laut Wikipedia scheint es dann so der Fall zu sein, dass ich annehmen muss, dass die EVF binomialverteilt ist (nur warum?). Damit soll dann die Varianz für das Auftreten (p*(1-p))/N sein (verstehe ich leider auch wieder nicht...).

Der Rest ist dann wieder klar. Dies kann ich in die Ungleichung von Tschebytscheff einsetzen und mit Ableiten etc. komme ich auf das Maximum von 1/4 und damit auf die zu zeigende Ungleichung.

Vielen Dank schonmal bis hierher smile

05.01.2012, 16:18

Zündholz

Auf diesen Beitrag antworten »

Also der letzte Schritt ist richtig Freude

Allerdings brauchst du dazu keine Binomialverteilung...
Also ich fange jetzt mal an und du hörst auf:
$\begin{eqnarray*} V[F_e(x)] = V(\frac{1}{N} \sum_{i= 1}^N 1(X_i \le x)) =\frac{1}{N^2} \sum_{i= 1}^N V(1(X_i \le x)) = \frac{1}{N} V(1(X \le x)) \end{eqnarray*}$

So und jetzt musst du einfach nur die Definition der Varianz (über Erwartungswert) einsezten. Und dann steht eigentlich da was du haben willst.
Zur Vereinfachung kannst du ganz am Ende deiner rechnung p := F(x) setzen.

05.01.2012, 17:36

Lari86

Auf diesen Beitrag antworten »

Zitat:

Original von Zündholz
So und jetzt musst du einfach nur die Definition der Varianz (über Erwartungswert) einsezten.

Meinst du über den Verschiebungssatz?

Dann bleibe ich bei
$\begin{eqnarray*} 1/N * \left(E\left[1(X\leq x)^2\right] - F(X)^2\right) \end{eqnarray*}$
hängen...

05.01.2012, 18:00

Zündholz

Auf diesen Beitrag antworten »

Zitat:

Dann bleibe ich bei
$\begin{eqnarray*} 1/N * \left(E\left[1(X\leq x)^2\right] - F(X)^2\right) \end{eqnarray*}$
hängen...

Das schaut schonmal gut aus.
So, was ist nun $\begin{eqnarray*} 1(X\leq x)^2 \end{eqnarray*}$ ? Wie ist denn die Indikatorfunktion definiert? Was ergibt sich damit fürs quadrat?

Edit: Oben sollte es ein kleines x sein, also F(x)^2 stat F(X)^2.

05.01.2012, 19:20

Lari86

Auf diesen Beitrag antworten »

Zitat:

Original von Zündholz

Zitat:

Dann bleibe ich bei
$\begin{eqnarray*} 1/N * \left(E\left[1(X\leq x)^2\right] - F(X)^2\right) \end{eqnarray*}$
hängen...

ja klar, dann ist das Quadrat egal, weil eh nur 0 oder 1 raus kommt.

also:
$\begin{eqnarray*} 1/N * \left(F(x) - F(x)^2\right) \end{eqnarray*}$

05.01.2012, 20:57

Zündholz

Auf diesen Beitrag antworten »

Richtig.
So und nun kannst du: