Bernoulli Verteilung als exp-Familie

23.06.2009, 19:34

Martina_Gast

Bernoulli Verteilung als exp-Familie

Hallo zusammen.
Ich muss GBE-Schätzer für Bernoulli aufstellen. Ich weiß, dass es (1/n)sum[xi] ist. Das Problem dabei ist, ich kann diese Statistik nicht als Exp-Familie darstellen um die Eigenschaften der GBE nachzuweisen: erwartungstreu bekomme ich, aber suffizient und besonders vollständig eben nicht. Meine Frage kann man überhaupt Bernoulli als Exp-Familie darstellen (ich vermute Rechenfehler meinerseits) und wenn nicht, wie werden Suffizienz und Vollständigkeit dieser Statistik mit Verteilungsannahme Bernoulli nachgewiesen?
Ihr seid meine letzte Chance das herauszufinden.
Vielen Dank im voraus!
Gruß
Martina

26.06.2009, 10:30

Martina_Gast

Auf diesen Beitrag antworten »

RE: Bernoulli Verteilung als exp-Familie
Keiner hat sich gemeldet bei meiner Aufgabenstellung traurig

Ich weiß dass es vielleicht für die meisten von euch super leicht ist und travial...
Deswegen habe ich mir gedacht, dass ich nochmehr schreiben sollte.

Was ich bis jetzt gemacht habe:

Verteilungsannahme ist Bernoulli: $\begin{eqnarray*} B=p^{x} \cdot (1-p)^{1-x} \end{eqnarray*}$
suffiziente, vollständige und erwartungstreue Statistik zur Stichproberealisation mit parametrische Verteilungsannahme Bernoulli ist (das wissen wir über die Bücher, bloß genau für Bernoulli steht bei mir kein Ansatz):
T(X)= $\begin{eqnarray*} \frac{1}{n} \sum_{i=1}^{n} x_{i} \end{eqnarray*}$
1. Erwartingstreu: Erwartungswert der Statistik = Erwartungswert der Verteilungsannahme, HIER:
EW von B =p
E( $\begin{eqnarray*} \frac{1}{n} \sum_{i=1}^{n} x_{i} \end{eqnarray*}$ = $\begin{eqnarray*} \frac{1}{n} E( \sum_{i=1}^{n} x_{i}) \end{eqnarray*}$ weil $\begin{eqnarray*} X_{i} \end{eqnarray*}$ identisch verteilt und unabhängig ist $\begin{eqnarray*} \frac{1}{n} \sum_{i=1}^{n} E[x_{i}] = \frac{1}{n} \cdot n \cdot p = p \end{eqnarray*}$ ALSO erwartungstreu!
2. Suffizient:
ob die relevante Information bzgl. Parameter der Verteilung enthalten ist. Mein Ansatz: Faktorisierungstheorem von Neyman: $\begin{eqnarray*} P_{p}(X=x) = g(T(x), p) \cdot h(x) \end{eqnarray*}$
*nur Bernoulli betrachten:
$\begin{eqnarray*} B= p^{x} \cdot (1-p)^{1-x} = e^{x lnp} \cdot e^{(1-x) \cdot ln (1-p)} = e^{ln (1-p)} \cdot e^{x(lnp-ln(1-p)} \end{eqnarray*}$ was ergänzt mit h(x)=1 genau unsere Anforderung entspricht, ABER IST IMMER NOCH ABHÄNGIG VON p! und die Statistik T(X)= $\begin{eqnarray*} \frac{1}{n} \sum_{i=1}^{n} x_{i} \end{eqnarray*}$ fehlt noch!
2.te Variante: über Exponentialfamilie: a(p).h(x).e^[b(p).r(x)], wobei hier erzielt wird bei r(x) die suffiziente Statistik bzgl. p zu finden und durch b(p) die Vollsttändigkeit nachgewiesen wird, indem b(p) ein offenes Intervall aufweist.
$\begin{eqnarray*} \prod_{x=1}^{n} p^{x} \cdot (1-p)^{1-x} \end{eqnarray*}$
Dann:
$\begin{eqnarray*} p^{\sum_{i=1}^{n} x_{i}}\cdot \frac{(1-p)^n} {(1-p)^{\sum_{i=1}^{n} x_{i}}} \end{eqnarray*}$ = $\begin{eqnarray*} p^{\sum_{i=1}^{n} x_{i}}\cdot (1-p)^{n-\sum_{i=1}^{n} x_{i}} \end{eqnarray*}$ =

= $\begin{eqnarray*} e^{\sum_{i=1}^{n} x_{i} \cdot lnp}\cdot e^{n-\sum_{i=1}^{n} x_{i} \cdot ln(1-p)} \end{eqnarray*}$ =

= $\begin{eqnarray*} e^{n \cdot ln(1-p)}\cdot e^{\sum_{i=1}^{n} x_{i} \cdot (lnp-ln(1-p)} \end{eqnarray*}$

Somit:
a(p)= $\begin{eqnarray*} e^{n \cdot ln(1-p)} \end{eqnarray*}$

h(x)=1
b(p)= lnp-ln(1-p)

r= $\begin{eqnarray*} \sum_{i=1}^{n} x_{i} \end{eqnarray*}$ ==n.p, hiet hilft nur zu erklären, dass weil wir eben sowas für r bekommen, müssten wir umformen, damit es für p passt und SOMIT durch n dividieren! IST DAS RICHTIG???

Hier also fehlt die bekannte Statistik T(X) wieder bei r(x) und noch fehlt die Vollständigkeit!
Deswegen bitte ich Sie um Hilfe, wo mein Fehler liegt, weil ich nächste Woche genau das mündlich erklären sollte und... eben ich kann es nicht unglücklich

Danke!

26.06.2009, 10:38

Auf diesen Beitrag antworten »

Zitat:

Original von Martina_Gast
Keiner hat sich gemeldet bei meiner Aufgabenstellung

Das liegt möglicherweise auch daran, dass du solche Begriffe wie GBE nicht unerläutert verwenden solltest - zumindest war das bei mir der Grund, warum ich den Thread sofort ad acta gelegt habe ("lass doch die ran, die ihn kennen"). Scheint jedoch keine Abkürzung mit breitem Bekanntheitsgrad zu sein, selbst innerhalb der Stochastik nicht.

26.06.2009, 10:50

Martina_Gast

Auf diesen Beitrag antworten »

ja, da hast du völlig recht... Ich habe nicht so richtig nachgedacht, weil ich eigentlich mit Stochastik nichts zu tun habe. Dieser Forum wurde mir von Bekannten empfohlen. Es handelt sich hierbei um Induktive Statistik, und zwar Grundlagen davon. GBE-Schätzer ist im Sinne von: Gleichmäßig Beste Erwartungstreue Schätzfunktion bezüglich Parametrische Verteilungsannahme, im Fall Bernoulli, zu gegebener Stichprobenrealisation.
Wenn ich hier nicht ganz richtig sein sollte, wüsstest du vielleicht einene anderen Forum, wo ich weitergeholfen werde?
Grüße
Martina

26.06.2009, 11:59

Auf diesen Beitrag antworten »

Vielleicht beschäftige ich mich heute abend mal damit, versprechen kann ich noch nichts.

Aber schau ruhig mal in anderen Foren - vergiss nur bitte nicht hier mitzuteilen, falls die Frage andernorts geklärt ist.

27.06.2009, 10:01

Martina_Gast

Auf diesen Beitrag antworten »

RE: Bernoulli Verteilung als exp-Familie
Ich muss ehrlich sein und sagen, dass es ein langer Thread wird.
Logische Antworten konnte ich leider nicht mehr finden, meine Erklärungen ergaben sich durch Nachlesen und diskutieren mit Kollegen von mir. Wenn man folgendes liest und es verstanden hat, dann habe ich es auch richtig im Kopf smile

Zitat:

Original von Martina_Gast
Verteilungsannahme ist Bernoulli: $\begin{eqnarray*} B=p^{x} \cdot (1-p)^{1-x} \end{eqnarray*}$
Stichprobenergebnis mit Umfang n
Parameterpunktschäztung für p ist verlangt.

Vorgehen: Schätzfunktion aufstellen und diese bitte GBE angeben (also gleichmäßigbeste Erwartungstreue Schätzfunktion) Diese hat dann die Eigenschaften:
suffiziente, vollständige und erwartungstreue Statistik zur Stichproberealisation mit parametrische Verteilungsannahme, im Fall Bernoulli, und lautet hier:

Zitat:

T(X)= $\begin{eqnarray*} \frac{1}{n} \sum_{i=1}^{n} x_{i} \end{eqnarray*}$
1. Erwartingstreu: Erwartungswert der Statistik = Erwartungswert der Verteilungsannahme, HIER:
EW von B =p
E( $\begin{eqnarray*} \frac{1}{n} \sum_{i=1}^{n} x_{i} \end{eqnarray*}$ = $\begin{eqnarray*} \frac{1}{n} E( \sum_{i=1}^{n} x_{i}) \end{eqnarray*}$ weil $\begin{eqnarray*} X_{i} \end{eqnarray*}$ identisch verteilt und unabhängig ist $\begin{eqnarray*} \frac{1}{n} \sum_{i=1}^{n} E[x_{i}] = \frac{1}{n} \cdot n \cdot p = p \end{eqnarray*}$ ALSO erwartungstreu!

Soweit, sogut...

Zitat:

2. Suffizient:
ob die relevante Information bzgl. Parameter der Verteilung enthalten ist. Mein Ansatz: Faktorisierungstheorem von Neyman: $\begin{eqnarray*} P_{p}(X=x) = g(T(x), p) \cdot h(x) \end{eqnarray*}$
*nur Bernoulli betrachten:
$\begin{eqnarray*} B= p^{x} \cdot (1-p)^{1-x} = e^{x lnp} \cdot e^{(1-x) \cdot ln (1-p)} = e^{ln (1-p)} \cdot e^{x(lnp-ln(1-p)} \end{eqnarray*}$ was ergänzt mit h(x)=1 genau unsere Anforderung entspricht, ABER IST IMMER NOCH ABHÄNGIG VON p! und die Statistik T(X)= $\begin{eqnarray*} \frac{1}{n} \sum_{i=1}^{n} x_{i} \end{eqnarray*}$ fehlt noch!

SICHER ist es abhängig von p! Hier ist mein Fehler, wir erzielen das h(x) frei von p zu halten, in dem Fall und in anderen weiteren, z.B. Poisson, das wäre h(x)==1, oder einfach Indikatorfunktion. Hier heißt es in menschlichen Worten: schau mal was noch für Müll da ist! Selbstverständlich werde ich das nicht so erklären smile

Es geht darum, den Einsatz dür den Parameter und die Stichprobenergebnissen herauszufinden, wie werden die rein mathematisch verknüpft, das entspricht genau unsere g(T(x),p) und h(x) ist einfach die Frage kommt noch etwas dazu, was übrig ist und wie wird das gesteuert, bzw. welche Wirkung hat es?

Zitat:

2.te Variante: über Exponentialfamilie: $\begin{eqnarray*} a(p) \cdot h(x) \cdot e^{b(p).r(x)} \end{eqnarray*}$ , wobei hier erzielt wird bei r(x) die suffiziente Statistik bzgl. p zu finden und durch b(p) die Vollständigkeit nachgewiesen wird, indem b(p) ein offenes Intervall aufweist.
Man bildet das Produkt, eben weil wir n-mal unsere ZV unabhängig laufen lassen sollten. Insoweit ist das richtig.
$\begin{eqnarray*} \prod_{x=1}^{n} p^{x} \cdot (1-p)^{1-x} \end{eqnarray*}$
Dann:
$\begin{eqnarray*} p^{\sum_{i=1}^{n} x_{i}}\cdot \frac{(1-p)^n} {(1-p)^{\sum_{i=1}^{n} x_{i}}} \end{eqnarray*}$ = $\begin{eqnarray*} p^{\sum_{i=1}^{n} x_{i}}\cdot (1-p)^{n-\sum_{i=1}^{n} x_{i}} \end{eqnarray*}$ =

= $\begin{eqnarray*} e^{\sum_{i=1}^{n} x_{i} \cdot lnp}\cdot e^{n-\sum_{i=1}^{n} x_{i} \cdot ln(1-p)} \end{eqnarray*}$ =

= $\begin{eqnarray*} e^{n \cdot ln(1-p)}\cdot e^{\sum_{i=1}^{n} x_{i} \cdot (lnp-ln(1-p)} \end{eqnarray*}$

Somit:
a(p)= $\begin{eqnarray*} e^{n \cdot ln(1-p)} \end{eqnarray*}$

h(x)=1
b(p)= lnp-ln(1-p)

HIER haben wir gesagt, dass wir die Vollständigkeit, ACHTUNG: bezüglich Parameterraum $\begin{eqnarray*} \Gamma \end{eqnarray*}$ , nachprüfen. Ziel dabei ist es den Parameterraum zu reduzieren, aber nicht exakt auf einen Wert zu halten. Vollständigkeit dient dazu, die Erwartungswerte von zwei Entscheidungen zur Auswertung der Statistik T(X) zu vergleichen, in dem Sinne: bei verschiedenen Schätzfunktionen Delta, wird der Definitionsbereich für den Parameter immer erfüllt. Und das gilt, wenn diese Schätzfunktionen mit Differenz Null sind. Oder die Variationsmöglichkeiten für eine andere Verwendung des ausgewerteten Stichprobenergebnisses T(x) insoweit beschränkt werden, als durch die Erwartungswerte der Schätzfunktionen fast sicher die Schätzfunktionen festgelegt sind.
Daraus: b(p)= lnp - ln(1-p)= $\begin{eqnarray*} ln \frac{p}{1-p} \end{eqnarray*}$ hat DB: p gehört in (0,1), aus Bernoulli wissen wir p=[0,1], also hier verbieten wir Werte Null und 1 für p.

Zitat:

r= $\begin{eqnarray*} \sum_{i=1}^{n} x_{i} \end{eqnarray*}$ ==n.p,IST DAS RICHTIG???

JA, das ist es! Wir haben am Anfang gesagt, das wir die Stichprobenrealisation aus dem n-fachen Durchlaufen der Bernoulli-verteilten ZV bewerten, am Ende ergibt sich nur das Durchzählen von 1-Werte des Experiments. Deswegen für Schätzung des Parameters p, sollten wir durch n dividieren, daraus ergibt sich die vollständige, suffiziente, erwartungstreue bzw. sinnvolle Statisitk(Stichprobefunktion) T(X)= $\begin{eqnarray*} \frac{1}{n} \sum_{i=1}^{n} x_{i} \end{eqnarray*}$
Hiermit ist das Thema erschöpft, glaube ich. Ich werde mich jedoch freuen, wenn jemand noch etwas zu sagen hätte, weil ich immerhin nicht 100%-ig sicher bin smile

Und an dich Arthur Dent, VIELEN DANK dass du gelesen, beantwortet und hilfreich warst!
Grüße
Martina

27.06.2009, 12:12

Auf diesen Beitrag antworten »

RE: Bernoulli Verteilung als exp-Familie
Bei aller Ausführlichkeit (vielleicht ist es gerade das) verstehe ich nicht ganz, worauf es dir wirklich drauf ankommt. Ich gehe daher auf dein Ausgangsposting zurück, und versuche es mal kurz auf den Punkt zu bringen, so wie ich es sehe.

Es geht um ein Bernoulli-Experiment mit $\begin{eqnarray*} n \end{eqnarray*}$ Versuchen und Erfolgswahrscheinlichkeit $\begin{eqnarray*} p \end{eqnarray*}$ . Stichproben sind dann $\begin{eqnarray*} x=(x_1,\ldots,x_n) \end{eqnarray*}$ mit $\begin{eqnarray*} x_k\in\{0,1\} \end{eqnarray*}$ mit Wahrscheinlichkeit

$\begin{eqnarray*} P_p(x) = P_p((x_1,\ldots,x_n)) = \prod\limits_{k=1}^n p^{x_k}\cdot (1-p)^{1-x_k} = p^{\sum\limits_{k=1}^n x_k}\cdot (1-p)^{n-\sum\limits_{k=1}^n x_k} \end{eqnarray*}$

Mit $\begin{eqnarray*} T(x) = \frac{1}{n} \sum_{k=1}^n x_k \end{eqnarray*}$ lässt sich das schreiben als

$\begin{eqnarray*} P_p(x) = p^{nT(x)}\cdot (1-p)^{n-nT(x)} \end{eqnarray*}$ .

Und das ist dann offenbar schon die Darstellung $\begin{eqnarray*} P_p(X=x) = g(T(x),p) \cdot h(x) \end{eqnarray*}$ und zwar mit $\begin{eqnarray*} g(z,p) = p^{nz}\cdot (1-p)^{n-nz} \end{eqnarray*}$ und $\begin{eqnarray*} h(x)=1 \end{eqnarray*}$ .

Ok, die Neyman-Darstellung wird durch das gewählte $\begin{eqnarray*} T(x) \end{eqnarray*}$ also erfüllt. Mit der Exponentialfamilie willst du aber noch etwas mehr, nämlich das es eine Darstellung $\begin{eqnarray*} g(z,p) = a(p)\cdot \exp(b(p)z) \end{eqnarray*}$ gibt. Tja, und die gibt es offenbar wegen

$\begin{eqnarray*} g(z,p) = p^{nz}\cdot (1-p)^{n-nz} = (1-p)^n \cdot \exp\left( n(\ln(p)-\ln(1-p))z \right) \end{eqnarray*}$ ,

und zwar $\begin{eqnarray*} a(p)=(1-p)^n \end{eqnarray*}$ und $\begin{eqnarray*} b(p)=n(\ln(p)-\ln(1-p)) \end{eqnarray*}$ .

Steht alles irgendwie schon bei dir da, deswegen verstehe ich nicht so richtig, wo noch der Schuh drückt? verwirrt

Was ich als etwas unglücklich empfinde, ist deine Verwendung des Symbols $\begin{eqnarray*} x \end{eqnarray*}$ für $\begin{eqnarray*} \sum_{k=1}^n x_k \end{eqnarray*}$ , vielleicht rührt daher ein Teil der Verwirrung.

28.06.2009, 09:12

Martina_Gast

Auf diesen Beitrag antworten »

RE: Bernoulli Verteilung als exp-Familie
Ds Problem war, dass ich nicht erklären konnte, warum genau $\begin{eqnarray*} T(x)= \frac {1}{n} \cdot \sum_{k=0}^{n} x_{k} \end{eqnarray*}$ der gleichmäßigbeste erwartungstreue (GBE-)Schätzfunktion ist. Mein Recht zu behaupten, dass genau das der GBE-Schätzer ist soll mit Argumentation folgen- Eigenschaften der GBE-Schätzfunktion sind:
1. Suffizient: durch Neymann oder Exp-Familie
besagt wie mein Parameter und die Statistik zusammenhängen und ob noch etwas da ist, was ich prüfen sollte ob es relevant ist.
2. Vollständigkeit: durch EW-Betrachtung oder Exp-Familie
zeigt meine Erfüllbarkeit auf Parameterraum Gamma
3. Erwartungstreu:
vergleichen Anwendung der Statistik und Verteilungsannahme, daher Z.B. kommt dass die Schätzung der Varianz der Normalverteilung bei unbekannten mü (EW), durch die korrigierte Stichprobenvarianz sein sollte, weil eben die "normale"Stichprobenvarianz nicht erwartungstreu ist.

Und zwar in dem Fall müsste ich für alles eine Erklärung haben, woher es kommt mit genauer Angabe des theoretischen Einsatzes. Wie du gesehen hast bei Neymann als Beispiel habe ich die Theorie total falsch verstanden. Und zwar bei Neymann muss ich dann weiter die Erwartungswerte der Schätzfunktion mit minimum 2 Annahmen vergleichen, damit ich weiter auf die Eigenschaft der Vollständigkeit habe. Und bei der exp-Familie-Darstellung habe ich Vollständigkeit und Suffizienz und noch die Statistik gewonnen. Dabei war wieder das Problem: die Darstellung hatte nur die Summe in sich => falsche Interpretation, warum bilde ich dann Produkt, wenn ich das danach nicht korrigiere. Bei der Vollständigkeit auch Problem: wir reduziere ich mein Parameterraum? Es war halt traurig, dass ich das nicht erklären konnte mit der leichtesten Verteilung: Bernoulli. Das sollte ich mit Poisson, Binomial, Normal, exp-Verteilungen noch machen können. Nach meiner Prüfung könnte ich als BSP hier die Poisson-Verteilung betrachten, aber ich weiß nicht ob das jemadem von Interesse ist, weil es eben Theorie-Ansatz ohne Ende ist. Kein Pragmatismus smile

Finde ich auch blöd, weil in dem Fall die Aufgabestellung vervollständigt mit dem Satz am Anfang wird: Sie haben eine Abfüllmaschine für Flaschen. Wir interessieren uns ob n Flaschen gefüllt sind oder nicht (Stichprobenumfang n, Verteilungsannahme Bernoulli mit Parameter p). Schätzen Sie die Wahrscheinlichkeit, für gefüllte und ungefüllte Flaschen (=> GBE-Schätzfunktion konstruieren bezüglich Parameter p). Klar, wenn von 100 Flaschen 50 nicht gefüllt sind, ist die Maschine nicht in Ordnung, in der Praxis vllt ist eine Flasche nicht gefüllt mit n = 6 stelliger Zahl, und dann ist es Normalfall dass wir Poisson nehmen. Aber ich kann nichts sagen, wenn das von mir verlangt wird und ich dann weiter diskutiere wie sinnlos das sein sollte, dann habe ich sofort verloren smile

Naja und das war es! Danke dir nochmals dass du dir die Zeit genommen hast hier überhaupt zu verstehen und dann die Aufgabe auch quasi gelöst hast. Für die Ausführlichkeit - ich bin ziemlich ausführlich, aber ich übe meine tatsächliche Aufgabe: erklären zu können. Freude

Gruß
Martina

Neue Frage »

Antworten »

Bernoulli Verteilung als exp-Familie

Verwandte Themen