a posteriori Verteilung

Neue Frage »

Gast11022013 Auf diesen Beitrag antworten »
a posteriori Verteilung
Meine Frage:
Ich verstehe nicht, wie man auf die Formel für die aposteriori-Verteilung hier kommt:

http://de.wikipedia.org/wiki/A-posteriori-Wahrscheinlichkeit

(stetiger Fall)


Wie ergibt sich insbesondere der Nenner?



Meine Ideen:
...
Math1986 Auf diesen Beitrag antworten »
RE: a posteriori Verteilung
Der Nenner ist eine Normierungskonstante, um das Integral über den Zähler der A-Posteriori-Dichte wieder auf Eins zu normieren.

Im Prinzip ergibt sich die Dichteformel direkt aus dem Satz von Bayes.
 
 
Gast11022013 Auf diesen Beitrag antworten »
RE: a posteriori Verteilung
Könntest Du das evtl. ausführen, es ist wichtig, dass ich das verstehe..

Aber irgendwie steige ich nicht durch.

Ich sehe einfach nicht, wie diese Formel entsteht.
Math1986 Auf diesen Beitrag antworten »
RE: a posteriori Verteilung
Naja,
1) Bilde am besten selbst mal das Integral über die Dichtefunktion, dann siehst du, warum der Nenner da stehen muss.

Das normiert dir das Integral über die Dichtefunktion auf Eins.
2) Der Sazu von Bayes sagt ja im Prinzip auch nichts anderes aus als das, was du da stehen hast. Im Prinzip ist die A-Priori-Dichte die Wahrscheinlichkeit dafür, dass der Parameter eintritt, und ist due Wahrscheinlichkeit dafür, dass x eintritt, unter der Vorbedingung, dass eingetreten ist.
Das kannst du dir wunderschön an einem Baumdiagramm veranschaulichen.


Schau dir mal das Urnenbeispiel auf der selben Seite an, das ist sehr gut. Georgii hat in seiner Stochastik-Einführung auch ein sehr gutes Kapitel dazu.
Gast11022013 Auf diesen Beitrag antworten »
RE: a posteriori Verteilung
Welches Integral über welche Dichte wird normiert?--

verwirrt

Und welches Integral über welche Dichtefunktion?
Gast11022013 Auf diesen Beitrag antworten »
RE: a posteriori Verteilung
Der Nenner ist doch die totale Wahrscheinlichkeit, oder?

Und ich verstehe nicht, wie da das Integral reinkommt.

Wenn ich mir die totale Wahrscheinlichkeit bei Wikipedia angucke, steht da nur die Summe




und ich frage mich was jetzt ist, wenn

(i) P(A) diskret, P(B_i) stetig

(ii) beide stetig

(iii) beide diskret

(iv) P(A) stetig, P(B_i) diskret
Math1986 Auf diesen Beitrag antworten »
RE: a posteriori Verteilung
Zitat:
Original von Dennis2010
Welches Integral über welche Dichte wird normiert?--

verwirrt

Und welches Integral über welche Dichtefunktion?
Die A-Posteriori Verteilung ist ja eine Verteilung mit der in Wikipedia angegebenen Dichtefunktion:

Das Integral einer Dichtefunktion ist Eins, also muss da beim Integral (bzgl über ) auch Eins herauskommen.
Math1986 Auf diesen Beitrag antworten »
RE: a posteriori Verteilung
Zitat:
Original von Dennis2010
Wenn ich mir die totale Wahrscheinlichkeit bei Wikipedia angucke, steht da nur die Summe


Ich rede vom Satz von Bayes, nicht von der totalen Wahrscheinlichkeit!
Gast11022013 Auf diesen Beitrag antworten »
RE: a posteriori Verteilung
Danke für die bisherigen Antworten.

Ich versuche mein Problem mal etwas konkreter auszudrücken.


Ich möchte also berechnen.

Nach dem Satz von Bayes ist dies:



Bis hierhin richtig?


Mein Problem ist nun die Bestimmung des Nenners .

Berechnet man jetzt als Randdichte (man sagt glaube ich auch marginale Dichte) von ?

Wenn ja, wie rechnet man das?

Und was, wenn keine Dichte, sondern eine W.keits-funktion ist?
Math1986 Auf diesen Beitrag antworten »
RE: a posteriori Verteilung
Zitat:
Original von Dennis2010
Danke für die bisherigen Antworten.

Ich versuche mein Problem mal etwas konkreter auszudrücken.


Ich möchte also berechnen.

Nach dem Satz von Bayes ist dies:



Bis hierhin richtig?
Bis hierhin ja.

f(x) berechnest du nun als Integral über , also


Mit Randdischte hat das nichts zu tu.
Zitat:
Original von Dennis2010
Und was, wenn keine Dichte, sondern eine W.keits-funktion ist?
Was ist eine W.keits-funktion?
Meinst du ein Wahrscheinlichkeitsmaß?
Was soll dann sein?
Gast11022013 Auf diesen Beitrag antworten »
RE: a posteriori Verteilung
Zitat:
Original von Math1986


f(x) berechnest du nun als Integral über , also





Und genau das verstehe ich nicht, wieso berechnet man das so?


Und in dem Fall, daß die apriori-Verteilung diskret ist, scheint man es ja anders auszurechnen (mit Summe statt Integral).
Math1986 Auf diesen Beitrag antworten »
RE: a posteriori Verteilung
Zitat:
Original von Dennis2010
Zitat:
Original von Math1986


f(x) berechnest du nun als Integral über , also





Und genau das verstehe ich nicht, wieso berechnet man das so?
Wikipedia definiert die Dichtefunktion eines Wahrscheinlichkeitsmaßes auf


So, nun berechnest du mal das Integral über - dabei muss ja Eins herauskommen.


Zitat:
Original von Dennis2010
Und in dem Fall, daß die apriori-Verteilung diskret ist, scheint man es ja anders auszurechnen (mit Summe statt Integral).
In diskreten Wahrscheinlichkeitsräumen rechnet man mit Summen, in stetigen mit Integralen, das ist nun nichts neues.
Gast11022013 Auf diesen Beitrag antworten »
RE: a posteriori Verteilung
Es tut mir wirklich leid, dass ich so schwer begreife.

Aber ich verstehe Dich einfach nicht!


Es muss doch ganz allgemein zu erklären sein, wie man f(x) berechnet.


Wahrscheinlich versuchst Du mir das die ganze Zeit zu erklären, aber ich verstehe es einfach nicht. Daß der Nenner der Normierung gilt, habe ich verstanden, aber man muss die Formel für f(x) doch irgendwie allgemein herleiten können. unglücklich
Math1986 Auf diesen Beitrag antworten »
RE: a posteriori Verteilung
Der Zusammenhang

folgt wiederrum aus der totalen Wahrscheinlichkeit, das hast du oben selbst zitiert!
Gast11022013 Auf diesen Beitrag antworten »
RE: a posteriori Verteilung
Okay, dann liegt da die Wurzel meines Problems.


Ich kenne die totale Wahrscheinlichkeit als

.



Wie ergibt sich das Integral?

Kannst Du mir vllt. erklären, wie man die totale Wahrscheinlichkeit für die Fälle berechnet:

(i) apriori-Verteilung diskret, Verteilung von diskret

(ii) apriori-Verteilung diskret, Verteilung von stetig

(iii) apriori-Verteilung stetig, Verteilung von diskret
(iv) apriori Verteilung stetig, Verteilung von stetig.


?



Anscheinend weiß ich nämlich nicht, wie man die totale W.keit richtig berechnet.
Math1986 Auf diesen Beitrag antworten »
RE: a posteriori Verteilung
Zitat:
Original von Dennis2010
Okay, dann liegt da die Wurzel meines Problems.


Ich kenne die totale Wahrscheinlichkeit als

.
Das ist der diskrete Fall.
Im stetigen Fall wird die Summe eben durch ein Integral ersetzt.
Gast11022013 Auf diesen Beitrag antworten »
RE: a posteriori Verteilung
Und dabei ist nur entscheidend, ob stetig oder diskret ist?


Ob das eine Dichte ist oder nicht (also im diskreten Fall), spielt keine Rolle?
Math1986 Auf diesen Beitrag antworten »
RE: a posteriori Verteilung
Zitat:
Original von Dennis2010
Und dabei ist nur entscheidend, ob stetig oder diskret ist?


Ob das eine Dichte ist oder nicht (also im diskreten Fall), spielt keine Rolle?
Die Frage verstehe ich nicht.

Nimm dir ein diskretes Wahrscheinlichkeitsmaß. Dabei musst du summieren.
Nimm dir ein stetiges Wahrscheinlichkeitsmaß. Dabei musst du integrieren.

Mach dir mal den Unterschied zwichen diskreten und stetigen Wahrscheinlichkeitsmaßen klar.
Gast11022013 Auf diesen Beitrag antworten »
RE: a posteriori Verteilung
Bei Wikipedia steht doch, daß entweder für eine Dichte stehen soll oder für eine Wahrscheinlichkeitsfunktion im diskreten Fall.


Wenn Du schreibst, dass die totale Wahrscheinlichkeit im diskreten Fall das mit der Summe und im stetigen Fall das mit dem Integral ist, so beizhet sich diese Unterscheidung doch auf die apriori-Verteilung (also ob diese stetig oder diskret ist).


In beiden Fällen steht da ja auch das , das, wie gesagt, stetig oder diskret sein kann. Daher meine Frage, ob sich die Entscheidung welche Formel für die totale W.keit man nimmt, also nur danach richtet, ob die apriori-Verteilung diskret oder stetig ist, nicht aber auch danach, ob nun eine Dichte oder eine W.keitsfunktion darstellt.
Math1986 Auf diesen Beitrag antworten »
RE: a posteriori Verteilung
Zitat:
Original von Dennis2010

In beiden Fällen steht da ja auch das , das, wie gesagt, stetig oder diskret sein kann. Daher meine Frage, ob sich die Entscheidung welche Formel für die totale W.keit man nimmt, also nur danach richtet, ob die apriori-Verteilung diskret oder stetig ist, nicht aber auch danach, ob nun eine Dichte oder eine W.keitsfunktion darstellt.
Du musst das eben, je nachdem was gegeben ist, entweder durch eine Summe oder ein Integral ersetzen. Das kommt drauf an was gegeben ist, ändert jedoch nichts am Grundprinzip.
Wikipedia rechnet es nur mit Integralen vor, weil der Fall mit Summen total analog zu handhaben ist.
Gast11022013 Auf diesen Beitrag antworten »
RE: a posteriori Verteilung
Ich habe da also in dem Fall, daß die apriori-Verteilung stetig ist und auch stetig ist, zwei Integrale stehen?
Math1986 Auf diesen Beitrag antworten »
RE: a posteriori Verteilung
Zitat:
Original von Dennis2010
Ich habe da also in dem Fall, daß die apriori-Verteilung stetig ist und auch stetig ist, zwei Integrale stehen?
WO hast du zwei Integrale?

Bitte bemühe dich, deine Fragen etwas mehr auszuformulieren unglücklich
Gast11022013 Auf diesen Beitrag antworten »
RE: a posteriori Verteilung
Zitat:
Original von Math1986
Du musst das eben, je nachdem was gegeben ist, entweder durch eine Summe oder ein Integral ersetzen. Das kommt drauf an was gegeben ist, ändert jedoch nichts am Grundprinzip.
Wikipedia rechnet es nur mit Integralen vor, weil der Fall mit Summen total analog zu handhaben ist.


Wie meinst Du das?

Was ersetzen? Das ?
Math1986 Auf diesen Beitrag antworten »
RE: a posteriori Verteilung
Zitat:
Original von Dennis2010
Zitat:
Original von Math1986
Du musst das eben, je nachdem was gegeben ist, entweder durch eine Summe oder ein Integral ersetzen. Das kommt drauf an was gegeben ist, ändert jedoch nichts am Grundprinzip.
Wikipedia rechnet es nur mit Integralen vor, weil der Fall mit Summen total analog zu handhaben ist.


Wie meinst Du das?

Was ersetzen? Das ?
Ist dir der generelle Unterschied zwischen diskreten und stetigen Wahrscheinlichkeitsmaßen klar? Wenn ja, dann beschreibe ihn, und zwar so ausführlich wie du kannst!
Gast11022013 Auf diesen Beitrag antworten »

Ich denke schon, daß mir der Unterschied klar ist:

Ist abzählbar, kann man ein geeigntes P definieren, indem man die Wahrscheinlichkeit aller Ergebnisse angibt:

1.) Eine Funktion mit heißt Zähldichte.

2.) heißt dann diskretes W.-maß mit Zähldichte p.


Eine messbare Funktion mit heißt Dichtefunktion.

heißt stetiges W.keitsmaß mit Dichtefunktion .
Math1986 Auf diesen Beitrag antworten »

Eben. Im diskreten Fall hast du eine Zähldichte, im zweiten Fall eine Dichtefunktion. Im ersten Fall summierst du, im zweiten integrierst du.

Im stetigen Fall hast du also die Formel

(das ist ein Integral über eine Dichtefunktion)

Im diskreten Fall hast du analog die Formel


Die zweite Formel ist also das Analogon zur ersten, nur das Integral wurde durch eine Summe ersetzt.
Gast11022013 Auf diesen Beitrag antworten »

Wenn Du sagst: im stetigen fall

dann meinst du doch: die apriori-Verteilung von theta ist stetig, richtig?



aber meine frage war ja nun, wo man berücksichtigt, ob die verteilung von x stetig oder diskret ist?



Edit:

wieso schreibt man im stetigen Fall die dichte auf (aposteriorii-Dichte) und im diskreten fall die aposteriori-Wahrscheinlichkeit?
Math1986 Auf diesen Beitrag antworten »

Zitat:
Original von Dennis2010
Wenn Du sagst: im stetigen fall

dann meinst du doch: die apriori-Verteilung von theta ist stetig, richtig?
Ja.


Zitat:
Original von Dennis2010
aber meine frage war ja nun, wo man berücksichtigt, ob die verteilung von x stetig oder diskret ist?
Das berücksichtigst du dahingehend, dass die A-Posteriori-Dichte einmal stetig und einmal diskret ist



Zitat:
Original von Dennis2010

wieso schreibt man im stetigen Fall die dichte auf (aposteriorii-Dichte) und im diskreten fall die aposteriori-Wahrscheinlichkeit?
Man macht das eher nicht, Wikipedia macht das.

Wikipedia verwendet auch den Begriff "Wahrscheinlichkeitsfunktion" statt des gebräuchlicheren "Zähldichte".
Gast11022013 Auf diesen Beitrag antworten »

Also ich zweifle langsam an mir...

Man will also doch dieses hier berechnen:




Das ist doch die aposteriori-Wahrscheinlichkeit.


Nun kann Y stetig oder diskret verteilt sein.

a) im stetigen Fall ist also .

Ist auch X stetig verteilt, ist
(B soll die Menge sein, aus der die x-Werte stammen.)

Ist X diskret verteilt, ist doch aber , also als Zähldichte.

Was ist dann P(X)?


b) im diskreten Fall ist , also soll Zähldichte sein.

Und wie oben muss man zwei Fälle für unterscheiden (X stetig oder diskret verteilt).

Was ist dann hier P(X)?




Edit: Oder muss man nicht immer je nach Fall bei P(X|Y) die meinsame Wahrscheinlichkeit ausrechnen? Aber wie macht man das, wenn eine stetig und die andere ZV diskret ist (oder umgekehrt)?
Math1986 Auf diesen Beitrag antworten »

Bis hierhin sieht das richtig aus. Schau dir mal das beispiel auf Wikipedia an, dann wirds vielleicht klarer.
Gast11022013 Auf diesen Beitrag antworten »

Also mal angenommen, X und Y seien beide Stetig verteilt.


Ich möchte gerne berechnen:

.

Nun ist , sodaß ich noch

übrig habe.


Nun ist meines Erachtens:

und

(Randdichte)

Wenn ich also jetzt mal nur die Dichten betrachte so habe ich:



Nun gilt weiter, daß -

Somit habe ich dann als Dichte:




Ist dann ?
Math1986 Auf diesen Beitrag antworten »

Was ist, für dich, P(X,Y) ?


Hier belegst du einige Variablen mehrfach: y ist zum einen untere, zum anderen obere Integrationskonstante.

Hast du dir mal das besagte Beispiel angeschaut?
Gast11022013 Auf diesen Beitrag antworten »

Achso, daher kommt es, daß man bei der Dichte im Nenner immer das findet, weil man es sonst doppelt belegt?


Mit meine ich die gemeinsame Wahrscheinlichkeit der beiden Zufallsvariablen.




Ist das denn ansonsten okay?

-----------------------


Wie behandelt man aber die gemischten Fälle?
(Also X stetig, Y diskret und X diskret, Y stetig)?

Da kann man ja nicht so einfach die Randdichten usw. bestimmen, würde ich meinen.
Math1986 Auf diesen Beitrag antworten »

Zitat:
Original von Dennis2010
Achso, daher kommt es, daß man bei der Dichte im Nenner immer das findet, weil man es sonst doppelt belegt?
Ja

Zitat:
Original von Dennis2010
Mit meine ich die gemeinsame Wahrscheinlichkeit der beiden Zufallsvariablen.
Wo bringst du die gemeinsame Wahrscheinlichkeit ins Spiel?

Hast du dir das Beispiel angesehen? Wenn nein: Warum nicht?
Gast11022013 Auf diesen Beitrag antworten »

Die gemeinsame Wahrscheinlichkeit bringe ich dort ins Spiel, wo ich

ersetze durch , so werde ich das los und habe dann nur npch übrig. Und hierfür betrachte ich die gemeinsame Dichte von X und Y.


Das Beispiel habe ich mir angesehen, habe aber Probleme damit es für meine Überlegungen zu benutzen.
Math1986 Auf diesen Beitrag antworten »

Zitat:
Original von Dennis2010
Die gemeinsame Wahrscheinlichkeit bringe ich dort ins Spiel, wo ich

ersetze durch , so werde ich das los und habe dann nur npch übrig. Und hierfür betrachte ich die gemeinsame Dichte von X und Y.
Der Ansatz geht in die falsche Richtung.

Also nochmal langsam:
Du hast ein Wahrscheinlichkeitsmaß auf mit unbekanntem Parameter und möchtest diesen Parameter schätzen.

Desweiteren machst du die Beobachtung

Es ist dann, wenn du annimmst, doch gerade


Wie auch immer du das schreiben möchtest ist mir egal, die bedingte Wahrscheinlichkeit heißt doch einfach nur, dass du für eben einsetzt.

Mit der A-Priori-Dichte g auf berechnest du die Wahrscheinlichkeit des Parameters , du mittelst also quasi über ganz


Und nun schaust du dir das Beispiel an und sagst mir, welcher Schritt dir daran unklar ist.
Gast11022013 Auf diesen Beitrag antworten »

Es tut mir leid, es ist, als wenn Du eine andere Sprache sprichst, ich weiß einfach nicht, worauf Du hinausmöchtest.


Ich möchte einfach nur verstehen, wie die Formel zustande kommt.


Ich möchte doch also wissen:

.

Dies ist doch nach der Bayesformel:




Wie rechnet man das aus, je nachdem, ob X und Y stetig oder diskret verteilt sind.

(Mehr möchte ich eigentlich gar nicht hinbekommen.
Math1986 Auf diesen Beitrag antworten »

Schau dir doch bitte mal das Beispiel auf Wikipedia an und erzähl mir, welcher Schritt dir daran unklar ist!
Gast11022013 Auf diesen Beitrag antworten »

Es ist mir daran nichts unklar.


Ohje.
Gast11022013 Auf diesen Beitrag antworten »

Ich weiß nicht, wie ich das noch formulieren soll...


Ich verstehe z.B. nicht, wie man die totale Wahrscheinlichkeit im nenner berechnet, wenn zum Beispiel X stetig und Y diskret verteilt ist,.
Neue Frage »
Antworten »



Verwandte Themen

Die Beliebtesten »
Die Größten »
Die Neuesten »