Bedingte Wahrscheinlichkeiten: konkretes Beispiel

22.01.2013, 19:58

Alan47

Bedingte Wahrscheinlichkeiten: konkretes Beispiel

Hallo,

nachdem ich in diesem Thread bereits Hilfe zu prinzipiellen Fragen erhalten habe (danke nochmals), habe ich mich an einem konkreten Beispiel versucht, aber ich scheitere kläglich. Es handelt sich um Beispiel 8.11 aus "Pattern Recognition and Machine Learning" von Christoph M. Bishop.

Szenario (informell):
In einem alten Auto befindet sich eine Tank-Anzeige G (für "Gauge"), welche den Füllstand des Tanks F (für "Fuel") anzeigt. Allerdings ist sie nicht ganz zuverlässig: wenn die Leistung der Batterie B nachlässt, fällt G ebenfalls auf 0, selbst wenn der Tank noch nicht leer ist. Es kann auch passieren, dass die Batterie noch voll und der Tank leer ist, G aber trotzdem einen vollen Tank bescheinigt.
Ein Fahrer D (für "Driver") liest die Anzeige ab und berichtet mir, dem Beifahrer, davon. Da er aber mit Fahren beschäftigt ist, ist das Ablesen der Tankanzeige ebenfalls nur zu 90% zuverlässig.

Gegeben:

Vier diskrete Zufallsvariablen namens G, B, F und D
Jede der vier Variablen kann den Wert 0 oder 1 annehmen

Es gelten folgende Wahrscheinlichkeiten:

p(G=1|B=1,F=1) = 0.8
p(G=1|B=1,F=0) = 0.2
p(G=1|B=0,F=1) = 0.2
p(G=1|B=0,F=0) = 0.1
p(B=1) = 0.9
p(F=1) = 0.9
p(D=1|G=1) = 0.9
p(D=0|G=0) = 0.9

Daraus lässt sich folgender Abhängigkeits-Graph aufstellen:

http://img59.imageshack.us/img59/2886/dependencygraph.png

Zu berechnen sind:

p(F=0|D=0)
(informell: Wahrscheinlichkeit, dass der Tank leer ist wenn es der Fahrer behauptet)
p(F=0|D=0, B=0)
(informell: Wahrscheinlichkeit, dass der Tank leer ist wenn der Fahrer es behauptet und die Batterie leer ist)

Im Lauf der Rechung verwende ich oft folgende Formel ("Marginalization", das deutsche Wort kenne ich leider nicht):

$\begin{eqnarray*} p(A) = \sum_Bp(A|B)p(B) \end{eqnarray*}$

... und berechne mir die Gegenwahrscheinlichkeiten:

p(G=0|B=1,F=1) = 1 - 0.8 = 0.2
p(G=0|B=1,F=0) = 1 - 0.2 = 0.8
p(G=0|B=0,F=1) = 1 - 0.2 = 0.8
p(G=0|B=0,F=0) = 1 - 0.1 = 0.9
p(B=0) = 1 - 0.9 = 0.1
p(F=0) = 1 - 0.9 = 0.1
p(D=0|G=1) = 1 - 0.9 = 0.1
p(D=1|G=0) = 1 - 0.9 = 0.1

Nun verwende ich Bayes' Gesetz:

$\begin{eqnarray*} p(F=0|D=0) = \frac{P(D=0|F=0)\times P(F=0)}{P(D=0)} \end{eqnarray*}$

Ich versuche nun, mit Hilfe der Marginalization die einzelnen Bestandteile der rechten Seite zu sammeln.

$\begin{eqnarray*} p(D=0) = p(D=0|G=0)p(G=0) + p(D=0|G=1)p(G=1) \end{eqnarray*}$

Mittels Marginalization ergibt sich:

$\begin{eqnarray*} p(G=0) = p(G=0|F=0)p(F=0) + p(G=0|F=1)p(F=1) \end{eqnarray*}$

... und bei erneuter Anwendung:

$\begin{eqnarray*} p(G=0|F=0) = p(G=0|F=0,B=0)p(B=0) + p(G=0|F=0,B=1)p(B=1) \end{eqnarray*}$

$\begin{eqnarray*} p(G=0|F=0) = 0.9 \times 0.1 + 0.8 \times 0.9=0.81 \end{eqnarray*}$

$\begin{eqnarray*} p(G=0|F=1) = p(G=0|F=1,B=0)p(B=0) + p(G=0|F=1,B=1)p(B=1) \end{eqnarray*}$

$\begin{eqnarray*} p(G=0|F=1) = 0.8 \times 0.1 + 0.2 \times 0.9 = 0.26 \end{eqnarray*}$

$\begin{eqnarray*} p(G=0) = 0.81 \times 0.1 + 0.26 \times 0.9 = 0.315 \end{eqnarray*}$

Mittels Gegenwahrscheinlichkeit folgt:

$\begin{eqnarray*} p(G=1) = 1 - 0.315 = 0.685 \end{eqnarray*}$

Dies kann man nun in obige Gleichung einsetzen und erhält:

$\begin{eqnarray*} p(D=0) = 0.9 \times 0.315 + 0.1 \times 0.685 = 0.352 \end{eqnarray*}$

... aber an dieser Stelle bin ich mit meiner Weisheit am Ende. Wie soll man auf die fehlende Komponente von Bayes' Gesetz, nämlich

$\begin{eqnarray*} P(D=0|F=0) = \dots? \end{eqnarray*}$

kommen, wenn die einzigen Wahrscheinlichkeiten, die man von D kennt, über G definiert sind, welches - zu allem Überfluss - auch noch von B und F abhängig ist? Ich wäre wirklich sehr dankbar für einen Denkanstoß in dieser Sache, es ist das erste Mal, dass ich mit Wahrscheinlichkeitsrechnungen dieser Komplexität konfrontiert bin und habe noch so meine Schwierigkeiten damit ^^'

Danke,

Alan

22.01.2013, 20:35

HAL 9000

Auf diesen Beitrag antworten »

RE: Bedingte Wahrscheinlichkeiten: konkretes Beispiel
Zwei Anmerkungen:

1) $\begin{eqnarray*} B \end{eqnarray*}$ und $\begin{eqnarray*} F \end{eqnarray*}$ sollen anscheinend als unabhängig angenommen werden. In deiner Rechnung hast du das auch schon benutzt, was dir hoffentlich bewusst ist!

2) Dem Satz über den Zusammenhang zwischen $\begin{eqnarray*} D \end{eqnarray*}$ und $\begin{eqnarray*} G \end{eqnarray*}$ würde ich mehr Informationen als du entnehmen: Nämlich

$\begin{eqnarray*} P(D=1 \bigm| G=1,B\in M_B,F\in M_F) = 0.9 \end{eqnarray*}$

$\begin{eqnarray*} P(D=0 \bigm| G=0,B\in M_B,F\in M_F) = 0.9 \end{eqnarray*}$

für beliebige nichtleere $\begin{eqnarray*} M_B\subseteq \{0,1\},M_F\subseteq \{0,1\} \end{eqnarray*}$ , d.h. $\begin{eqnarray*} D \end{eqnarray*}$ ist bedingt unabhängig von $\begin{eqnarray*} B,F \end{eqnarray*}$ , sofern nur $\begin{eqnarray*} G \end{eqnarray*}$ bekannt ist. D.h., $\begin{eqnarray*} D \end{eqnarray*}$ kann zwar nicht von $\begin{eqnarray*} B,F \end{eqnarray*}$ unabhängig betrachtet werden, aber die Abhängigkeit besteht ausschließlich indirekt über $\begin{eqnarray*} G \end{eqnarray*}$ , nicht noch direkt.

Dein

Zitat:

Original von Alan47
[*] p(D=1|G=1) = 0.9
[*] p(D=0|G=0) = 0.9

nutzt nur einen Bruchteil dieser Information, nämlich den Fall $\begin{eqnarray*} M_B=M_F=\{0,1\} \end{eqnarray*}$ .

Bei Berücksichtigung dessen kann man nun die vollständige gemeinsame Verteilung von $\begin{eqnarray*} B,F,G,D \end{eqnarray*}$ berechnen

$\begin{eqnarray*} \begin{array}{|c|c|c|c|c|c|} \hline \multicolumn{2}{|c|}{P(B,F,G,D)} & \multicolumn{2}{|c|}{B=0} & \multicolumn{2}{|c|}{B=1} \\ \cline{3-6} \multicolumn{2}{|c|}{} & F=0 & F=1 & F=0 & F=1 \\ \hline G=0 & D=0 & 0.0081 & 0.0648 & 0.0648 & 0.1458 \\ \cline{2-6} & D=1 & 0.0009 & 0.0072 & 0.0072 & 0.0162 \\ \hline G=1 & D=0 & 0.0001 & 0.0018 & 0.0018 & 0.0648 \\ \cline{2-6} & D=1 & 0.0009 & 0.0162 & 0.0162 & 0.5832 \\ \hline \end{array} \end{eqnarray*}$ ,

aus der man dann alle absoluten oder bedingten Wahrscheinlichkeiten im Zusammenhang mit diesen vier Größen berechnen kann. Scheint mir am Ende übersichtlicher als ellenlange Ketten mit bedingten Wahrscheinlichkeiten. Augenzwinkern

23.01.2013, 17:11

Alan47

Auf diesen Beitrag antworten »

@HAL 9000: Ein erneutes Dankeschön für deine Antwort smile

Auf die Idee mit der Tabelle wäre ich so in dieser Form noch gar nicht gekommen, gefällt mir aber sehr gut!
Du hast den Nagel mit deiner Aussage #2 übrigens auf den Kopf getroffen. Ich hab mich so lange mit der Aufgabe beschäftigt, dass ich den Wald vor lauter Bäumen nicht mehr gesehen habe. Ich habe es mittlerweile geschafft, sie dank deiner Hilfe vollständig zu lösen.

Dankeschön nochmals smile

Alan

23.01.2013, 18:53

HAL 9000

Auf diesen Beitrag antworten »

Zitat:

Original von Alan47
Auf die Idee mit der Tabelle wäre ich so in dieser Form noch gar nicht gekommen, gefällt mir aber sehr gut!

An sich hätte ich die $\begin{eqnarray*} 2^4 \end{eqnarray*}$ Wahrscheinlichkeitswerte ja lieber in einem vierdimensionalen Würfel der Kantenlänge 2 dargestellt, aber der passt so schlecht auf eine zweidimensionale Website. Big Laugh

Neue Frage »

Antworten »

Bedingte Wahrscheinlichkeiten: konkretes Beispiel

Verwandte Themen