Bedingte Entropie

20.12.2007, 20:52	Entropiker	Auf diesen Beitrag antworten »
Bedingte Entropie In einer Kryptografie-Vorlesung wurde bei mir an der Uni die bedingte Entropie eingeführt: Sind X und Y Zufallsvariablen, so ist die bedingte Entropie definiert als: $\begin{eqnarray} H(X\|Y) = - \sum_{y} P(y) \sum_x P(x\|y) \log_2 P(x\|y) \end{eqnarray}$ , wobei die Summen über alle möglichen x bzw. y gehen. Nun sollte die bedingte Entropie $\begin{eqnarray} P(X\|Y,Z) \end{eqnarray}$ berechnet werden, was ich so machen wollte: $\begin{eqnarray} P(X\|Y,Z) = - \sum_y \sum_z P(y,z) \sum_x P(x\|y,z) \log_2 P(x\|y,z) \end{eqnarray}$ mit der Begründung, dass auch (Y,Z) eine Zufallsvariable ist und ich über alle möglichen Werte summiere. Das war aber anscheinend nicht richtig. Wo liegt mein Denkfehler?
20.12.2007, 20:57	AD	Auf diesen Beitrag antworten »
Wenn du mit $\begin{eqnarray} P(y) \end{eqnarray}$ eigentlich $\begin{eqnarray} P(Y=y) \end{eqnarray}$ , und mit $\begin{eqnarray} P(y,z) \end{eqnarray}$ eigentlich $\begin{eqnarray} P(Y=y,Z=z) \end{eqnarray}$ meinst - bei den bedingten Wkten ähnlich - dann sollte es eigentlich stimmen.
20.12.2007, 21:04	Entropiker	Auf diesen Beitrag antworten »
Ja, meinte ich, und das erste P in der zweiten Latex-Zeile sollte natürlich ein $\begin{eqnarray} H(X\|Y,Z) \end{eqnarray}$ sein. Hm, seltsam. Aber vielen Dank schon mal.

1

Verwandte Themen

Die Beliebtesten »

Die Größten »

Die Neuesten »