Informationsquelle

28.06.2005, 08:52	naoukiko	Auf diesen Beitrag antworten »
Informationsquelle Aufgabe. Sei (S; P) eine Informationsquelle mit S = {s1,....sn} und bezeichne pi =P({si}). Wir konstruieren aus (S; P) eine Quelle (~S;~P) wie folgt: Ein Symbol sk € S werde ausgewählt und durch s'k und s'' k ersetzt. Die Wahrscheinlichkeit pk für sk werde in Wahrscheinlichkeiten p'k +p''k = pk zerlegt und den Symbolen s'k und s''k zugeordnet. Die anderen Symbole aus S werden mit ihren Wahrscheinlichkeiten in ~S Äubernommen. Zeigen Sie, dass H(~P) >=H(P) gilt mit Gleichheit genau dann, wenn p'kp''k = 0.
28.06.2005, 12:42	kurellajunior	Auf diesen Beitrag antworten »
RE: Informationsquelle Nicht, dass ich auf Anhieb mehr als die Hälfte verstanden habe, aber die Leute, die's verstehen werden nur antworten, wenn Du eine Frage formulierst. Oder wolltest Du eine Übungsaufgabe zur Verfügung stellen? Jan
28.06.2005, 13:39	AD	Auf diesen Beitrag antworten »
Und das Wichtigste überhaupt hat naoukiko vergessen: Das nämlich das $\begin{eqnarray} H \end{eqnarray}$ die Informationsentropie $\begin{eqnarray} H(p) = H((p_1,\ldots,p_n)) := -\sum\limits_{k=1}^n~p_k\cdot\log_2(p_k) \end{eqnarray}$ sein soll.

1

Verwandte Themen