Qualitätsaussagen diskrete Verteilung mit Log_2 in Formel

Neue Frage »

z12 Auf diesen Beitrag antworten »
Qualitätsaussagen diskrete Verteilung mit Log_2 in Formel
Hallo zusammen,

ich habe hier in einem Programmlisting eine Formel zur Berechnung der "Qualität" einer diskreten Werteverteilung. Beispiel:

Ein Array von Eintrittswahrscheinlichkeiten:
a[0] = 0.3
a[1] = 0.2
a[2] = 0.1
a[3] = 0.4

Nun wird die "Qualität" folgendermaßen berechnet:

q = a[0] * log(a[0]) / log(2) + a[1] * log(a[1]) / log(2) + a[2] * log(a[2]) / log(2) + a[3] * log(a[3]) / log(2)

Da ich mir nicht vorstellen kann, dass das eine willkürliche Qualitätsbeurteilung ist, würde mich interessieren, welcher Suchbegriff der Stochastik mir hier weiterhilft. Welches mach wird hier berechnet?

Danke im Voraus
AD Auf diesen Beitrag antworten »

Wenn du das Vorzeichen noch drehst, dann handelt es sich um die Informationsentropie dieser diskreten Verteilung.
z12 Auf diesen Beitrag antworten »

Gerade nochmal geschaut, ist wirklich Addition.

Aber passt auch zu dem Verhalten des Listings, dass Verteilungen mit "Streuung" einen schlechteren Qualitätsindex haben als welche, wo ich z.B. nur einen Wert mit Eintrittswahrscheinlichkeit 1.0 habe.

Also je weniger "Informationsgehalt" desto höher der Qualitätsindex.


Danke Tanzen
Neue Frage »
Antworten »



Verwandte Themen

Die Beliebtesten »
Die Größten »
Die Neuesten »