Maximale Entropie

Neue Frage »

wtheoretiker Auf diesen Beitrag antworten »
Maximale Entropie
Meine Frage:
Zeigen Sie, dass
(i) unter allen Verteilungen auf [0,1] (Gleichverteilung)
(ii) unter allen Verteiluneg auf mit Erwartungswert (Exponentialverteilung)
(iii) unter allen Verteilungen auf mit Kovarianzmatrix (Normalverteilung)
maximale Entropie hat.

Meine Ideen:
Leider habe ich noch keinen wirklichen Ansatz.
Für (i) finde ich es irgendwie logisch, dass die Gleichverteilung maximale Entropie haben muss. Wenn man die Entropie als ein Maß für Ungewissheit auffasst, dann ist es ja klar, dass man gerade bei der Gleichverteilung die größte Ungewissheit hat, allerdings weiß ich nicht, wie man das in einen mathematischen Kontext bringt und beweist. Allgemein ist der Umgang mit Entropie für mich noch ziemlich holprig.
Kann mir jemand vielleicht helfen, wie ich an diese Aufgabe rangehen muss oder einen kleinen Tipp geben?
Neue Frage »
Antworten »



Verwandte Themen

Die Beliebtesten »
Die Größten »
Die Neuesten »