Matroids Matheplanet Forum Index
Moderiert von Bilbo
Informatik » Theoretische Informatik » Informationsgehalt
Autor
Universität/Hochschule Informationsgehalt
Physiker123
Wenig Aktiv Letzter Besuch: vor mehr als 3 Monaten
Dabei seit: 16.02.2016
Mitteilungen: 540
  Themenstart: 2019-11-14

Guten Tag, ich beschäftige mich gerade mit der klassischen Informationstheorie. In meinem Skript steht, dass der Informationsgehalt folgende Bedingungen erfüllen soll: \[I(p)\ge 0\] \[I(1)=0\] \[I(p_1p_2)=I(p_1)+I(p_2)\] Der Informationsgehalt einer Nachricht die aus zwei Symbolen besteht kann als Summe der einzelnen Informationsgehalte berechnet werden falls das Auftreten der Symbole unabhängig voneinander ist. Im Skript wird nun mit Hilfe der letzten Eigenschaft die zweite gezeigt: \[I(1)=I(1)+I(1)\Leftrightarrow I(1)=0\] Dies kann aber nur richtig sein wenn die Symbole aus zwei unterschiedlichen Alphabeten stammen (die Wahrscheinlichkeiten eines Alphabets addieren sich zu eins). Ich denke eher, dass die zweite Eigenschaft eine Definition ist. Liege ich damit richtig?


   Profil
rlk
Senior Letzter Besuch: in der letzten Woche
Dabei seit: 16.03.2007
Mitteilungen: 11435
Wohnort: Wien
  Beitrag No.1, eingetragen 2019-11-14

Hallo Physiker123, welche Bedeutung haben $p$, $p_1$ und $p_2$? Ich vermute, dass es sich um Wahrscheinlichkeiten handelt, aber das Skript sollte helfen, diese Frage zu beantworten. Wenn $I(1)=0$ aus der dritten Eigenschaft abgeleitet werden kann, erübrigt sich eine Definition. Servus, Roland [Verschoben aus Forum 'Logik, Mengen & Beweistechnik' in Forum 'Theoretische Informatik' von rlk]


   Profil
Physiker123
Wenig Aktiv Letzter Besuch: vor mehr als 3 Monaten
Dabei seit: 16.02.2016
Mitteilungen: 540
  Beitrag No.2, vom Themenstarter, eingetragen 2019-11-14

Hallo und danke für deine Nachricht. Ja, \(p,p_1,p_2\) sind Wahrscheinlichkeiten. https://matheplanet.com/matheplanet/nuke/html/uploads/b/45155_Informationsgehalt.PNG Es wird unterschlagen, dass die Symbole, die mit den Wahrscheinlichkeiten \(p_1\) und \(p_2\) auftreten aus verschiedenen Alphabeten stammen müssen. Diese können ja sonst nicht beide den Wert eins annehmen. \[\sum\limits_x p(x)=1\] für alle Symbole \(x\) aus einem Alphabet \(X\). Der Beweis ist also meiner Meinung nach nicht allgemein gültig. Ich denke, dass (ii) eigentlich eine Definition ist, die man an den Informationsgehalt stellt \(\Rightarrow\) Ein Symbol, das mit der W'keit eins auftritt enthält keine Information. Ist das richtig?


   Profil
rlk
Senior Letzter Besuch: in der letzten Woche
Dabei seit: 16.03.2007
Mitteilungen: 11435
Wohnort: Wien
  Beitrag No.3, eingetragen 2019-11-14

Hallo Physiker123, warum denkst Du, dass es zwei verschiedene Symbole sein müssen? Servus, Roland


   Profil
Physiker123
Wenig Aktiv Letzter Besuch: vor mehr als 3 Monaten
Dabei seit: 16.02.2016
Mitteilungen: 540
  Beitrag No.4, vom Themenstarter, eingetragen 2019-11-15

Hallo nochmal. Ich sagte, dass die Symbole aus unterschiedlichen Alphabeten stammen müssen. Sonst geht der Beweis nicht durch. Es kann nicht sein, dass zwei Symbole eines Alphabets mit der Wahrscheinlichkeit eins auftreten.


   Profil
rlk
Senior Letzter Besuch: in der letzten Woche
Dabei seit: 16.03.2007
Mitteilungen: 11435
Wohnort: Wien
  Beitrag No.5, eingetragen 2019-11-15

Hallo Physiker123, wenn das Symbol $\aleph$ die Wahrscheinlichkeit 1 hat, haben Nachrichten der Form $\aleph\ldots \aleph$ den Informationsgehalt 0. Wie habt ihr das Alphabet definiert? Servus, Roland


   Profil
Physiker123 hat die Antworten auf ihre/seine Frage gesehen.

Wechsel in ein anderes Forum:
 Suchen    
 
All logos and trademarks in this site are property of their respective owner. The comments are property of their posters, all the rest © 2001-2022 by Matroids Matheplanet
This web site was originally made with PHP-Nuke, a former web portal system written in PHP that seems no longer to be maintained nor supported. PHP-Nuke is Free Software released under the GNU/GPL license.
Ich distanziere mich von rechtswidrigen oder anstößigen Inhalten, die sich trotz aufmerksamer Prüfung hinter hier verwendeten Links verbergen mögen.
Lesen Sie die Nutzungsbedingungen, die Distanzierung, die Datenschutzerklärung und das Impressum.
[Seitenanfang]