Matroids Matheplanet Forum Index
Moderiert von Bilbo
Informatik » Theoretische Informatik » Bestimmung der maximalen Entropie mittels Lagrange-Multiplikationsverfahren
Druckversion
Druckversion
Antworten
Antworten
Autor
Universität/Hochschule Bestimmung der maximalen Entropie mittels Lagrange-Multiplikationsverfahren
Sinnfrei
Junior Letzter Besuch: im letzten Monat
Dabei seit: 30.06.2020
Mitteilungen: 17
Zum letzten BeitragZum nächsten BeitragZum vorigen BeitragZum erstem Beitrag  Themenstart: 2021-03-05


Wie kommt man bei dem im Bild vorkommenden Multiplikationsverfahren auf das ld(e) und auf p_i = 1/N

Bei normalen Gleichungen habe ich das Verfahren bereits in Videos gesehen und verstanden, jedoch weiss ich hierbei nicht, wie man auf ld(e) und auf p_i = 1/N kommt.




Eine Notiz zu diese Forumbeitrag schreiben Notiz   Profil  Quote  Link auf diesen Beitrag Link
wessi90
Senior Letzter Besuch: in der letzten Woche
Dabei seit: 16.09.2011
Mitteilungen: 2096
Zum letzten BeitragZum nächsten BeitragZum vorigen BeitragZum erstem Beitrag  Beitrag No.1, eingetragen 2021-03-05


Moin,
Was genau soll denn $\mathrm{ld}$ sein? Ich würde fast auf den dekadischen Logarithmus tippen, dann sollte sich beim ableiten aber wegen
$$\log_{10}(p_i)=\frac{\ln(x)}{\ln(10)}$$ kein $\mathrm{ld}(e)$ sondern etwas mit $\ln(10)$ ergeben (und auch das Vorzeichen passt dann nicht). Der genaue Wert spielt aber auch keine Rolle, wichtig ist, dass eine Konstanten entsteht (und zwar für jedes $i$ dieselbe). Du findest also $\ln(p_i)=c$ und damit muss jede Wahrscheinlichkeit denselben Wert haben. Folglich (wegen der Normierung auf 1) gilt also $p_i=1/N$

Falls $\mathrm{ld}=\ln$ ist, ergibt die Gleichung übrigens auch Sinn, denn $\ln(e)=1$, dann weiß ich aber nicht, warum man das extra hinschreibt. Ich tippe aber mal, dass dies hier dennoch der Fall ist.



Eine Notiz zu diese Forumbeitrag schreiben Notiz   Profil  Quote  Link auf diesen Beitrag Link
Sinnfrei
Junior Letzter Besuch: im letzten Monat
Dabei seit: 30.06.2020
Mitteilungen: 17
Zum letzten BeitragZum nächsten BeitragZum vorigen BeitragZum erstem Beitrag  Beitrag No.2, vom Themenstarter, eingetragen 2021-03-05


ld steht für den Logarithmus dualis also den Logarithmus zur Basis 2, da die Basis 2 ganz gerne in der Nachrichten- und Informationstechnik vor kommt.



Eine Notiz zu diese Forumbeitrag schreiben Notiz   Profil  Quote  Link auf diesen Beitrag Link
wessi90
Senior Letzter Besuch: in der letzten Woche
Dabei seit: 16.09.2011
Mitteilungen: 2096
Zum letzten BeitragZum nächsten BeitragZum vorigen BeitragZum erstem Beitrag  Beitrag No.3, eingetragen 2021-03-05


Gut, dann müsste beim Ableiten ein $1/\ln(2)=-\ln(2)$ übrig bleiben. Das kannst du umschreiben zu $-\frac{\log_2(2)}{\log_2(e)}=\mathrm{ld}(e)$. Sorry, da war ich etwas blind, passt alles. Das Vorzeichen passt auch.

Achtung, die obige Aussage ist falsch, ich lasse sie aber drin, da sie zitiert wurde, richtige Aussage siehe mein nächster Post.



Eine Notiz zu diese Forumbeitrag schreiben Notiz   Profil  Quote  Link auf diesen Beitrag Link
Sinnfrei
Junior Letzter Besuch: im letzten Monat
Dabei seit: 30.06.2020
Mitteilungen: 17
Zum letzten BeitragZum nächsten BeitragZum vorigen BeitragZum erstem Beitrag  Beitrag No.4, vom Themenstarter, eingetragen 2021-03-05


Beim ableiten von ld(p_i) würde ich das ja erstmal auf den ln umschreiben, indem ich die Basis wechsel: - \(\operatorname{ld}(p_i) = - \frac{\ln{(p_i)}}{\ln{(2)}}\)

Das dann abgeleitet nach p_i ergibt doch dann:

- \(\frac{1}{p_i} \cdot \frac{1}{\ln{(2)}}\)

Wie kommst da auf

2021-03-05 16:23 - wessi90 in Beitrag No. 3 schreibt:
Gut, dann müsste beim Ableiten ein $1/\ln(2)=-\ln(2)$ übrig bleiben. Das kannst du umschreiben zu $-\frac{\log_2(2)}{\log_2(e)}=\mathrm{ld}(e)$. Sorry, da war ich etwas blind, passt alles. Das Vorzeichen passt auch.



Eine Notiz zu diese Forumbeitrag schreiben Notiz   Profil  Quote  Link auf diesen Beitrag Link
Folgende Antworten hat der Fragesteller vermutlich noch nicht gesehen.
wessi90
Senior Letzter Besuch: in der letzten Woche
Dabei seit: 16.09.2011
Mitteilungen: 2096
Zum letzten BeitragZum nächsten BeitragZum vorigen BeitragZum erstem Beitrag  Beitrag No.5, eingetragen 2021-03-06


Gar nicht, denn das was ich geschrieben habe, ist leider falsch. Was aber richtig ist, ist $1/\ln(2)=\mathrm{ld}(e)$ nach dem üblichen Basiswechsel und unter Berücksichtigung, dass natürlich $\mathrm{ld}(2)=1$ gilt. Sorry für die Verwirrung.



Eine Notiz zu diese Forumbeitrag schreiben Notiz   Profil  Quote  Link auf diesen Beitrag Link
Neues Thema [Neues Thema] Antworten [Antworten]    Druckversion [Druckversion]

 


Wechsel in ein anderes Forum:
 Suchen    
 
All logos and trademarks in this site are property of their respective owner. The comments are property of their posters, all the rest © 2001-2021 by Matroids Matheplanet
This web site was originally made with PHP-Nuke, a former web portal system written in PHP that seems no longer to be maintained nor supported. PHP-Nuke is Free Software released under the GNU/GPL license.
Ich distanziere mich von rechtswidrigen oder anstößigen Inhalten, die sich trotz aufmerksamer Prüfung hinter hier verwendeten Links verbergen mögen.
Lesen Sie die Nutzungsbedingungen, die Distanzierung, die Datenschutzerklärung und das Impressum.
[Seitenanfang]