Grundlagen Kodierung

• Informationsgehalt eines Symbols xi mit der Auftrittswahrscheinlichkeit p(xi):

• • je geringer Wahrscheinlichkeit für Symbol, desto höher Informationsgehalt

• mittlerer Informationsgehalt (Entropie):

• max. Entropie bei n Symbolen:

• • Symbole sind gleichverteilt