Die Einheit des Informationsgehaltes heisst bit (basic indissoluble information unit). Wird oft verwechselt mit der Einheit für die Darstellung von Daten mit Hilfe binärer Zeichen Bit ("binary digit").
Es gibt im Gegensatz zu "bit" nur ganzzahlige "Bit". Zur Darstellung von n bit werden mindestens n Bit benötigt.

Erscheint am Empfänger immer nur das gleiche Zeichen, so ist p=1 und I=0 bit. Es wird keine Information übertragen, da feststeht, welches Zeichen als nächstes in der Zeichenkette (Nachricht) auftreten wir. Die Nachricht ist somit leer. Sendet die Nachrichtenquelle beide Dualzeichen mit gleicher Wahrscheinlichkeit, d.h. p=1/2, so ist I=1 bit für jedes einzelne Zeichen. Sendet die Quelle n verschiedene Zeichen mit den gleichen Wahrscheinlichkeiten p=1/n, dann ist

Annahme:
Alle 30 Zeichen (29 Buchstaben + Zwischenraum) sind gleich verteilt.
Dann gilt p = 1/30. Der Informationsgehalt I = -log 1/30 = log 30 = 4,9 bit.

Folgerung:
Zur binären Darstellung eines Zeichens benötigt man daher mindestens 5 Bit.

Diese Betrachtung ist jedoch stark vereinfacht, da die Buchstaben nicht mit gleicher Wahrscheinlichkeit auftreten.

Bei analogen Signalen lässt sich der Informationsgehalt nur nach Umwandlung von analog auf digital berechnen. Dazu wird das Signal in "m" diskrete und gleich grosse Werte zerlegt. Der Informationsgehalt für das analoge Signal ist dann log m.

Beispiel: Ein beliegbiges Telefongespräch wird digitalisiert, in dem die Schallamplituden in 128 Stufen unterteilt werden. Jeder Amplitudenwert kann damit durch eine Folge von 7 binären Zeichen dargestellt werden. Dies geschieht 5000mal pro Sekunde. Eine Nachricht von 1s Dauer enthält somit den I = 35000 bit Information.

Achtung: Solche statistische Information besitzt wie wir jetzt wissen keinerlei Bedeutung.