Ein weiteres wichtiges Mass in der Informationstheorie ist der Anteil einer Nachricht der keine Information erhält, die Redundanz R (Überfluss). Diese erhält man, indem man die relative Entropie von 1 abzieht. Sie gibt den Teil des Aufbaus der Nachricht an der nicht durch die Wahlfreiheit der Quelle, sondern eher von angenommenen statistischen Regeln bestimmt wird. Diesen Teil der Nachricht könnte man weglassen und die Nachricht wäre im wesentlichen immer noch vollständig oder könnte vervollständigt werden. Die Redundanz ist somit die Grundlage für die Datenkompression
In einem Binärcode gibt die Redundanz direkt an, um wieviele bit die verschlüsselte Nachricht die minimale Anzahl benötigter Zeichen überschreitet.

Der mittlere Informationsgehalt der Summe aller Buchstaben inkl. Zwischenraum der deutschen Sprache ist 4,9bit, wenn die Buchstaben und der Zwischenraum gleichverteilt sind. Berücksichtigt man jedoch die Wahrscheinlichkeitsverteilung der Buchstabenfolgen in Tabelle 1 und die Häufigkeiten der Di- und Trigramme in Tabelle 2 und 3 (Tabellen aus [3]. Literatur ), so erhält man H von nur 1,6bit. Die Redundanz der deutschen Schriftsprache ist somit 4,9bit - 1,6bit = 3,3bit. Dies bedeutet, dass ein Text auch dann noch lesbar wäre wenn jedes zweite Zeichen fehlen würde.

Die Redundanz an einem deutschen Text soll in folgenden Schaubild verdeutlicht werden, durch schrittweise Reduzierung der Redundanz bleibt der Text immer noch lesbar:

Tabelle 2: Die häufigsten Digramme der deutschen Sprache (Häufigkeiten in %%)

Tabelle 3: Die häufigsten Trigramme der deutschen Sprache (Häufigkeiten in %%)

Die Redundanz an einem deutschen Text soll in folgenden Schaubild verdeutlicht werden, durch schrittweise Reduzierung der Redundanz bleibt der Text immer noch lesbar: