Die Einführung der Entropie in die Informationstheorie hat viel Innovatives bewirkt, aber auch viel Verwirrung ausgelöst. Entropie deutet einen energetischen Zusammenhang zwischen Energie und Information an, der jedoch oft zu unzulässigen Schlussfolgerungen führt.