Question

В школьной библиотеки 64 книжных полки. Сколько информации содержится в сообщении что книга находится на 5 полки

Answer 1

Указывая полку, мы делаем выбор 1 из 64 возможных, т.е. неопределенность в наших знаниях о номере полки снижается в 64 раза. Заметим, что 64 - это два в шестой степени. А формула Харли для равновероятных событий определяет количество информации, как двоичный логарифм от величины уменьшения неопределенности, т.е. результатом будет как раз показатель степени двойки - шесть.
Ответ: в сообщении содержится 6 бит информации.