Question

Синоптики подсчитали, что в течении 100 лет 10 марта было 34 дождливых дня, снег выпал 28 раз и 38 дней было без осадков. Определить количество информации в сообщениях, что 10 марта текущего года:
Будет снег
Будет дождь
Осадков не будет

Answer 1

Количество информации можно определить по известной формуле Хартли, но некоторым её бывает поначалу сложно запомнить. Поэтому можно пользоваться следующим методом: находим логарифм по основанию 2 отношения общего количества возможностей к интересующему. У нас общее количество равно 101 (по числу прошедших лет плюс текущий год).
Тогда информация о снеге будет нести ㏒₂(101/29) ≈ 1.8 бит (мы берем 29, потому что 28 раз снег шел за 100 лет и еще один раз в текущий, 101й год).
Аналогично, по дождю получаем ㏒₂(101/35) ≈ 1.53 бит и по отсутствию осадков ㏒₂(101/39) ≈ 1.37 бит.

Возможно, что текущий год учитывать в задаче не требуется, и тогда получим:
- будет снег: ㏒₂(100/28) ≈ 1.84 бит
- будет дождь ㏒₂(100/34) ≈ 1.56 бит
- осадков не будет ㏒₂(100/38) ≈ 1.40 бит

Answer 2

Мне бы как раз по Хартли

Answer 3

А это и есть по Хартли, только чуть преобразовано. Там было бы с минусом перед логарифмом, а под знаком логарифма дробь надо перевернуть. Тогда логарифм будет таким же, только с минусом, а минус перед логарифмом даст плюс и ответ не поменяется.

Answer 4

Т.е. -log(a/b) = log(b/a)