Question

В корзине 11 белых грибов и 19 подосиновиков. Сколько информации в сообщении, что из корзины взяли наугад подосиновик?

Answer 1

I=log₂(1/P)
P=K/N
P=19/30
I=log₂(30/19)=log₂1.6≈log₂2≈1 бит
Ответ: 1 бит

Answer 2

1) Определим шанс вытащить подосиновик.
Всего грибов 11+19 = 30, тогда шанс составляет 19/30
2) Существует формула Хартли для оценки количества информации, получаемого при свершении одного из равновероятных событий. Это как раз наш случай - мы наугад вытаскиваем любой гриб. Не будем разбирать эту формулу, её можно найти в учебниках и в Интернет, а воспользуемся практическим способом нахождения количества информации на её основе.
Нужно просто взять логарифм по основанию 2 от величины, обратной искомому шансу свершения события, т.е. ㏒₂(30/19) ≈ 0.66.
Это и есть количество информации в битах.
Если с логарифмами проблема, можно поставить вопрос иначе: найти такой показатель степени числа 2, после возведения в которую получится 30/19 ≈ 1.579. Мы знаем, что 2⁰=1, 2¹=2, т.е. ответ должен быть где-то между 0 и 1. Если нужен целочисленный ответ - принимаем 1 бит.

Ответ: 0.66 бита или 1 бит округленно