Question

Все нужно делать через форумлу шенона,находя вероятность.
1)Алфавит племени мульти состоит из 32 символов. Члены племени используют в своей речи и письме только слова длинной в восемь символов, причем все слова начинаются или с символа А или с символа О, остальные буквы в слове могут быть любыми. Какое количество информации несет одно слово этого племени. ответ не 36 и не 40

2)В алфавите племени МУМУ всего 4 буквы (А, У, М, К), один знак препинания (точка) и для разделения слов используется пробел. Подсчитали, что в популярном романе «Мумука» содержится всего 10000 знаков, из них: букв А - 4000, букв У - 1000, букв М - 2000, букв К - 1500, точек -500, пробелов - 1000. Какое количество информации содержит книга? ответ не 30000

3)В корзине лежат 8 черных шаров и 24 белых. Сколько бит информации несет сообщение о том, что достали черный шар? ответ не 2 бит ( может быть )

Answer 1

1)
первый символ в слове - 1 бит
Остальные 7 символов - по 5 бит,
Итого одно слово 36 бит
как сюда прикрутить формулу Шеннона - не знаю. И не вижу необходимости.
2) 
букв А n=4000 p=0,4 (-p*log_2 p)=0,5287  
букв У n=1000 p=0,1 (-p*log_2 p)=0,3322
букв М n=2000 p=0,2 (-p*log_2 p)=0,4644
букв К n=1500 p=0,15 (-p*log_2 p)=0,4105
точек n=500 p=0,05 (-p*log_2 p)=0,2161
пробелов n=1000 p=0,1 (-p*log_2 p)=0,3322
просуммируем последний столбик, и получим 
среднее количество информации с одного символа = 2,28 бита 
На 10 тысяч символов  22841,8371 бита
То же самое получится, если количество символов определённого вида умножать на шенноновское количество информации с этого символа
3)
вероятность добыть чёрный шар p = 8/32 = 1/4
- log_2 p = 2 бита :)

Answer 2

1) С преподом вам придётся договариваться самостоятельно.

Answer 3

2) это оно и есть, подсчёт вероятности символа, подсчёт по Шеннону количества информации в этом символе, умножение на количество таких символов в тексте, суммирование.

Answer 4

3) Преподаватель с подвывертом? Спрашивайте старшекурсников, может, что подскажут.

Answer 5

Новый препод

Answer 6

Она говорит что вероятность выпадения а и о не ровна вероятности остальных и от этого делать