Курсовая работа: Расчет информационных характеристик источников сообщений сигналов и кодов

Согласно (2.12.а) лекции эффективность кода находим, как:

.

Ответ : потенциальный минимум ; среднее количество символов, приходящихся на одно сообщение ; эффективность кода .

3.2 Задача № 3.54

Закодировать кодом Фано, с объемом алфавита М=5 , ансамбль

А1	А2	А3	А4	А5	А6	А7	А8	А9	А10	А11	А12
0,082	0,122	0,503	0,04	0,012	0,002	0,005	0,034	0,124	0,006	0,0395	0,0305

Закодировать произвольную комбинацию, состоящую из пяти символов ансамбля А; Определить потенциальный минимум среднего количества символов кода, приходящихся на одно сообщение ансамбля А; Определить среднее количество символов разработанного кода Фано, приходящихся на одно сообщение из ансамбля А; Рассчитать эффективность разработанного кода.

Решение :

Для удобства расположим вероятности появления сообщений в порядке убывания:

А3	0,503	0
А9	0,124	10
А2	0,122	210
A1	0,082	3210
А4	0,04	43210
А11	0,0395	443210
А8	0,034	4443210
А12	0,0305	44443210
А5	0,012	44444321
А10	0,006	44444432
А7	0,005	44444443
А6	0,002	44444444

Выберем из ансамбля А произвольную комбинацию из пяти символов и закодируем их полученным кодом Фано:

А₁ А₂ А₃ А₄ А₅

321021004321044444321

Потенциальный минимум будем искать по формуле (2.12) лекции:

;

Так как код является четверичным, тогда основание кода N = 5 . Следовательно:

.

Найдем энтропию источника, пользуясь мерой Шеннона:

;

Тогда потенциальный минимум

.

Рассчитаем среднее количество символов, приходящихся на одно сообщение:

, где

М – объем алфавита кода (М = 5 );

P_i – вероятность появления события;

n – количество символов в коде.

P1 = 0,82	n1 = 4
P2 = 0,122	n2 = 3
P3 = 0,503	n3 = 1
P4 = 0,004	n4 = 5
P5 = 0,012	n5 = 8
P6 = 0,002	n6 = 8
P7 = 0,005	n7 = 8
P8 = 0,034	n8 = 7
P9 = 0,124	n9 = 2
P10 = 0,006	n10 = 8
P11 = 0,0395	n11 = 6
P12 = 0,0305	n12 = 8

Согласно (2.12.а) лекции эффективность кода находим, как:

.