Учебное пособие: Расчет информационных характеристик дискретного канала

Критерий Фано

Полученный ОНК Хаффмена обязан обладать свойством пре-фиксности, то есть ни одно слово ОНК не должно являться началом другого слова. Критерий Фано позволяет однозначно декодировать сжатое сообщение.

Cообщение примет вид:

S=1001101011011111001001010101100011101010011101000100001100010111101111111001100101101000

Характеристики ОНК

1. Средняя длина ОНК

L_cp.онк = 4.23 [бит]

2. Энтропия ОНК

H(A)= 1,18 [бит/символ]

3. Максимальная энтропия

H_max = log 17= 4,08 [бит/символ]

4. Относительная энтропия

5. Информационная избыточность

6. Абсолютная недогруженость

7. Коэффициент сжатия

К_с = 1- L_cp.онк / L_РДК = 0,15 = 15 %

8. Коэффициент эффективности К_э

К_э =Н/ L_cp.онк = 0,27

Эффективность ОНК тем выше, чем больше средняя длина ОНК стремится к энтропии.

6.4Эффективность ОНК

Однозначно декодировать ОНК можно с помощью критерия Фано, который говорит о свойстве префиксности, которым обладают коды. Благодаря сжатию информации возможно значительно сократить исходный код.

Эффективность ОНК можно определить с помощью коэффициента эффективности, то есть чем ближе К_э стремится к единице, тем эффективнее оптимальный неравномерный код.

ОНК не обладает избыточностью, так как к нему не прикрепляются контрольные биты.

7. Помехоустойчивое кодирование. Назначение

Назначение помехоустойчивого кодирования состоит в защите данных от действия помех.

Эти коды делятся на две группы: