Информатика, программирование / Учебное пособие: Расчет информационных характеристик дискретного канала

Учебное пособие: Расчет информационных характеристик дискретного канала

А= (У,ж,и,з,н,е,с,т,ь,ч,в,о,ю,м,р,а, .)

i	a_i	v_i	P(a_i )	I(a_i )	H
1	У	2	0,077	3,700	0,285
2	ж	1	0,038	4,700	0,181
3	и	2	0,077	3,700	0,285
4	з	1	0,038	4,700	0,181
5	н	1	0,038	4,700	0,181
6	е	1	0,038	4,700	0,181
7	с	2	0,077	3,700	0,285
8	т	2	0,077	3,700	0,285
9	ь	1	0,038	4,700	0,181
10	ч	1	0,038	4,700	0,181
11	в	2	0,077	3,700	0,285
12	о	2	0,077	3,700	0,285
13	ю	1	0,038	4,700	0,181
14	м	1	0,038	4,700	0,181
15	р	1	0,038	4,700	0,181
16	а	1	0,038	4,700	0,181
17	_	4	0,154	2,700	0,415
Суммы	26	1,000	3,931

H(А)= logl_a = log16 = 4 [бит/символ]

H_max (A)= log22= 4,4594 [бит/символ]

2. Канальные матрицы (КМИ, КМП, КМО) и их взаимосвязь

Канальная матрица определяет действие помех на дискретном канале.

Канальные матрицы бывают трёх видов: канальная матрица источника, канальная матрица приёмника и канальная матрица объединения.

Канальная матрица источника (КМИ)

Канальная матрица источника состоит из условных вероятностей принимаемых сигналов относительно переданных сигналов , которые отражают действие помех на канал.

Эта матрица отражает статистические характеристики действия помех. Канальная матрица источника является матрицей прямых переходов переданных сигналов в принятые сигналы .

Каждая строка КМИ представляет собой распределение условных вероятностей принятых сигналов относительно переданных сигналов . Все эти условные вероятности p(b_j /a_i ) и образуют КМИ.

Канальная матрица приемника (КМП)

Дискретный канал полностью задан, если известны безусловные вероятности приема сигналов и задана канальная матрица приемника.

Условные вероятности р(a_i /b_j ) приёма сигналов относительно переданных сигналов составляют канальную матрицу приемника (КМП) и отражают действие помех на канале.