Реферат: Информационные характеристики систем передачи сообщений
,
,
,
Где 
- вероятность ошибки воспроизведения символа 
.
Скорость передачи информации определяется формулой:
(бит/с)
Пропускная способность дискретного канала связи определяется следующим выражением:
,
где 
В каналах без помех 
.
Информационные характеристики непрерывных сообщений. Краткие теоретические сведения.
Источник непрерывных сообщений характеризуется тем, что в каждый момент времени 
сообщение 
может принимать бесконечное множество значений с бесконечно малой вероятностью каждого и них, и, если бы сообщение могло передаваться абсолютно точно без искажений, оно несло бы бесконечное количество информации. Однако на практике при передаче информации всегда имеют место искажения и количество информации, содержащееся в принятом непрерывном сообщении, определяется разностью значений энтропий сообщения до и после получения информации. Эта разность является конечной величиной.
Пусть - реализация непрерывного сообщения на входе канала связи, 
– реализация выходного сообщения; 
- одномерная плотность вероятности входных сообщений, 
- одномерная плотность вероятности выходных сообщений, 
- условная плотность вероятности 
при известном 
(апостериорная вероятность); 
- условная плотность вероятности при известном , 
- совместная плотность вероятности. Тогда будут иметь место следующие выражения:
1. Энтропия источника непрерывных сообщений:
,
где 
- интервал квантования (точность измерения);
2. Дифференциальная энтропия источника непрерывных сообщений:
б,
Определяющая количество информации в битах, приходящейся в среднем на один отсчет.
3. Максимальная дифференциальная энтропия источника непрерывных сообщений:
Которая имеет место при нормальной плотности распределения случайного процесса:
,
- математическое ожидание случайной величины,
- дисперсия этой величины,
- основание натурального логарифма.
4. Полная средняя взаимная информация:
,
где 
- дифференциальная энтропия сообщения на выходе канала связи: