Реферат: Передача информации по дискретным и непрерывным каналам связи

Оценим скорость передачи информации -вход, -выход

- передаваемое сообщение

- варианты принимаемых сообщений.

Если отсутствуют помехи, то имеют место однозначные переходы. Если помехи присутствуют, то имеют место ошибочные переходы.

Матрица переходных вероятностей:

Она показывает вероятность перехода переданного символа в принятый . Максимальное значение переходных вероятностей лежит на главной диагонали матрицы - .

Количество информации определяется как:

В случае отсутствия ошибок в передаче

.

Анализируя принятые сообщения, можем построить матрицу апостериорных вероятностей.

-апостериорная (послеопытная) вероятность.

, если принято верно

Эта величина определяет, какое количество информации необходимо ещё получить, чтобы сообщение стало достоверно. Такое количество информации было потеряно в канале связи при передаче сообщения .

Количество информации, полученное получателем:

Взаимная информация - количество переданной информации содержащейся в при приёме :

Нас интересует среднее количество информации, доставленной на выход канала одним принятым сообщением:

- энтропия источника, т.е. среднее количество информации, которое содержится в каждом переданном символе.

- энтропия потерь, т.е. среднее количество информации, которое теряется при передаче символа.

- среднее количество информации, которое доставляется потребителю при приеме одного сообщения.