Реферат: Передача информации по дискретным и непрерывным каналам связи
Оценим скорость передачи информации -вход, -выход
- передаваемое сообщение
- варианты принимаемых сообщений.
Если отсутствуют помехи, то имеют место однозначные переходы. Если помехи присутствуют, то имеют место ошибочные переходы.
Матрица переходных вероятностей:
Она показывает вероятность перехода переданного символа в принятый . Максимальное значение переходных вероятностей лежит на главной диагонали матрицы - .
Количество информации определяется как:
В случае отсутствия ошибок в передаче
.
Анализируя принятые сообщения, можем построить матрицу апостериорных вероятностей.
-апостериорная (послеопытная) вероятность.
, если принято верно
Эта величина определяет, какое количество информации необходимо ещё получить, чтобы сообщение стало достоверно. Такое количество информации было потеряно в канале связи при передаче сообщения .
Количество информации, полученное получателем:
Взаимная информация - количество переданной информации содержащейся в при приёме :
Нас интересует среднее количество информации, доставленной на выход канала одним принятым сообщением:
- энтропия источника, т.е. среднее количество информации, которое содержится в каждом переданном символе.
- энтропия потерь, т.е. среднее количество информации, которое теряется при передаче символа.
- среднее количество информации, которое доставляется потребителю при приеме одного сообщения.