Курсовая работа: Расчет информационных характеристик источников сообщений, сигналов и каналов

По формуле Байеса:

Итак,

2.2 Задача № 2.48

Двоичный источник с равновероятными элементами имеет производительность U’=1500 бит в секунду. При передачи по каналу в среднем один из 100 символов принимается ошибочно. Определить скорость передачи инфориации по данному каналу.

Решение:

U₁ Z₁ “1”

U₂ Z₂ “0”

Рисунок 3 – Дискретный канал

Ситуация в канале характеризуется данным рисунком 3. В среднем один из 100 символов принимается ошибочно, поэтому вероятность ошибки будет составлять р_о =1/100=0,01. Тогда вероятность правильного принятия будет вычисляться из следующего выражения: 1-р₀ =1-0,01=0,99.

Таким образом, канал описывается распределением вероятностей:

P(Z₁ /U₁ )=P(Z₂ /U₂ )=0,99

P(Z₁ /U₂ )=P(Z₁ /U₂ )=0,01

P(U₁ )=P(U₂ )=0,5- дано по условию

Скорость передачи информации вычисляется по формуле:

I’(U,Z)=H’(U)-H’(U/Z),

а энтропия будет равна 1 биту, так как

0,5log₂ +0,5log₂ =1

H’(U)=V_C *H(U), где V_C =1500 c^-1

I’(U,Z)=H’(U)-H’(U/Z)

H’(U/Z)=V_C *H(U/Z)

Условные вероятности можно найти по формуле Байеса:

H(U/Z)=-P(Z₁ )[P(U₁ /Z₁ )log₂ P(U₁ /Z₁ )+P(U₂ /Z₁ )log₂ P(U₂ /Z₁ )]-P(Z₂ )[P(U₁ /Z₂ )log₂ P(U₁ /Z₂ )+ P(U₂ /Z₂ )log₂ P(U₂ /Z₂ )]