Учебное пособие: Розрахунок та оптимізація характеристик систем електрозвязку
Коефіцієнт надлишковості джерела ? обчислюється за формулою (4.10) з [1]. В цю формулу підставляються обчислене значення епсилон-ентропії Н e (B ) і максимально можливе значення Н e max (B ), що досягається для гауссового розподілу ймовірності сигналу b (t ) з тією ж дисперсією сигналу .
Таблиця 1 – Розрахункові формули для диференціальної ентропії
Розподіл імовірності |
Диференціальна ентропія h (B), біт/відлік |
Гауссів розподіл (крива 1 на рис. 3)
| |
Двосторонній експоненційний розподіл (крива 2 на рис. 3)
| |
Рівномірний розподіл (крива 3 на рис. 3)
|
Продуктивність джерела R д = , яку називають епсилон-продуктивністю, обчислюють в припущенні, що відліки слідують через інтервал Котельникова – формула (4.67) з [1]. У цій формулі F c - максимальна частота спектру первинного сигналу F max . Вимоги до пропускної здатності неперервного каналу зв'язку формулюються на основі теореми кодування Шеннона для каналу із завадами [1, розд. 4.6].
5.2 Розрахунок інформаційних характеристик джерела дискретних повідомлень
Вихідні дані:
- обсяг алфавіту джерела М a ;
- імовірності знаків Р (аk ), що утворюють алфавіт джерела (припускається, що знаки в повідомленнях незалежні);
- тривалість передачі одного знаку Т зн .
Вимагається розрахувати:
- ентропію джерела Н (А) ;
- коефіцієнт надлишковості джерела ?;
- продуктивність джерела R д .
Розрахункові формули і порядок розрахунку
Розрахунки інформаційних характеристик можна виконати на основі матеріалу, викладеного в розд. 4.1 підручника [1]. Необхідні для розрахунків імовірності літер в українському, російському і англійському текстах наведені в табл. 2, 3 і 4. Розрахунки ентропії джерела слід виконувати на ЕОМ або програмованому калькуляторі.
Таблиця 2 – Розподіл імовірностей літер в українських текстах
Літера | Імовір-ність | Літера | Імовір-ність | Літера | Імовір-ність | Літера | Імовірність |
Пропуск | 0.122 | Р | 0.040 | З | 0.018 | Ж | 0.007 |
О | 0.090 | С | 0.034 | Й | 0.017 | Ц | 0.006 |
А | 0.074 | Л | 0.034 | Б | 0.016 | Ю | 0.006 |
И | 0.059 | К | 0.032 | Я | 0.015 | Ї | 0.006 |
І | 0.055 | У | 0.032 | Г | 0.013 | Є | 0.003 |
Н | 0.053 | Д | 0.026 | Ч | 0.012 | Ф | 0.002 |
В | 0.047 | П | 0.026 | Ш | 0.010 | ||
Т | 0.044 | М | 0.023 | Х | 0.008 | ||
Е | 0.041 | Ь | 0.021 | Щ | 0.008 |
Таблиця 3 – Розподіл імовірностей літер у російських текстах
Літера | Імовір-ність | Літера | Імовір-ність | Літера | Імовір-ність | Літера | Імовір-ність |
Пропуск | 0.175 | Р | 0.040 | Я | 0.018 | Х | 0.009 |
О | 0.089 | В | 0.038 | Ы | 0.016 | Ж | 0.007 |
Е, Ё | 0.072 | Л | 0.035 | З | 0.016 | Ю | 0.006 |
А | 0.062 | К | 0.028 | Ь, Ъ | 0.014 | Ш | 0.006 |
И | 0.062 | М | 0.026 | Б | 0.014 | Ц | 0.004 |
Т | 0.053 | Д | 0.025 | Г | 0.013 | Щ | 0.003 |
Н | 0.053 | П | 0.023 | Ч | 0.012 | Э | 0.003 |
З | 0.045 | У | 0.021 | Й | 0.010 | Ф | 0.002 |
Таблиця 4 – Розподіл імовірностей літер в англійських текстах
Літера | Імовір-ність | Літера | Імовір-ність | Літера | Імовір-ність | Літера | Імовір-ність |
Пропуск | 0.198 | R | 0.054 | U | 0.022 | V | 0.008 |
E | 0.105 | S | 0.052 | M | 0.021 | K | 0.003 |
T | 0.072 | H | 0.047 | P | 0.017 | X | 0.002 |
O | 0.065 | D | 0.035 | Y | 0.012 | J | 0.001 |
A | 0.063 | L | 0.029 | W | 0.012 | Q | 0.001 |
N | 0.059 | C | 0.023 | G | 0.011 | Z | 0.001 |
I | 0.055 | F | 0.022 | B | 0.010 |
Продуктивність джерела R д легко визначити, якщо знати ентропію і тривалість передачі одного знаку [1, формула (4.11)].
Вимоги до пропускної здатності дискретного каналу зв'язку формулюються на основі теореми кодування Шеннона для каналу із завадами [1, розд. 4.6].