Книга: Различные подходы к определению количества информации. Единицы измерения количества информации

(записывают определения)

Сколько таких равновероятных событий в алфавите может произойти для данного сообщения?

(отвечают) 33, по количеству букв в алфавите.

Сколько информации мы получим от одной из 33 букв?

(отвечают) 5,04 битов.

Почему столько? Как вы решали?

(отвечают) По формуле , где N = 33.

Получается мощность алфавита можно обозначить буквой N, так как это количество равновероятных исходов события: выпадение буквы (символа).

(Учащиеся записывают)

N – мощность алфавита, i – количество информации, которое несет каждый символ алфавита. Формула: .

Сколько информации содержит символ русского алфавита с учетом всех дополнительных знаков?

(отвечают) 5,75 битов.

А сколько информации содержат два таких символа?

(отвечают) В два раза больше.

А K символов?

(отвечают) В K раз больше, то есть К умноженное на информационный вес одного символа: K* i.

Если обозначим количество символов в данном тексте буквой К, общее количество информации во всем тексте буквой I, то можно вывести формулу. I = K * i

(Учащиеся записывают)

К – количество символов в тексте,

I – количество информации во всем тексте, тогда I = K * i

Хорошо. А теперь попробуйте вычислить количество информации в тексте Азора упала на лапу Ароза (если считать, что алфавит состоит из 33 символов)

бит

Молодцы. Таким образом, мы сегодня с вами научились измерять количество информации в тексте (символьном сообщении), составленном из символов некоторого алфавита, то есть познакомились с алфавитным подходом измерения информации. Для закрепления полученных знаний, выполните следующие задания. Слайд5

Задание 1

Пусть передается простое арифметическое выражение. Сколько информации содержит каждый из знаков?

(решают) Алфавит арифметических выражений состоит из 16 знаков: 0…9, «+», «-», «*», «/», «(», «)». N=16. Следовательно, , i=4 бит.

Задание 2

Чему равна информационная емкость знака двоичной знаковой системы?