Решение задачи. Для измерения информации в дискретном сигнале используем геометрическую меру и подсчитаем число символов в соответствующих закодированных сообщениях (нижний

Для измерения информации в дискретном сигнале используем геометрическую меру и подсчитаем число символов в соответствующих закодированных сообщениях (нижний индекс означает номер задания):

L₂=80 двоичных символов,

L₃=80 двоичных символов,

L₄=80 двоичных символов,

L₅=80 двоичных символов = 20 алфавитных символов,

L₆=80 двоичных символов = 20 алфавитных символов,

L₇=71 двоичный символ,

L₈=71 двоичный символ.

Измерим количество информации, содержащейся в 1 кодовой комбинации построенных в предыдущих заданиях кодов:

1) для кодов постоянной длины (задания 2–5) подсчитаем число двоичных разрядов в кодовых комбинациях. Получим:

l ₂ = l ₃ = l ₄ = l ₄ = 4 двоичных символа,

2) для эффективных кодов (задания 7, 8) используем среднее число двоичных разрядов l _ср, применяемое для кодирования символов исходного алфавита, которое рассчитывается по формуле:

,

где f_i – частота символа,

n_i – число двоичных разрядов в коде i – го символа,

N – число символов в исходном алфавите А,

Ø длязадания 7 (см. таблицу 7.2):

l _ср = 0, 2*2+0, 15*3+0, 1*3*2+0, 05*4*3+0, 05*5*6=3, 55 бита,

Ø для задания 8 (см. таблицы 8.1, 8.2):

l _ср = 0, 2*2+0, 15*3+0, 1*3+0, 1*4+0, 05*4*5+0, 05*5*4=3, 55 бита,

3) для определения общей эффективности кодов применим статистическую меру измерения информации, содержащейся в одном символе исходного алфавита: это значение определит l _пр - предельное количество двоичных разрядов, достаточное для кодирования символов исходного алфавита. Для расчета используем формулу:

.

Тогда получим (см. частоты в таблице 7.1):

l _пр = -(2*(0, 1* log₂0, 1) + 0, 2* log₂0, 2 + 0, 15*log₂0, 15 + 9*(0, 05*log₂0, 05)) = 3, 48418 бита.

Таким образом, все построенные коды являются избыточными. Однако минимальной избыточностью обладают эффективные коды: они минимально отличаются от предельного значения числа двоичных разрядов.