Для оценки качества кода необходимо знать энтропию, рассчитывающуюся по формуле Шеннона:
(5.3)
Н = 3.241 бит/символ
Для оптимальности кода необходимо выполнение следующего условия:
(5.4)
1. Расчет показателя избыточности сообщения
Расчет показателя избыточности сообщения будет осуществляться по следующей формуле:
(5.5)
где Н – энтропия сообщения, написанного на алфавите, в котором буквы распределяются со своей вероятностью
Нmax – энтропия сообщения, написанного на алфавите, в котором буквы распределяются с равной вероятностью
Нmax = log2 n (5.6)
В таком случае, подставив формулу (5.7) в (5.6), получим:
R = 0.096
2.Расчет показателя избыточности кода
Расчет показателя избыточности кода осуществляется по следующей формуле:
|
|
Rk (5.7)
Rk = 0.009
3. Расчет показателя недогруженности кода
Расчет показателя недогруженности кода осуществляется по следующей формуле:
D (5.8)
D = 0.03
Кодирование сообщения методом Хаффмана
Код Хаффмана строится на базе кодового дерева – специального графа, отображающего запись всех возможных k-ичных n-разрядных чисел. Дерево представляет собой совокупность узлов, которые располагаются на разных уровнях.
Рис. 5.1. Кодовое дерево