pan align = "justify"> a 8 a 10 a 12
Потенційний мінімум будемо шукати за формулою (2.3) лекції
В
Так як код є двійковим, то підстава коду. Звідси випливає:
В
Тоді потенційний мінімум буде дорівнювати ентропії джерела:
В
Знайдемо ентропію джерела, користуючись теоремою Шеннона:
В
Підставивши в цю формулу задані значення, отримаємо:
В
Підставивши отримане значення в формулу для обчислення потенційного мінімуму, отримаємо:
В
Розрахуємо середню кількість символів, що припадають на одне повідомлення, за формулою (2.9) лекції:
В
m - кількість символів в коді.
Кількість символів в коді представлено в таблиці 3.
Таблиця 3
СообщеніеВероятность події P s Кількість символів в коді m s a 1 0,382 a 2 0,123 a 3 0,0714 a < span align = "justify"> 4 0,212 a 5 0,0136 a 6 0,0047 a 7 0,0127 a 8 0,034 a 9 0,02115 a 10 0,13 a 11 0,0195 a 12 0,01995
В
Знайдемо ефективність коду за формулою:
В
Підставивши знайдені значення в вищевказану формулу, отримаємо:
В
Відповідь: потенційний мінімум, середня кількість символів, що припадають на одне повідомлення, складає, ефективність коду дорівнює.
Завдання № 3.33
Закодувати потрійним кодом Фано ансамбль повідомлень, заданих таблицею 4.
Таблиця 4
a 1 a 2 a 3 a 4 a 5 a 6 span> a 7 a