n> 20a 3 220a 4 21a 5 22202a 6 span> 22200a 7 22201a 8 2221a 9 22222a 10 221a 11 22220a 12 22221
Виберемо з ансамблю повідомлень {a i } довільну комбінацію з п'яти символів і закодуємо їх отриманим кодом Фано: span>
a 4 a 6 a 8 a 10 a 12
Потенційний мінімум будемо шукати за формулою (2.3) лекції
В
Так як код є потрійним, то підстава коду. Звідси випливає:
В
Знайдемо ентропію джерела, користуючись теоремою Шеннона:
В
Підставивши в цю формулу задані значення, отримаємо:
В
Підставивши отримане значення в формулу для обчислення потенційного мінімуму, отримаємо:
В
Розрахуємо середню кількість символів, що припадають на одне повідомлення, за формулою (2.9) лекції:
В
де Ps - ймовірність появи події;
m - кількість символів в коді.
Кількість символів в коді представлено в таблиці 14.
Таблиця 14
СообщеніеВероятность події P s Кількість символів в коді m s a 1 0,381 a 2 0,122 a 3 0,0713 a < span align = "justify"> 4 0,212 a 5 0,0135 a 6 0,0045 a 7 0,0125 a 8 0,034 a 9 0,02115 a 10 0,13 a 11...