="justify"> 8 a 9 a 10 a 11 a 12 0,380,120,0710,210,0130,0040,0120,030,02110,10,0190,0199
Закодувати довільну комбінацію, що складається з 5 символів з ансамблю {a i }. Визначити потенційний мінімум середньої кількості символів коду, що припадають на одне повідомлення ансамблю {a i } і середня кількість символів, розробленого коду Фано, припадають на одне повідомлення з {a i }. Розрахувати ефективність розробленого коду.
Рішення:
Для зручності кодування розташуємо ймовірності появи повідомлень у порядку убування. Результат представлений в таблиці 5. br/>
Таблиця 5
a 1 0,3800 a 4 0,211010 a 2 0,12111 a 10 0,12020 a 3 0,07110210 a < span align = "justify"> 8 0,031211 a 9 0, 021120220a 12 +0,0199102210 a 11 0,01912211 a 5 0,013202220 a 7 0,01212221 a 6 0,00422222
Виберемо з ансамблю {a i } довільну комбінацію з п'яти символів і закодуємо їх отриманим кодом Фано:
a 1 a 2 a 3 a 4 a 5
Потенційний мінімум будемо шукати за формулою (2.3) лекції
В
Так як код є потрійним, то підстава коду. Звідси випливає:
В
Знайдемо ентропію джерела, користуючись теоремою Шеннона:
В
Підставивши в цю формулу задані значення, отримаємо:
В
Підставивши отримане значення ...
