посіб кодування джерела повідомлень. Кодування, при якому досягається найкраще використання пропускної здатності каналу, називається ефективним. До ефективних належить, зокрема, код Шеннона - Фано, придатний для кодування статистично незалежних повідомлень. Використовуємо цей код для досягнення максимальної швидкості передачі інформації.
Записують повідомлення в порядку убування їх ймовірностей. Проводять перший розподіл всіх повідомлень на дві підгрупи I і II так, щоб сума ймовірностей повідомлень в підгрупах I і II була б по можливості однаковою.
Таблиця 1
Повідомлення X i Імовірність P (X i) Номер поділу на подгруппиСімвол кодаДлітельность кодової комбінації, ti Позіціі123123Х 2 0,49 01 t Х 3 0,25102 t Х 1 0,1251103 t Х 4 0,1351113 t
При першому розподілі вийшли підгрупи: I - 0,49; II - 0,25 + 0,125 + 0,125=0,51. У другому розподілі: I - 0,25; II - 0,125 + 0,135=0,26. У заключному діленні вийшли підгрупи: I - 0,135; II - 0,125.
Номер підгрупи, в яку потрапляє дане повідомлення при кожному діленні, визначає символ на відповідній позиції коду цього повідомлення. У розглянутій таблиці приналежність до підгрупи I позначається символом 0, а до підгрупи II - символом 1.
Аналізуючи нерівномірний код Шеннона - Фано, можна переконатися в тому, що найбільш вірогідного повідомленням відповідає найкоротша кодова комбінація, найменш ймовірного - довга. Цим можна пояснити збільшення швидкості передачі інформації при використанні даного коду. Для наочності в таблиці 2 для повідомлень х 1, х 2, х 3, х 4 наведені нерівномірний код Шеннона - Фано і рівномірний, використовуваний раніше в прикладі 1.
Таблиця 2
Повідомлення xi Код Шеннона - ФаноРавномерний кодX 2 000X 3 1001X 1 11010x 4 11111
Код Шеннона - Фано володіє ще одним істотним властивістю: дозволяє декодувати повідомлення без введення додаткових розділових символів між кодовими комбінаціями, що призводять до зниження швидкості передачі інформації. Дійсно, в розглянутому прикладі короткі комбінації не збігаються з початком інших довших кодових комбінацій. Тому можливо однозначне декодування послідовності кодових комбінацій, формованих безперервно без застосування розділових символів.
Для обчислення швидкості передачі інформації при використанні коду Шеннона - Фано обчислимо для початку тривалість повідомлення:
с.
Знаходимо швидкість передачі інформації:
Таким чином, код Шеннона - Фано дозволив узгодити статистичні характеристики джерела повідомлень з каналом зв'язку, оскільки швидкість передачі інформації виявилася ближче до пропускної здатності каналу: (як мінімум, gt;, які вийшли б при тривалості повідомлень). Це можна пояснити тим, що при використанні ефективного коду Шеннона - Фано сигнал кожного повідомлення в середньому складається з 1,77 символів, а при використанні рівномірного коду - з 2-х.
Порушення умови формування коду Шеннона - Фано, що полягає в тому, що найбільш вірогідного повідомленням повинна відповідати найбільш коротка кодова комбінація, неминуче призведе до зниження швидкості передачі інформації.
Висновок
Теорія інформації є одним з курсів при підготовці інженерів, що спеціалізуються в області автоматизованих систем управління та обробки інформації. Функціонування таких систем істотно пов'язано з отриманням, підготовкою, передачею, зберіганням і обробкою інформації, оскільки без здійснення цих етапів неможливо прийняти правильне рішення і здійснити необхідну управляє вплив, що є кінцевою метою функціонування будь-якої системи.
Комплексна автоматизація процесів сприйняття, перетворення, передачі, обробки і відображення інформації з метою прийняття оптимальних керуючих впливів здійснюється в рамках створення автоматизованих систем управління (АСУ) на різних рівнях - від підприємства до народного господарства в цілому.
Основою рішення багатьох теоретичних проблем створення АСУ є теорія інформації, що надає можливості для комплексного інформаційного розгляду складних систем.
Список використаних джерел
1. Автоматизовані інформаційні технології в економіці: Підручник/М.І. Семенов, І.Т. Трубилин, В.І.Лойко, Т.П. Барановський; За заг. ред. І.Т. Трубілін. М .: Фінанси і статистика, 2000
. Дмитрієв В.І. Прикладна теорія інформації. М .: Вища школа, 1989
. Теорія передачі сигналів: Підручник для вузів/А.Г. Зюко, Д.Д. Кловський, М.В. Назаров, Л.М. Фінк. М .: Связь, 1988
