одової комбінації при їх рівноймовірної передачу для двійкової системи:
В
Це максимальна кількість.
Первинні коди можуть розділятися на 2 групи: рівномірні і нерівномірні.
Нерівномірні коди будують так, що їх кодові комбінації складаються з різного числа кодових елементом.
Незручність: через різного числа розрядів на прийомі важко розрізнити комбінації один від одного. При цьому необхідно передавати додаткові розділові знаки. Це призводить до зниження швидкості передачі (код Морзе). p> Нерівномірність ускладнює його автоматизований прийом. Тому використовують рівномірний кодування - постійне число одиничних елементів у всіх кодових комбінаціях. Кількість їх визначається максимальним числом підлягають передачі символів. Загальне число кодових комбінацій одно. У телеграфії зазвичай потрібно передавати 30-32 букви, 10 цифр, 10-13 знаків пунктуації та службових знаків, тобто 50-55 символів. Проте для зменшення розрядності коду зручно одними і темі ж кодовими комбінаціями позначити і букви і цифри, але перекинь регістри, тоді необхідно комбінації зменшувати, так само 25-27 n = 5 (32 комбінації) стандартний міжнародний ТЛГ код (МТК-2). Крім букв російського і латинського алфавіту, цифр і знаків пунктуації він містить функціональні символи: повернення каретки, пробіл, перенесення. p> Розвиток техніки передачі даних, впровадження ЕОМ в систему управління призвели до суттєвого збільшення числа переданих символів, тому був розроблений KOI-7.
4. Кількість інформації і надмірність ДС.
Якщо порівняти код Морзе і МТК, то Морзе мене економічний, тому що при передачі однакових повідомлень він вимагає в 2 рази більше часу. Але і МТК - 2 теж не економічний. Для того щоб порівнювати інформаційну здатність коду використовується поняття ентропії - середня кількість інформації в довгому джерелі повідомлення. br/>В
Якщо передавати до повідомлень і вони рівноймовірні, то, і тоді максимальна інтерполяція:
В
Якщо всі символи російського алфавіту були рівномірні, то ентропія була б 5 біт/символ і тоді кожен елемент коду МТК-2 передавав би максимальну кількість інформації - ефективне безізбиточное кодування. Реально ймовірність букв не однакова:
біт/символ;
У зв'язку з цим вводиться поняття коефіцієнт надмірності - яка частина інформації можна було б передбачити заздалегідь з урахуванням статистичних властивостей джерела і не передавати її:
В
Для коду МТК-2.
Для цього повідомлення намагаються кодувати так, щоб у досить довгої послідовності кодової комбінації символи 1 і 0 зустрічалися з однаковою ймовірністю. Від надмірності намагаються позбутися:
1) Метод: код Шеннона-Фано - алфавіт джерела будують у порядку зменшення ймовірності. Потім алфавіт розбивається на групи і підгрупи, таким чином, щоб забезпечити при кожному розбитті забезпечити однакову ...
