Передача інформації по дискретним і безперервним каналах зв'язку
Продуктивність джерела дискретних повідомлень
Мається
,
де М - обсяг алфавіту джерела.
.
Для такого джерела можемо визначити середню кількість інформації в повідомленнях (ентропію).
.
Джерело працює на інтервалі T і генерує за цей час кількість інформації.
,
швидкість видачі інформації джерелом, якщо процес ергодичний.
Якщо джерело видав n елементарних повідомлень, а тривалість повідомлень тоді:
.
Визначимо максимальну продуктивність джерела
.
Швидкість передачі інформації по дискретним каналам без перешкод. Оптимальне статистичне кодування
Якщо відсутні перешкоди, то при узгодженні джерела з каналом, швидкість передачі інформації дорівнює продуктивності джерела повідомлень:
.
Завданням статистичного кодування є максимізація швидкості передачі інформації по каналу зв'язку.
В даний час використовується двійкове кодування.
Щоб забезпечити максимальну швидкість передачі інформації по каналу без перешкод, необхідно реалізувати оптимальне статистичне кодування повідомлень джерела двійковим кодом. Можна довести, що для виконання ОСК необхідно виконати правило:
,
де - кількість символів у комбінації двійкового коду.
Т. е. кількість символів у кодовій комбінації повинно дорівнювати кількості інформації в кодованому повідомленні.
Існує ряд алгоритмів статистичного кодування. Основна мета всіх схем ОСК - мінімізація середньої тривалості кодових комбінацій. Необхідно здійснити кодування таким чином, щоб найбільш часто зустрічаються комбінації кодувалися найбільш короткими комбінаціями. Найбільш відомі схеми Шеннона-Фано і Хаффмена. Характерно те, що попередньо всі повідомлення записуються в порядку убування їх ймовірностей. Жодна коротка комбінація не є початком більш довгою. Саме це властивість дає можливість декодування.
В В
Кодові значення
Кодові комбінації
В
біт
В
0,5
1
1
1
1
В
0,25
0
1
01
2
2
В
0,125
0
0
1
001
3
3
В
0,125
0
0
0
000
3
3
Малюнок - Схема кодування Шеннона - Фано.
Оптимальне статистичне кодування забезпечує передачу інформації по каналах зв'язку з максимальною швидкістю. Недолік: перешкоди або збої в апаратурі, спотворення символу ведуть до спотворення всіх інших комбінацій.
Необхідно вводити інтервали між кодовими комбінаціями. Величина захисного інтервалу між комбінаціями повинна бути кратна тривалості імпульсу і не менш тривалості одного імпульсу. Це знижує гідності оптимального коду.
Швидкість передачі інформації і пропускна здатність дискретних каналів з перешкодами
Нехай джерело генерує повідомлення
В
Оцінимо швидкість передачі інформації-вхід,-вихід
- передане повідомлення
В
- варіанти прийнятих повідомлень.
Якщо відсутні перешкоди, то мають місце однозначні переходи. Якщо перешкоди присутні, то мають місце помилкові переходи. p> Матриця перехідних ймовірностей:
В
Вона показує ймовірність переходу переданого символу в ухвалений. Максимальне значення перехідних ймовірностей лежить на головній діагоналі матриці -.
Кількість інформації визначається як:
В
У разі відсутності помилок в передачі
.
Аналізуючи отримані повідомлення, можемо побудувати матрицю апостеріорних ймовірностей.
-апостериорная (Післядосвідна) ймовірність. br/>
, якщо прийнято вірно
В В
Ця величина визначає, яку ...
