нку 10: В
Рис. 10. Характеристика квантування. Залежність від. br/>
Розподіл ймовірностей квантованной послідовності представимо на малюнку 11:
повідомлення сигнал перетворення інформаційний
В
Рис. 11. Розподіл ймовірностей квантованной послідовності. p align="justify"> Графік функції розподілу ймовірності представимо на малюнку 12:
В
Рис. 12. Графік функції розподілу ймовірності. br/>
Ентропія характеризує кількісну міру невизначеності повідомлення до його прийому, тобто то кількість інформації, яке має бути в середньому отримано для впізнання будь-якого рівня з L-мірного їх безлічі. Ентропія дорівнює:
=
. (26)
Продуктивність в ДКС вЂ‹вЂ‹визначається співвідношенням:
. (27)
Надмірність послідовності джерела
, (28)
де - максимальна ентропія. Для джерела дискретних повідомлень:
, (29)
тоді.
ЗАВДАННЯ 5
Закодувати L-ічную послідовність двійковим безизбиточним кодом; виписати всі кодові комбінації коду і побудувати таблицю кодових відстаней коду. Розрахувати апріорні ймовірності P (0) і P (1) передачі нуля і одиниці за допомогою бінарного дискретного каналу зв'язку (ДКС); ширину спектру сигналу сигналу ІКМ. p> У кодере АЦП послідовність,, k = 0,1,2 ...., перетвориться в послідовність кодових символів. При організації цифрового зв'язку широке поширення набуло двійкове кодування, коли кодові символи приймають тільки два значення - і. Власне процедура двійкового безизбиточного кодування відліків полягає в наступному. p> Фізичні рівні,, спочатку пронумеровуються - замінюються їх номерами, тобто представляються у вигляді десяткових чисел від 0 до L-1. Потім ці десяткові числа представляють у двійковій системі числення з основа 2. Це подання має вигляд:
, (30)
де blj - двійковий символ l-го десяткового числа, розташований у j-й позиції кодової комбінації.
У нашому випадку L = 8, отже,.
Тобто
. (31)
Тоді отримуємо:
;
;
;
;
;
;
;
.
Утворюється сигнал імпульсно-кодової модуляції (ІКМ).
Кодовим відстанню Хемінга між двома двійковими кодовими комбінаціями і називають сумарний ефект від позиційного підсумовування за модулем двох кодових символів порівнюваних кодових комбінацій:
,. (32)
Тут - арифметична сума; - підсумовування по модулю два.
;
;
;
;
У табл. 7: l - номер рядка; m - номер стовпчика. br/>
Таблиця 7 - Таблиця кодових відстаней.
Розподіл ймовірностей щодо нульового рівня симетрично. Число одиниць і нулів в кодових комбінаціях, відповідних цим ймовірностям, також симетрично, тобто
,,....