b> t
u2 = 0,6 c,
t u3 = 0,5 c,
t u4 = 0,3 c. Визначити продуктивність джерела. p> Рішення:
Продуктивність джерела визначається як сумарна ентропія повідомлень, переданих за одиницю часу:
В
Користуючись формулою Шеннона, знаходимо:
біт
Середній час визначимо як
В
Звідки
В
Підставимо у формулу отримані дані і отримаємо продуктивність джерела:
(біт/с)
Відповідь: продуктивність джерела біт/с .
2 Розрахунок інформаційних характеристик дискретного каналу
Завдання № 2.3
На вхід дискретного симетричного каналу без пам'яті поступають виконавчі символи і з апріорними ймовірностями p (U1) = 0,15 і p (U2) = 0,85. Перехідні ймовірності в такому каналі задаються співвідношенням, де p - ймовірність помилки, p = 0,1. p> Визначити всі апостеріорні ймовірності.
Рішення:
Ситуація в каналі характеризується схемою, зображеної на малюнку 2.1:
В
Малюнок 2.1
Так як р - ймовірність помилки, отже ймовірність правильного прийому - q, причому
В
Знайдемо перехідні ймовірності:
У такому каналі кожен кодовий символ може бути прийнятий з помилковою ймовірністю:
В
Але не вся інформація, що передається по каналу може бути помилковою. Таким чином, правильно передана інформація описується таким розподілом ймовірностей:
В
За формулою Байєса визначимо апостеріорні ймовірності:
В
Використовуючи формулу Байєса, отримуємо:
В В В В
Відповідь: апостеріорні ймовірності становлять відповідно,, і.
Завдання № 2.51
По каналу зв'язку передається повідомлення з ансамблю. Середня тривалість передачі одного елемента повідомлення в каналі? = 0,5 мс. Шум в каналі відсутня. Визначити пропускну спроможність каналу та швидкість передачі інформації. p align="justify"> Рішення:
У відповідність з формулою (1.25а) лекції пропускна здатність дискретного каналу без шуму визначається:
, де М = 8,
Підставляючи у формулу (1.25а) отримані значення, отримуємо
В
Швидкість передачі інформації визначається за формулою:
, де
, тому що = 0,
тому шум відсутній. Ентропію знайдемо за формулою Шеннона:
В
Підставляючи вихідні значення у формулу, отримуємо:
В В
Відповідь:,
3. Узгодження дискретного джерела з дискретним каналом без шуму. Ефективне кодування
Завдання № 3.3
Закодувати двійковим кодом Фано ансамбль повідомлень {a i }, заданих таблицею 1.
Таблиця 1
