ду. По одній букві:
За дві букви:
5. Пропускну здатність каналу зв'язку
Хаффман код Шеннон символ
Пропускна здатність - метрична характеристика, що показує співвідношення граничної кількості проходять одиниць (інформації, предметів, обсягу) в одиницю часу через канал, систему, вузол. В інформатиці визначення пропускної здатності зазвичай застосовується до зв'язку й визначається максимальною кількістю переданої чи отриманої інформації за одиницю часу.
Завдання: Визначити пропускну здатність каналу зв'язку, по якому передаються сигнали Si. Перешкоди в каналі визначаються матрицею умовних ймовірностей P (Si/Sj). За секунду може бути передано N=10 сигналів.
Варіант №23.
Рішення. Розрахуємо умовну ентропію за формулою.
Розрахуємо пропускну здатність каналу зв'язку за формулою.
Умовна ентропія.
Пропускна здатність каналу зв'язку.
висновок
У рамках контрольної роботи були вивчені різні алгоритми вирішення завдань на визначення середньої кількості інформації, що міститься в повідомленні, визначення пропускної здатності каналу зв'язку і алгоритми кодування повідомлень (метод Шеннона-Фано, алгоритм Хаффмана).
Було виконано 5 завдань:
. Визначити середню кількість інформації, що міститься в повідомленні, використовуваному три незалежні символу S1, S2, S3. Відомі ймовірності появи символів p (S1)=p1, p (S2)=p2, p (S3)=p3. Оцінити надмірність повідомлення.
. У умови попередньої задачі врахувати залежність між символами, яка задана матрицею умовних ймовірностей P (Si/Sj).
. Провести кодування за однією і блоками по дві букви, використовуючи метод Шеннона - Фано. Порівняти ефективності кодів (величина ентропії). Дані взяти із задачі 1.
. Алфавіт переданих повідомлень складається з незалежних букв Si. Ймовірності появи кожної букви в повідомленні задані. Визначити і порівняти ефективність кодування повідомлень методом Хаффмана при побуквенном кодуванні і при кодуванні блоками по дві букви.
. Визначити пропускну спроможність каналу зв'язку, по якому передаються сигнали Si. Перешкоди в каналі визначаються матрицею умовних ймовірностей P (Si/Sj). За секунду може бути передано N=10 сигналів.
Прості обчислення і кодування повідомлень в завданнях були зроблені вручну, більш складні були зроблені за допомогою середовища розробки MATLAB R2014a. Формули і вирішення завдань були введені за допомогою програми MathType.
список літератури
1. Звєрєва Е.Н. Збірник прикладів і завдань з основ теорії інформації та кодування повідомлень/Е.Н. Звєрєва, Е.Г.Лебедько.- СПб: НДУ ІТМО, 2014. - 76 с.
. Калинця С.В. Методичні вказівки до контрольної роботи з курсу «Теорія кодування»/С.В.Калінцев.- 2012. - 20 с.
