Введення
сигнал кодування інформаційний дискретний
Ефективна організація обміну інформації набуває все більшого значення як умова успішної практичної діяльності людей. Обсяг інформації, необхідної для нормального функціонування сучасного суспільства зростає пропорційно квадрату розвитку промислового потенціалу. Частка робочої сили, зайнятої питаннями забезпечення інформації, перевищує частку робочої сили, зайнятої безпосередньо у виробництві. Тому, науки, що вивчають структуру і закономірності перебігу інформаційних процесів, до числа яких належить і теорія інформації, в такій ситуації стають виключно актуальними. p align="justify"> Розрахунок інформаційних характеристик дискретних повідомлень і дискретних каналів, а також їх узгодження є першочерговими завданнями теорії інформації. Метою даного курсового проекту є вирішення подібних завдань. p align="justify"> Курсовий проект включає чотири розділи. Перший розділ - розрахунок інформаційних характеристик джерел дискретних повідомлень. У процесі виконання даного етапу курсового проекту було складено докладний вирішення трьох завдань: на визначення ентропії шуму в двійковому симетричному каналі без пам'яті, на визначення продуктивності джерела. p align="justify"> Другий розділ - розрахунок інформаційних характеристик дискретного каналу - містить два завдання. У результаті вирішення першого завдання були знайдені апостеріорні ймовірності. Друге завдання спрямована на визначення пропускної здатності каналу і швидкості передачі інформації. p align="justify"> Третій розділ курсового проекту спрямований на вирішення завдань у галузі ефективного кодування. У перших двох здійснювалося кодування методом Фано, в інших - методом Хаффмена. p align="justify"> Останній розділ, що містить два завдання, присвячений завадостійке кодування. Перше завдання передбачає оцінити, чи можлива безпомилкова передача повідомлень джерела за допомогою бінарного симетричного каналу, а в разі відсутності такої можливості оцінити мінімально неминучі втрати інформації в одиницю часу. У другій задачі потрібно побудувати виробляє матрицю лінійного двійкового блокового коду, здатного виправляти одиночну помилку при передачі дискретних повідомлень джерела. br/>
1. Розрахунок інформаційних характеристик джерел дискретних повідомлень
Завдання № 1.26
Розподіл ймовірностей дискретної випадкової величини має вигляд: p ( x 1 ) = 0,362133; p < span align = "justify"> ( x 2 ) = 0, 15; p ( x 3