саме повідомлення будуть передаватися. Нехай обсяг алфавіту (число символів алфавіту) К, а ймовірність видачі символу (1? I? K) p (аi), де p (аi) - ймовірність видачі символу алфавіту.
До числа основних інформаційних характеристик повідомлень відносяться: кількість інформації в окремих повідомленнях, ентропія і продуктивність джерела повідомлень .
Кількість інформації в повідомленні (символі) вимірюється в бітах. Біт - одиничний елемент кодової комбінації з основою коду, рівним двом.
Чим менше ймовірність появи того чи іншого повідомлення, тим більша кількість інформації ми витягаємо при його отриманні. Якщо в пам'яті джерела є два незалежних повідомлення (а1 і А2) і перший з них видається з імовірністю P (а1)=1, то повідомлення аi не несе інформації, бо воно заздалегідь відомо одержувачу.
Було запропоновано визначати кількість інформації, яке припадає на одне повідомлення ai, виразом. Середня кількість інформації Н (А), яке припадає на одне повідомлення, яке надходить від джерела без пам'яті, отримаємо, застосувавши операцію усереднення по всьому об'єму алфавіту
; Біт / с (1)
Вираз (2) відомо як формула Шеннона для ентропії джерела дискретних повідомлень. Ентропія - Міра невизначеності у поведінці джерела дискретних повідомлень. Ентропія дорівнює нулю, якщо з імовірністю одиниця джерелом видається завжди одне і те ж повідомлення (у цьому випадку невизначеність у поведінці джерела повідомлень відсутній). Ентропія максимальна, якщо символи джерела з'являються незалежно і з однаковою ймовірністю. Звідси 1 біт - це кількість інформації, яка переносить один символ джерела дискретних повідомлень в тому випадку, коли алфавіт джерела складається з двох рівноймовірно символів.
Якщо в попередньому прикладі взяти р (а1)? р (а2), то Н (А) < 1 біт / повідомл.
Середня кількість інформації, що видається джерелом в одиницю часу, називають продуктивністю джерела:
, [біт / с], (2)
де Т - середній час, що відводиться на передачу одного символу (повідомлення).
Для каналів передачі дискретних повідомлень вводять аналогічну характеристику - швидкість передачі інформації по каналу R. Вона визначається кількістю біт, переданих в секунду. R=B * k / n, біт. Сек., Де В-швидкість модуляції, k-кількість інформаційних елементів в кодової комбінації, загальна кількість одиничних елементів в кодовою комбінації.
Повідомлення, яке надходить від джерела, перетворюється на сигнал, який є його переносником в системах електрозв'язку. Система електрозв'язку забезпечує доставку сигналу з однієї точки простору в іншу із заданими якісними показниками. Схема передачі повідомлень, до складу якої входять перетворювачі повідомлення - сигнал - повідомлення, наведена на рис. 2.
Малюнок 2. Принцип передачі повідомлень
Види сигналів. Розрізняють чотири види сигналів: безперервний безперервного часу, безперервний дискретного часу, дискретний безперервного часу і дискретний дискретного часу. [5]
Безперервні сигнали безп...
