Електричний телеграф був розроблений Семюелем Морзе і демонструвався в 1837 р. Морзе винайшов двійковий код зміною довжини, в якому букви англійського алфавіту представлені послідовністю точок і тире (кодові слова). У цьому коді часто зустрічаються букви представлені короткими кодовими словами, в той час як літери, що зустрічаються менш часто, - коротшими кодовими словами. Таким чином, код Морзе був попередником методів кодування джерел кодом змінної довжини.
Майже 40 роками пізніше, в 1875р., Еміль Бодо винайшов код для телеграфного зв'язку, в якому кожна буква кодувалася двійковим кодом фіксованої довжини 5. У коді Бодо елементи двійкового коду мають рівну довжину і іменуються посилкою і паузою.
Хоча Морзе належить перша електрична система цифрового зв'язку (Телеграфний зв'язок), початок того, що ми тепер вважаємо сучасною теорією цифрового зв'язку, випливає з робіт Найквіста (1924), що досліджував проблему визначення максимальної швидкості передачі, яку можна забезпечити за телеграфному каналу даної ширини смуги частот без межсимвольной інтерференції (МСІ). Він сформулював модель телеграфного системи, в якій передається сигнал має загальну форму
(1.1)
де g (t) - базова форма імпульсу (несучої); {а n } - послідовність даних у двійковому коді (В± 1), переданих зі швидкістю 1/Гбіт/с.
Найквіст намагався визначити оптимальну форму імпульсу g (t) з обмеженою смугою W Гц і максимізувати швидкість передачі даних в припущенні, що імпульс не викликає МСІ у точках відліку kT, k = 0, В± 1, В± 2, ... Ці дослідження привели його до висновку, що максимальна швидкість передачі дорівнює 2W отсч./с. Цю швидкість тепер називають швидкістю Найквіста. Більше того, цю швидкість передачі можна досягти при використанні імпульсу g (t) = sin2ПЂWt/(2ПЂWt). Ця форма імпульсу допускає відновлення даних без міжсимвольних перешкод в вибіркові моменти часу. Результат Найквіста еквівалентний версії теореми відліків для сигналів з Обмеженою смугою, який був пізніше точно сформульований Шенноном (1948). Теорема відліків свідчить, що сигнал з шириною смуги частот W може бути відновлений за його відліками, взятим зі швидкістю Найквіста 2W, шляхом використання інтерполяційної формули
(1.2)
У продовження роботи Найквіста Хартлі (1928) розглянув питання про кількості даних, які можуть бути передані надійно по каналу з обмеженою смугою частот, коли для послідовної передачі даних використовуються імпульси з багатьма амплітудними рівнями. З урахуванням шуму та іншої інтерференції Хартлі показав, що приймач може надійно оцінювати амплітуду прийнятого сигналу з деякою точністю. Це дослідження привело Хартлі до висновком, що мається максимальна швидкість передачі даних по каналу з обмеженою смугою частот, що залежить від максимальної амплітуди сигналу А m ах (фіксованою максимальної потужності) і величини.
Іншим значним внеском у розвиток теорії зв'язку була робота Вінера (1942), який розглянув проблему оцінювання корисного сигналу s (f) на тлі адитивного шуму n (f), виходячи з спостереження прийнятого сигналу r (t) = s (t) + n (t). Ця проблема виникає при демодуляції сигналів. Вінер визначив лінійний фільтр, вихід якого є найкращою среднеквадратической апроксимацією корисного сигналу s (f). Отриманий фільтр названий оптимальним лінійним (винеровским) фільтром.
Результати Хартлі та Найквіста по максимальній швидкості передачі цифрової інформації були попередниками робіт Шеннона (1948), який встановив математичні основи передачі інформації по каналах зв'язку і знайшов фундаментальні обмеження для систем цифрового зв'язку. У своїй піонерської роботі Шеннон сформулював основну проблему надійної передачі інформації в термінах статистичної теорії зв'язку, використовуючи імовірнісні моделі для інформаційних джерел і каналів зв'язку. Застосовуючи імовірнісний підхід, він знайшов універсальну логарифмічну міру для кількості інформацією джерела. Він також показав, що існує деякий граничний показник, характеризує швидкість передачі інформації по каналу зв'язку, що залежить від величини потужності передавача, ширини смуги і інтенсивності адитивного шуму, названий їм пропускною здатністю каналу. Наприклад, у разі адитивного білого (з рівномірним спектром) гауссівського шуму ідеальний частотно-обмежений канал з шириною смуги W має пропускну здатність С ', біт/с, яка визначається формулою
В
де Р - середня потужність сигналу, a nq - спектральна щільність потужності адитивного шуму. Значення параметра пропускної здатності каналу С 'полягає в тому, що якщо інформаційна швидкість (продуктивність) джерела R менше, ніж C '(R <С'), то теоретично можливо забезпечити надійну (вільну від помилок) передачу через канал відповідним кодуванням. З іншого боку, якщо R> З ', то надійна передача неможлива, незалежно від способів обробки сигналу на...
