му символу 1-р не залежить від того, який символ передається, а також від того, як прийняті інші символи. Ймовірність того, що замість переданого символу bi буде прийнятий символ bj (i = j) дорівнює р/(т-1). Звідси легко вивести, що ймовірність отримання на виході каналу комбінації bj, якщо на вхід подана комбінація bi
P (bj | bi) = [p/(m-1)] d (i; j) (1-p) nd (i; j)
Це випливає безпосередньо з теореми множення ймовірностей незалежних подій і з того, що для переходу bi в bj необхідно, щоб на певних d {i; /) розрядах відбулися певні помилки, а на інших розрядах символи були прийняті вірно.
Таким чином, в симетричному каналі без пам'яті,
(bj; bi)
залежить тільки від кодового відстані між bi і bj. У випадках, коли p <(ml)/m, що практично завжди виконується, вираз монотонно убуває із збільшенням d (i; j). Отже, ймовірність прийняти комбінацію bj тим більше, чим менше її кодова відстань від переданої комбінації bj. p align="justify"> Завданням декодера є прийняття рішення про те, яка кодова комбінація передавалася, якщо прийнята комбінація bj, зрозуміло, рішення, прийняте декодером, не завжди вірне. Однак можна домагатися мінімуму ймовірності помилкового декодування. Нехай P (bi | bj) - умовна ймовірність того, що передавалася комбінація bi, якщо прийнята комбінація bj. Цю умовну ймовірність називають апостеріорної ймовірністю на відміну від безумовної апріорної ймовірності Р (bi) того, що передається bi, коли нічого ще не відомо про прийнятої комбінації. Припустимо, що декодер за прийнятою комбінації bj вирішив, що передавалася комбінація bft. Ймовірність того, що це рішення вірно, очевидно, дорівнює P (bi | bj). Щоб ця ймовірність була максимально можливою, декодер повинен з усіх дозволених комбінацій bi (i = l, ..., М) вибрати ту, для якої апостериорная ймовірність максимальна. Це правило декодування. по максимуму апостеріорної ймовірності можна записати скорочено так:
P (bi | bj).
З теорії ймовірності відомо, що P (bi | bj) = P (bi) (P (bj | bi)/P (bj)) (5.11) Формула Байєса.
Якщо, як часто буває на практиці, всі дозволені кодові комбінації рівноймовірні (P (bi) = const = l/M), то з (5.11) випливає, що максимум апостеріорної ймовірності збігається з максимум умовної ймовірності P (bj | bi), яку називають функцією правдоподобія1. Правило декодування по максимуму правдоподібності можна скорочено записати так:
P (bj | bi)
а ця ймовірність, як видно, в симетричному каналі без пам'яті визначається тільки кодовою відстанню між bi і bj. Отже, в такому каналі заборонену комбінацію bj слід декодувати, як ту дозволену комбінацію bi, яка знаходиться на найменшій відстані від bj. Інакше кажучи, в підмножина У ^ слід включити всі ті комбінації bj, які ближче (в...
