незалежно, то ентропія джерела буде нижче своєї максимальної величини H MAX (Х) = log 2 N . У цьому випадку можливе більш економне кодування. При цьому на кожен вихідний символ в середньому буде витрачено n * = Н (Х) символів коду. Для характеристики можливого ступеня стиснення використовується коефіцієнт надмірності R хат = 1-Н (Х)/H MAX (Х). Для характеристики ж досягнутого ступеня стиснення на практиці застосовують так званий коефіцієнт стиснення Кcж. Коефіцієнт стиснення - це відношення початкового розміру даних до їх розміру в стислому вигляді, - зазвичай дається у форматі К.сж: 1 Шляхом нескладних міркувань можна отримати співвідношення R хат ≥ 1-1/Kcж. p> Відомі методи стиснення спрямовані на зниження надмірності, викликаної як нерівній апріорної ймовірністю символів, так і залежністю між порядком надходження символів. У першому випадку для
кодування вихідних символів використовується нерівномірний код. Часто з'являються символи кодуються більш коротким кодом, а менш ймовірні (рідко зустрічаються) - більш довгим кодом. p> Усунення надмірності, обумовленої кореляцією між символами, засноване на переході від кодування окремих символів до кодуванню груп цих символів. За рахунок цього відбувається укрупнення алфавіту джерела, так як число N теж зростає. Загальна надмірність при укрупненні алфавіту не змінюється. Однак зменшення надмірності, обумовленої взаємними зв'язками символів, супроводжується відповідним зростанням надмірності, обумовленої нерівномірністю появи різних груп символів, тобто символів нового укрупненого алфавіту. Відбувається як би конвертація одного виду надмірності в інший. p> Таким чином, процес усунення надмірності джерела повідомлень зводиться до двох операцій - декорреляции (укрупнення алфавіту) та кодування оптимальним нерівномірним кодом. p> Стиснення буває з втратами і без втрат. Втрати допустимі при стисненні (і відновленні) деяких специфічних видів даних, таких як відео і аудіоінформація. У міру розвитку ринку відеопродукції та систем мультимедіа все більшої популярності набуває метод стиснення з втратами MPEG 2 (Motion Pictures Expert Group), забезпечує коефіцієнт стиснення до 20:1. Якщо відновлені дані збігаються з даними, які були до стиснення, то маємо справу зі стисненням без втрат. Саме такого роду методи стиснення застосовуються при передачі інформації в СПД. p> На сьогоднішній день існує безліч різних алгоритмів стиснення даних без втрат, що підрозділяються на кілька основних груп. p> Кодування повторів (Run-Length Encoding, RLE).
Цей метод є одним з найстаріших і найбільш простим. Він застосовується в основному для стиснення графічних файлів. Самим поширеним графічним форматом, що використовують цей тип стиснення, є формат PCX. Один з варіантів метод...
