ізики, математики, інформатики, схемотехніки і технології. Тому поняття нейронні мережі детально визначити складно.
Штучні нейронні мережі (НС) - сукупність моделей біологічних нейронних мереж. Являють собою мережу елементів - штучних нейронів - пов'язаних між собою синоптичними сполуками. Мережа обробляє вхідну інформацію і в процесі зміни свого стану в часі формує сукупність вихідних сигналів.
Робота мережі полягає в перетворенні вхідних сигналів в часі, в результаті чого змінюється внутрішній стан мережі і формуються вихідні впливи. Зазвичай НС оперує цифровими, а не символьними величинами.
Більшість моделей НС вимагають навчання. У загальному випадку, навчання - такий вибір параметрів мережі, при якому мережу найкраще справляється з поставленою проблемою. Навчання - це завдання багатовимірної оптимізації, і для її вирішення існує безліч алгоритмів.
Штучні нейронні мережі - набір математичних і алгоритмічних методів для вирішення широкого кола завдань. Виділимо характерні риси штучних нейромереж як універсального інструменту для вирішення завдань:
НС дають можливість краще зрозуміти організацію нервової системи людини і тварин на середніх рівнях: пам'ять, обробка сенсорної інформації, моторика.
НС - засіб обробки інформації:
гнучка модель для нелінійної апроксимації багатовимірних функцій;
засіб прогнозування в часі для процесів, що залежать від багатьох змінних;
класифікатор за багатьма ознаками, що дає розбиття вхідного простору на області;
засіб розпізнавання образів;
інструмент для пошуку по асоціаціям;
модель для пошуку закономірностей у масивах даних.
НС вільні від обмежень звичайних комп'ютерів завдяки паралельній обробці і сильною пов'язаності нейронів.
У перспективі НС повинні допомогти зрозуміти принципи, на яких побудовані вищі функції нервової системи: свідомість, емоції, мислення.
Сучасні штучні НС за складністю та інтелекту наближаються до нервової системи таргана, але вже зараз демонструють цінні властивості:
Обучаемость. Вибравши одну з моделей НС, створивши мережу і виконавши алгоритм навчання, ми можемо навчити мережу вирішення завдання, яка їй під силу. Немає жодних гарантій, що це вдасться зробити при вибраних мережі, алгоритмі і завданню, але якщо все зроблено правильно, то навчання буває успішним.
Здатність до узагальнення. Після навчання мережа стає нечутливою до малих змін вхідних сигналів (шуму або варіаціям вхідних образів) і дає правильний результат на виході.
Здатність до абстрагування. Якщо пред'явити мережі декілька перекручених варіантів вхідного образу, то мережа сама може створити на виході ідеальний образ, з яким вона ніколи не зустрічалася.
. Штучні нейронні мережі
.1 Формальний нейрон
Біологічний нейрон - складна система, математична модель якого досі повністю не побудована. Введено безліч моделей, що розрізняються обчислювальною складністю і схожістю з реальним нейроном. Одна з найважливіших - формальний нейрон (Малюнок 2.1.1). Незважаючи на простоту ФН, мережі, побудовані з таких нейронів, можуть сформувати довільну багатовимірну функцію на виході.
Малюнок 2.1.1 - Формальний нейрон
Нейрон складається з зваженого суматора і нелінійного елемента. Функціонування нейрона визначається формулами:
(1) (2)
де хi - вхідні сигнали, сукупність всіх вхідних сигналів нейрона утворює вектор x; - вагові коефіцієнти, сукупність вагових коефіцієнтів утворює вектор ваг w; - зважена сума вхідних сигналів, значення NET передається на нелінійний елемент;
?- Пороговий рівень даного нейрона; - нелінійна функція, звана функцією активації.
Нейрон має кілька вхідних сигналів x і один вихідний сигнал OUT Параметрами нейрона, визначальними його роботу, є: вектор ваг w, пороговий рівень? і вид функції активації F.
. 2 Види функцій активації
Розглянемо основні види функцій активації, що одержали поширення в штучних НС.
. Жорстка сходинка (малюнок 2.2.1):
Використовується в класичному формальному нейроні. Розвинена повна теорія, що дозволяє синтезувати довільні логічні схеми на основі ФН з такою нелінійністю. Функція обчислюється двома-трьома машинними інструкціями, тому нейрони з такою нелінійністю вимагають малих обчислювальних витрат.
Ця функція надмірно спрощена і не дозволяє моделювати схеми з безперервними сигналами. Відсутність першої похідної ускладнює застосування градієнтних методів для навчання таких нейронів. Мережі на класичних ФН найчастіше формуються, синтезуються, тобто їх параметри розраховуються за формулами, на противагу навчанню, коли параметри підлаштовуються итеративно.
. Логіс...
