атичної моделі активації нервової клітини. В якості активаційної функції штучної нейронної мережі вона записується таким чином:
=th (x). (2.5)
Рис. 2.4 Функція гіперболічного тангенса [3]
Подібно логістичної функції гіперболічний тангенс є S-образної функцією, але він симетричний відносно початку координат, і в точці NET=0 значення вихідного сигналу OUT дорівнює нулю (рисунок 2.4).
На відміну від логістичної функції гіперболічний тангенс приймає значення різних знаків, що виявляється вигідним для ряду мереж.
Розглянута проста модель штучного нейрона ігнорує багато властивості свого біологічного двійника. Наприклад, вона не бере до уваги затримки в часі, які впливають на динаміку системи. Вхідні сигнали відразу ж породжують вихідний сигнал. І, що більш важливо, вона не враховує впливів функції частотної модуляції або синхронизирующей функції біологічного нейрона, які ряд дослідників вважають вирішальними.
Незважаючи на ці обмеження, мережі, побудовані з цих нейронів, виявляють властивості, сильно нагадують біологічну систему. Тільки час і дослідження зможуть відповісти на питання, чи є подібні збіги випадковими або наслідком того, що в моделі вірно схоплені найважливіші риси біологічного нейрона [3].
. 4 одношарові персептрони
На вхід надходить тільки двійковий сигнал, тобто або 0 або 1. Елемент? (суматор) складає вхідні сигнали, зважені щодо відповідних синапсів нейрона. Якщо ця сума більше заданого порогового значення, вихід дорівнює 1, якщо менше - нулю. Т.к. вихідний сигнал приймає значення «0» або «1», тому персептрон - це нейрон бінарного типу. При функціонуванні персептрона розрізняють два режими його роботи:
режим навчання;
режим функціонування;
Модель персептрона, представлена ??на малюнку 2.5, складається з одного шару (тобто кількість шарів нейронів між входом і виходом дорівнює одиниці) штучних нейронів, з'єднаних за допомогою вагових коефіцієнтів з безліччю входів.
Малюнок 2.5 Структура одношарового персептрона [4]
.5 БАГАТОШАРОВИЙ ПЕСЕПТРОН
Багатошарова мережа складається з нейронів, які розташовані на різних рівнях. Крім вхідного і вихідного шарів є як мінімум ще один шар - прихований. При завданні функції активації Сигмоїдальні типу матимемо багатошаровий персептрон (малюнок 2.6).
Малюнок 2.6 Структура багатошарового персептрона [4]
У багатошаровому персептрони кожен нейрон на даному рівні ієрархії приймає і обрабають сигнали від кожного нейрона більш низького рівня.
Прихований шар нейронів дозволяє мережі навчатися вирішення складних завдань, послідовно витягуючи найбільш важливі ознаки з вхідного шару.
Багатошарові персептрони виявилися досить ефективними для вирішення різноманітних завдань управління [4].
. 6 НАВЧАННЯ нейронних мереж
Процес навчання нейронних мереж являє собою настройку архітектури мережі, а також її вагові коефіцієнти для ефективного вирішення поставленого завдання.
Мережа повинна налаштувати ваги по навчальних прикладів. Саме ця особливість навчання на прикладах і виділяє нейронні.
Існує два класи навчання:
детермінований метод навчання
стохастичний метод навчання
Детермінований метод
Установки мережі змінюються по кроках (итерациям), грунтуючись на поточних параметрах входів і бажаних виходів. Найбільш популярним прикладом детермінованого методу є алгоритм «зворотного поширення помилки»
Стохастичний метод
Установки мережі змінюються випадковим чином. Але зберігаються тільки ті зміни, які привели до поліпшень [5].
Навчання з учителем
Розглянемо парадигми навчання нейронних мереж. Почнемо з парадигми навчання з учителем. На малюнку 2.7 показана блокова діаграма, що ілюструє цю форму навчання.
Малюнок 2.7 Схема навчання мережі з учителем [4]
Концептуально участь вчителі можна розглядати як наявність знань про навколишнє середовище, представлених у вигляді пар вхід-вихід. При цьому сама середу невідома навченою нейронної мережі. Тепер припустимо, що вчителю і навченою мережі подається навчальний вектор з навколишнього середовища.
На основі вбудованих знань учитель може сформувати і передати навченою нейронної мережі бажаний відгук, відповідний даному вхідному вектору. Цей бажаний результат являє собою оптимальні дії, ...