Федеральне державне автономне освітня установа
вищої професійної освіти
«Сибірський федеральний університет»
Інститут Космічних і Інформаційних технологій
Кафедра «Системи штучного інтелекту»
Курсова робота
З дисципліни: «Інтелектуальні системи та технології»
Тема: «Метод навчання нейронних мереж (Правило зворотного поширення помилки)»
Студент
Непомняща Т.О.
Красноярськ
Зміст
Введення
. Теоретичний матеріал
. Навчання штучних нейронних мереж
. Алгоритм навчання мережі по D - правилом
. Алгоритм зворотного поширення помилки
. Виконання завдання за допомогою алгоритму навчання мережі по D - правилу. Реалізація в програмному продукті NeuroPro 0.25.
. Виконання завдання за допомогою алгоритму зворотного поширення помилки
Висновок
Використана література
Введення
Штучна нейронна мережа - математична модель, реалізована програмно або апаратно, побудована за подобою природних нейронних мереж (мереж нервових клітин живого організму), що представляє собою з'єднання простих взаємодіючих між собою процесів - штучних нейронів.
Найпростіша нейронна мережа - одношарова, що представляє із себе розташовані паралельно нейрони, які отримують на входи однакові сигнали, але мають різні синоптичні зв'язку.
Багатошарова штучна нейронна мережа може містити довільну кількість шарів, кожен шар складається з декількох нейронів, число яких також може бути довільно, кількість входів n, кількість виходів - числу нейронів у вихідному шарі.
Дельта-правило (? - правило) - метод навчання перцептрона (математична та комп'ютерна модель сприйняття інформації мозком) за принципом градієнтного спуску по поверхні помилки.
Метод зворотного поширення помилки - метод навчання багатошарового перцептрона. Основна ідея цього методу полягає в поширенні сигналів помилки від виходів мережі до її входів, в напрямку, зворотному прямому поширенню сигналів у звичайному режимі роботи.
Алгоритм навчання нейронних мереж:
. Формування структури мережі;
. Навчання;
. Тестування;
. Використання.
1. Теоретичний матеріал
нейронної алгоритм перцептрон програмний
Схема штучного нейрона представлена ??на рис. 1, де -входить нейрона, - синаптичні ваги зв'язків нейрона, S - зважена сума вхідних значень нейрона, F (S) - функція активації, значенням якої є Y - вихідне значення нейрона.
Рис. 1. Формальний нейрон (математична модель)
Опції активації можуть бути різними, але в даному варіанті курсової роботи використовується сигмоїдальна функція активації:
.,
де k=const.
Приклад цієї функції активації представлений на рис. 2.
Рис. 2. Графік сигмоидальной функції активації (приклад)
Існує безліч нейронних мереж, які класифікуються за кількома ознаками (табл. 1). Найбільшого поширення набули шаруваті мережі прямого поширення.
Таблиця 1 - Типи штучних нейронних мереж
ТіпОпісаніеПо топологііПолносвязниеКаждий нейрон пов'язаний з іншим нейроном в мережі (через високу складності навчання не використовується) .СлоістиеНейрони розташовуються словвсі, кожен нейрон наступного шару пов'язаний з нейронами попереднього. Є односіхойние і багатошарові сеті.По типом связейПрямого распространеніяВсе зв'язки між нейронами йдуть від виходів нейронів попереднього шару до входів нейронів последующего.РекуррентниеДопускаются зв'язку виходів нейронів наступних шарів з входами нейронів предидущіх.По організації обученіяС учітелемПрі навчанні використовуються навчальні вибірки, в яких визначені необхідні від мережі вихідні значення, такі мережі використовують для вирішення завдань классіфікаціі.Без учітеляНейронная мережа сама в процесі роботи виділяє класи об'єктів і відносить об'єкт до певного класу, такі мережі використовують для задач кхастерізаціі.По типом сігналаБінарниеНа вхід нейронних мереж подають тільки нулі чи едініци.АналоговиеПодаваемие на входи нейронів сигнали аюгуг бути довільними (вещеетвеінимі числами) .По типом структурОднороднаяВсе нейрони в нейронної мережі використовують одну функцію актіваціі.НеоднороднаяНейрони в нейронної ...
