шару,
- для проміжних шарів,
де t-номер поточної ітерації циклу навчання (номер епохи),
- коефіцієнт навчання задається від 0 до 1, - вихід i-нейрона k-шару,
- синаптична зв'язок між j-нейроном шару k - 1 і i-нейроном шару k,
-желаемое вихідне значення на i-нейроні,
- реальне значення на i-нейроні вихідного шару.
крок: перевірка умови продовження навчання (обчислення значення помилки і/або перевірка заданої кількості ітерацій). Якщо навчання не завершено, то 2 крок, інакше закінчуємо навчання. Середньоквадратична помилка обчислюється таким чином:
де Q - загальна кількість прикладів,
Н - кількість нейронів у вихідному шарі,
- бажане вихідне значення на i-нейроні,
- реальне значення на i-нейроні вихідного шару.
. Виконання завдання за допомогою алгоритму навчання мережі по D - правилу. Реалізація в програмному продукті NeuroPro 0.25.
Завдання 1: прорахувати одну ітерацію циклу навчання по?-правілу одношарової бінарної однорідної нейронної мережі, що складається з 3 нейронів і має сигмоїдальну функцію активації (k=1). В якості навчальної вибірки використовувати таблицю істинності для X1? X2 amp; X3, X1 amp; X2 і X1 amp; X3 (не використовувати першу сходинку таблиці). Синаптичні ваги задати випадковим чином.
1. Навчальна вибірка, представлена ??в табличному вигляді (розмір матриці 6x7):
. Опис усіх вхідних і вихідних сигналів мережі:
. Після опису всіх вхідних і вихідних сигналів мережі необхідно задати її структуру (число шарів нейронів, число нейронів у кожному шарі і характеристику - коефіцієнт перетворювача нейрона).
. Результат формування структури мережі:
5. Нехай ваги бінаризованими синапсів задаються за кроком 0.1:
. ?? ербалізація мережі:
. Аналіз навчальної множини:
8. Результат тестування нейронної cети:
. Результат навчання нейронної мережі:
. Виконання завдання за допомогою алгоритму зворотного поширення помилки.
Завдання 2: прорахувати одну ітерацію циклу навчання методом зворотного поширення помилки багатошарової аналогової неоднорідною нейронної мережі, що складається з 2 шарів, причому в першому шарі знаходиться 3 нейрона, а в другому - 2. Функція активації нейронів мережі -гіперболічний тангенс (k=3) функція. Синаптичні ваги і навчальну вибірку задати випадковим чином (Не нулі).
. Навчальна вибірка, представлена ??в табличному вигляді (розмір матриці 3x4):
. Опис усіх вхідних і вихідних сигналів мережі:
2. Після опису всіх вхідних і вихідних сигналів мережі необхідно задати її структуру (число шарів нейронів, число нейронів у кожному шарі і характеристику - коефіцієнт перетворювача нейрона).
. Результат формування структури мережі:
4. Вербалізація мережі:
. Аналіз навчальної множини:
. Значимість вхідних сигналів:
7.Результат тестування нейронної мережі:
. Результат навчання нейронної мережі:
Висновок
В результаті виконаної мною були вивчені дві нейронні мережі: одношарова і багатошарова. Для одношарової мережі використовується алгоритм навчання мережі по?- Правилом, для багатошарової - алгоритм зворотного поширення помилки. В обох випадках алгоритми працюють правильно, тобто при кожній наступній ітерації помилка зменшується. У своїй роботі я вивчила нейронні мережі, їх класифікацію за різними типами, архітектуру нейронних мереж і функції активації - сигмоїдальна і лінійна. У даній роботі застосовувалася сигмоїдальна функція активації. По закінченню даної курсової роботи я навчилася навчати нейронну систему по D - правилом і за правилом зворотного поширення помилки.
Використана література
1. Система електронного навчання СФУ
2. Хайкін С.Нейронние мережі: Повний курс. Пер. з англ. Н.Н.Куссуль, А.Ю. Шелестова. 2-е вид.- М .: Видавничий будинок Вільямс, 2008, 1103 с.
3. Васенко Д.В. «Методи навчання штучних мереж»
. Заенцев І. Нейронний мережі: основні моделі. Навчальний посібник, +1999.
. Короткий С. Нейронні мережі: навчання без учителя.
