міщення raquo ;, що вводиться для ініціалізації мережі, - підключається до неизм-няемое входу +1, F - активаційна функція нейрона.
Нейрони можуть групуватися в мережеву структуру різним чином. Функціональні особливості нейронів і спосіб їх об'єднання в мережеву структуру визначає особливості нейромережі. Для вирішення завдань ідентифікації та управління найбільш адекватними є багатошарові нейронні мережі (МНС) прямої дії або багатошарові персептрони. При проектуванні МНС нейрони об'єднують в шари, кожен з яких обробляє вектор сигналів від попереднього шару. Мінімальною реалізацією є двошарова нейронна мережа, що складається з вхідного (розподільного), проміжного (прихованого) і вихідного шару.
Рис.6 Структурна схема двошарової нейронної мережі.
Реалізація моделі двошарової нейронної мережі прямої дії має наступне математичне представлення:
де n?- Розмірність вектора входів? нейронної мережі; - число нейронів в прихованому шарі;
?- Вектор параметрів, що настроюються нейронної мережі, що включає вагові коефі-Циен і нейронні зміщення (wji, Wij) (x) - активаційна функція нейронів прихованого шару; (x) - активаційна функція нейронів вихідного шару.
Персептрон являє собою мережу, що складається з декількох послідовно з'єднаних шарів формальних нейронів (малюнок 3). На нижчому рівні ієрархії знаходиться вхідний шар, що складається з сенсорних елементів, завданням якого є тільки прийом і поширення по мережі вхідної інформації. Далі є один або, рідше, кілька прихованих шарів. Кожен нейрон захованого шару має кілька входів, з'єднаних з виходами нейронів попереднього шару або безпосередньо зі вхідними сенсорами? 1 ..? N, і один вихід. Нейрон характеризується унікальним вектором параметрів, що настроюються?. Функція нейрона полягає в обчисленні зваженої суми його входів з подальшим нелінійним перетворенням її у вихідний сигнал.
8. Збір даних для нейронної мережі
Якщо завдання буде вирішуватися за допомогою нейронної мережі, то необхідно зібрати дані для навчання. Навчальний набір даних являє собою набір спостережень, для яких вказані значення вхідних і вихідних змінних. Перше питання, яке потрібно вирішити, - які змінні використовувати і скільки (і яких) спостережень зібрати.
Вибір змінних (принаймні первісний) здійснюється інтуїтивно. Ваш досвід роботи в даній предметній області допоможе визначити, які змінні є важливими. При роботі з пакетом ST Neural Networks Ви можете довільно вибирати змінні і скасовувати попередній вибір; крім того, система ST Neural Networksумеет сама дослідним шляхом відбирати корисні змінні. Для початку має сенс включити всі змінні, які, на Вашу думку, можуть впливати на результат - на наступних етапах ми скоротимо це безліч.
Нейронні мережі можуть працювати з числовими даними, що лежать в певному обмеженому діапазоні. Це створює проблеми у випадках, коли дані мають нестандартний масштаб, коли в них є пропущені значення, і коли дані є нечисловими. У пакеті ST Neural Networks є засоби, що дозволяють впоратися з усіма цими труднощами. Числові дані масштабуються в підходящий для мережі діапазон, а пропущені значення можна замінити на середнє значення (або на іншу статистику) цієї змінної по всіх наявних навчальних прикладам (Bishop, 1995).
Більш важким завданням є робота з даними нечислового характеру. Найчастіше нечислові дані бувають представлені у вигляді номінальних змінних типу Пол={Чоловік, Дружин}. Змінні з номінальними значеннями можна представити в числовому вигляді, і в системі ST Neural Networks є засоби для роботи з такими даними. Однак, нейронні мережі не дають добрих результатів при роботі з номінальними змінними, які можуть приймати багато різних значень.
Нехай, наприклад, ми хочемо навчити нейронну мережу оцінювати вартість об'єктів нерухомості. Ціна будинку дуже сильно залежить від того, в якому районі міста він розташований. Місто може бути поділені на кілька десятків районів, що мають власні назви, і здається природним ввести для позначення району змінну з номінальними значеннями. На жаль, в цьому випадку навчити нейронну мережу буде дуже важко, і замість цього краще привласнити кожному району певний рейтинг (грунтуючись на експертних оцінках).
Нечислові дані інших типів можна або перетворити в числову форму, або оголосити незначущими. Значення дат і часу, якщо вони потрібні, можна перетворити в числові, віднімаючи з них початкову дату (час). Позначення грошових сум перетворити зовсім нескладно. З довільними текстовими полями (наприклад, прізвищами людей) працювати можна і їх потрібно зробити незначущими.
Питання про те, скільки спостережень ...
