порогові функції рідко використовуються в штучних нейронних мережах. Врахуйте, що ваги можуть бути негативними, - це означає, що синапс чинить на нейрон не порушувалася, а гальмівний вплив (в мозку присутні гальмують нейрони).
Це був опис окремого нейрона. Тепер виникає питання: як з'єднувати нейрони один з одним? Якщо мережа передбачається для чогось використовувати, то в неї повинні бути входи (приймаючі значення цікавлять нас змінних із зовнішнього світу) і виходи (прогнози або керуючі сигнали). Входи і виходи відповідають сенсорним і рухових нервах - наприклад, відповідно, йде від очей і в руки. Крім цього, однак, в мережі може бути ще багато проміжних (прихованих) нейронів, що виконують внутрішні функції. Вхідні, приховані і вихідні нейрони повинні бути пов'язані між собою.
Ключове питання тут - зворотний зв'язок (Haykin, 1994). Найпростіша мережа має структуру прямої передачі сигналу: Сигнали проходять від входів через приховані елементи і врешті-решт приходять на вихідні елементи. Така структура має стійку поведінку. Якщо ж мережа рекуррентная (тобто містить зв'язку, провідні назад від більш далеких до більш ближнім нейронам), то вона може бути нестійка і мати дуже складну динаміку поведінки. Рекурентні мережі становлять великий інтерес для дослідників у галузі нейронних мереж, однак при вирішенні практичних завдань, принаймні досі, найбільш корисними виявилися структури прямої передачі, і саме такий тип нейронних мереж моделюється в пакеті ST Neural Networks.
Типовий приклад мережі з прямою передачею сигналу показаний на малюнку. Нейрони регулярним чином організовані в шари. Вхідний шар служить просто для введення значень вхідних змінних. Кожен з прихованих і вихідних нейронів з'єднаний з усіма елементами попереднього шару. Можна було б розглядати мережі, в яких нейрони пов'язані тільки з деякими з нейронів попереднього шару; однак, для більшості додатків мережі з повною системою зв'язків переважніше, і саме такий тип мереж реалізований в пакеті ST Neural Networks.
Рис.3
При роботі (використанні) мережі у вхідні елементи подаються значення вхідних змінних, потім послідовно відпрацьовують нейрони проміжних і вихідного шарів. Кожен з них обчислює своє значення активації, беручи зважену суму виходів елементів попереднього шару і віднімаючи з неї порогове значення. Потім значення активації перетворюються за допомогою функції активації, і в результаті виходить вихід нейрона. Після того, як вся мережа відпрацює, вихідні значення елементів вихідного шару приймаються за вихід всієї мережі в цілому.
4. Властивості нейронних мереж
Безсумнівно, що технічні засоби, побудовані на тих же принципах, що і біологічні нейронні мережі, володіють рядом схожих властивостей. До таких властивостей відносяться:
§ масовий паралелізм,
§ розподілене представлення інформації й обчислення,
§ здатність до навчання і здатність до узагальнення,
§ адаптивність,
§ властивість контекстуальної обробки інформації,
§ толерантність до помилок,
§ низьке енергоспоживання.
Можна виділити основні ідеї, що лежать в основі нейронних мереж і нейромоделювання:
§ Нейросеть відтворює структуру і властивості нервової системи живих організмів: нейронна мережа складається з великої кількості простих обчислювальних елементів (нейронів) і володіє більш складною поведінкою в порівнянні з можливостями кожного окремого нейрона. Нейросеть отримує на вході набір вхідних сигналів і видає відповідний їм відповідь (вихідні сигнали нейромережі), що є вирішенням завдання.
§ Штучна нейросеть, як і природна біологічна нейронна мережа, може навчатися вирішенню завдань: нейросеть містить внутрішні адаптивні параметри нейронів і своєї структури, і міняючи їх, може змінювати свою поведінку.
§ Місце програмування займає навчання, тренування нейронної мережі: для вирішення завдання не потрібно програмувати алгоритм.
§ Нейронна мережа навчається вирішення завдання на деякій підручнику ? наборі ситуацій, кожна з яких описує значення вхідних сигналів нейромережі та необхідний для цих вхідних сигналах відповідь. Підручник задає набір еталонних ситуацій з відомими рішеннями, а нейронна мережа при навчанні сама знаходить залежності між вхідними сигналами і відповідями.
Апаратна реалізація ІНС - нейрокомпьютер - має суттєві відмінності (як за структурою, так і за класом вирішуваних завдань) від обчислювальних машин, виконаних відповідно до традиційною архітектурою фон Неймана. Порівняльні характеристи...
