ні функції активації нейронних елементів [2].
Лінійна функція. Функція активності для вхідних елементів може бути тотожною функцією, і в цьому випадку вихідне значення нейронного елемента дорівнює:
, (2.2)
де k - коефіцієнта нахилу прямої.
Вхідні елементи зазвичай призначені для розподілу вводяться сигналів між іншими елементами мережі, тому для вхідних елементів звичайно потрібно, щоб витікаючий від елемента сигнал був таким же, як і вхідний, тобто k=1, як показано на малюнку 2.5. На відміну від інших елементів мережі, вхідні елементи мають тільки по одному вхідному значенню. Наприклад, кожен елемент може отримувати сигнал від одного відповідного йому датчика, розміщеного на фюзеляжі літака. Один цей елемент зв'язується з багатьма іншими елементами мережі, так що дані, отримані від одного датчика, виявляються розподіленими між багатьма елементами мережі. Оскільки вхідні елементи призначені виключно для того, щоб розподіляти сигнали, одержувані із зовнішнього середовища, багато дослідників взагалі не вважають вхідні елементи частиною нейронної мережі.
Порогова функція. В якості порогової функції активації може використовуватися біполярна, малюнок 2.6, а чи бінарна, малюнок 2.6, б функція. У разі використання порогової бінарної функції:
. (2.3)
Якщо застосовується порогова біполярна функція активації, то вихідне значення нейронного елемента:
. (2.4)
сігмоідной функція. Ця функція є безперервною, зростаючою функцією в діапазоні [0, 1]:
, (2.5)
де з gt; 0 - коефіцієнт, що характеризує ширину функції по осі абсцис
сігмоідной функція, малюнок 2.7, а є монотонною і всюди дифференцируемой, тому вона отримала широке поширення в штучних нейронних мережах. Так само існує біполярна сігмоідной функція, значення якої знаходяться в діапазоні [- 1,1], малюнок 2.7, б:
, (2.6)
Застосування різних функцій активації визначається класом вирішуваних нейронною мережею завдань. Крім перерахованих можуть застосовуватися й інші функції активації нейронного елемента, які адекватно відображають решаемую задачу.
Малюнок 2.5 - Лінійна функція активації
а) б)
Малюнок 2.6 - Порогова функція активації:
а) - бінарна
б) - біполярна
а) б)
Малюнок 2.7 - сігмоідной функція активації:
а) - бінарна
б) - біполярна
.3 Класифікація нейронних мереж
Нейронні мережі розрізняють за структурою мережі (зв'язків між нейронами), особливостям моделі нейрона, особливостям навчання мережі.
За структурою нейронні мережі можна розділити на неполносвязние (або шаруваті) і повнозв'язні.
Шаруваті мережі: нейрони розташовані в декілька шарів, малюнок 2.8. Нейрони першого шару отримують вхідні сигнали, перетворюють їх і через точки весвленія вередают нейронам другого шару. Далі спрацьовує другий шар і т.д. до k-го, який видає вихідні сигнали для інтерпретатора і користувача. Якщо не зазначено протилежне, то кожен вихідний сигнал i-го шару подається на вхід всіх нейронів i + 1-го шару. Число нейронів у кожному шарі може бути будь-яким і ніяк заздалегідь не пов'язане з кількістю нейронів в інших шарах. Стандартний спосіб подачі вхідних сигналів: всі нейрони першого шару отримують кожен вхідний сигнал. Особливого поширення набули тришарові мережі, в яких кожен шар має своє найменування: перший - вхідний, другий - прихований, третій - вихідний.
повнозв'язкову мережі: кожен нейрон передає свій вихідний сигнал іншим нейронам, у тому числі й самому собі. Вихідними сигналами мережі можуть бути всі або деякі вихідні сигнали нейронів після кількох тактів функціонування мережі. Всі вхідні сигнали подаються всім нейронам.
По використовуваних на входах і виходах сигналам нейронні мережі можна розділити на аналогові та бінарні.
За моделюванню часу нейронні мережі підрозділяються на мережі з безперервним і дискретним часом. Для програмної реалізації застосовується як правило дискретний час.
За способом подачі інформації на входи нейронної мережі розрізняють:
- подачу сигналів на синапси вхідних нейронів;
- подачу сигналів на виходи вхідних нейронів;
- подачу сигналів у вигляді ваг синапсів вхідних нейронів;
- аддитивную подачу на синапси вхідних нейронів.
За способом знімання інформації з виходів нейронної мережі розрізняють:
- знімання з виходів вихідних нейронів;
- знімання з синапсів вихідних нейронів;
