омилки. Він є узагальненням процедури навчання простого перцептрона з використанням дельта-правила на багатошарові мережі. У цьому методі необхідно розташовувати навчальною вибіркою, яка містить В«правильні відповідіВ», тобто вибірка повинна включати безліч пар зразків вхідних і вихідних дано, між якими потрібно встановити відповідність. Перед початком навчання міжнейронних зв'язків присвоюються невеликі випадкові значення. Кожен крок навчальної процедури складається з двох фаз. Під час першої фази вхідні елементи мережі встановлюються в заданий стан. Вхідні сигнали поширюються по мережі, породжуючи деякий вихідний вектор. Для роботи алгоритму потрібно, щоб характеристика вхід-вихід нейроподібних елементів була неубутною і мала обмежену похідну. Зазвичай для цього використовують Сигмоїдальні функції. Отриманий вихідний вектор порівнюється з необхідним (правильним). Якщо вони збігаються, то вагові коефіцієнти зв'язків не змінюються. В іншому випадку обчислюється різниця між фактичними і необхідними вихідними значеннями, яка передається послідовно від вихідного шару до вхідного. На основі цієї інформації проводиться модифікація зв'язків відповідно до узагальненим дельта-правилом, яке має вигляд: , де зміна в силі зв'язку для p - ї навчальної пари пропорційно добутку сигналу помилки j - го нейрона одержує вхідний сигнал з цього зв'язку, і вихідного сигналу i - го нейрона посилаючої сигнал з цього зв'язку. Визначення сигналу помилки є рекурсивним процесом, який починається з вихідних блоків. Для вихідного блоку сигнал помилки
де і відповідно бажане і дійсне значення вихідного сигналу j - го блоку; похідна від вихідного сигналу j - го блоку. Сигнал помилки для прихованого блоку визначається рекурсивно через сигнал помилки блоків, з яким сполучений його вихід, і ваги цих зв'язків дорівнюють . Для сигмоїдальної функції тому на інтервалі 0 1 похідна має максимальне значення в точці = 0,5, а в точках = 0 і = 1 звертає в нуль. Максимальні зміни ваг відповідають блокам (нейронам), які ще не вибрали свій стан. Крім того, при кінцевих значеннях вагових коефіцієнтів вихідні сигнали блок...
