ганізації навчання поділяють навчання нейронних мереж з учителем (supervised neural networks) і без вчителя (nonsupervised). При навчанні з учителем передбачається, що є зовнішнє середовище, яка надає навчальні приклади (значення входів і відповідні їм значення виходів) на етапі навчання або оцінює правильність функціонування нейронної мережі та у відповідності зі своїми критеріями змінює стан нейронної мережі або заохочує (карає) нейронну мережу , запускаючи тим самим механізм зміни її стану. Під станом нейронної мережі, що може змінюватися, зазвичай розуміється:
ваги синапсів нейронів (карта ваг - map) (коннекціоністскій підхід);
ваги синапсів і пороги нейронів (звичайно в цьому випадку поріг є більш легко змінним параметром, ніж ваги синапсів);
встановлення нових зв'язків між нейронами (властивість біологічних нейронів встановлювати нові зв'язки і ліквідувати старі називається пластичністю).
За способом навчання поділяють навчання по входах і по виходах. При навчанні по входах навчальний приклад являє собою тільки вектор вхідних сигналів, а при навчанні по виходах в нього входить і вектор вихідних сигналів, відповідний вхідного вектору.
За способом пред'явлення прикладів розрізняють пред'явлення одиничних прикладів і «сторінки» прикладів. У першому випадку зміна стану нейронної мережі (навчання) відбувається після пред'явлення кожного прикладу. У другому - після пред'явлення «сторінки» (Множини) прикладів на основі аналізу відразу їх усіх.
За особливостями моделі нейрона розрізняють нейрони з різними нелінійними функціями:
порогової;
експоненційної сигмоїда;
раціональної сигмоїда;
гіперболічним тангенсом.
Перераховані функції відносяться до однопараметричних. Також використовуються багатопараметричні передавальні функції.
Моделі нейронних мереж
Персептрони
Багатошарова мережа зі зворотним поширенням помилки
Модель Хопфілда
Машина Больцмана
Мережа Кохонена (карти Кохонена)
Модель Хеммінга
Модель ART (Мережа Гросберг)
Двонаправлена ??асоціативна пам'ять (ДАП)
Когнітрон і неокогнітрон.
Персептрон
Перше систематичне вивчення штучних нейронних мереж було зроблено Маккалокком і Питтсом в 1943 р. Проста нейронна модель, показана на малюнку 2.1, використовувалася в більшій частині їх роботи.
нейронна мережа персептрон Кохонен
Елемент S примножує кожен вхід х на вагу w і підсумовує зважені входи. Якщо ця сума більше заданого порогового значення, вихід дорівнює одиниці, в іншому випадку - нулю. Ці системи отримали назву персептронов. Вони складаються з одного шару штучних нейронів, з'єднаних за допомогою вагових коефіцієнтів з безліччю входів. Персептрон навчають, подаючи безліч образів по одному на його вхід, і підлаштовуючи ваги до тих пір, поки для всіх образів не буде досягнутий необхідний вихід.
Метою навчання є така підстроювання ваг НС, щоб додаток деякого безлічі векторів входів призводило до вимагаємо безлічі векторів виходів. При навчанні передбачається, що у кожного вхідного вектора є парний йому вихідний. Мережа навчається на...
