о дало потужний поштовх до широкого поширення програм, що використовують принципи нейро-мережевої обробки даних.
. 2 МОДЕЛЬ искуственную НЕЙРОНА
Штучний нейрон (базовий процесорний елемент) - є основою будь штучної нейронної мережі.
Нейрони являють собою відносно прості, однотипні елементи, що імітують роботу нейронів мозку. Кожен нейрон характеризується своїм поточним станом (збуджена або загальмована) за аналогією з нервовими клітинами головного мозку.
Штучний нейрон імітує в першому наближенні властивості біологічного нейрона. На вхід штучного нейрона надходить деяка безліч сигналів, кожен з яких є виходом іншого нейрона. Кожен вхід множиться на відповідну вагу, аналогічний синаптичної силі, і всі твори підсумовуються, визначаючи рівень активації нейрона.
На малюнку 2.1 представлена ??модель, що реалізує цю ідею.
Рисунок 2.1 - Штучний нейрон [3]
Хоча мережеві парадигми досить різноманітні, в основі майже всіх їх лежить ця конфігурація. Тут безліч вхідних сигналів, позначених x1, x2, ..., xn, надходить на штучний нейрон. Ці вхідні сигнали, в сукупності позначаються вектором X, відповідають сигналам, що приходять в синапси біологічного нейрона. Кожен сигнал множиться на відповідну вагу w1, w2, ..., wn, і надходить на суммирующий блок, позначений?. Кожна вага відповідає «силі» однієї біологічної синаптичного зв'язку. (Безліч ваг в сукупності позначається вектором W.) Суммирующий блок, що відповідає тілу біологічного елемента, складає зважені входи алгебраїчно, створюючи вихід, який ми будемо називати NET [3]. У векторних позначеннях це може бути компактно записано наступним чином:
=X? W. (2.1)
. 3 активаційною функцією
Сигнал NET далі, як правило, перетворюється активаційною функцією F і дає вихідний нейронний сигнал OUT. Активаційна функція може бути звичайною лінійною функцією:
=K (NET), (2.2)
де К - постійна, порогової функції.
=1, якщо NET gt; T,
=0 в інших випадках,
де Т - деяка постійна порогова величина, або ж функцією, більш точно моделює нелінійну передатну характеристику біологічного нейрона і представляє нейронної мережі великі можливості.
На малюнку 2.2 блок, позначений F, приймає сигнал NET і видає сигнал OUT. Якщо блок F звужує діапазон зміни величини NET так, що при будь-яких значеннях NET значення OUT належать деякому кінцевому інтервалу, то F називається «стискає» функцією. У якості «стискає» функції часто використовується логістична або «сигмоїдальна» (S-подібна) функція, показана на рис. 2.3. Ця функція математично виражається як F (x)=1/(1 + е-x).
Малюнок 2.2 Штучний нейрон з активаційною функцією [3]
Таким чином,
. (2.3)
За аналогією з електронними системами активаційну функцію можна вважати нелінійної підсилювальної характеристикою штучного нейрона. Коефіцієнт посилення обчислюється як відношення приросту величини OUT до викликав його невеликому збільшенню величини NET. Він виражається нахилом кривої при певному рівні збудження і змінюється від малих значень при великих негативних возбуждениях (крива майже горизонтальна) до максимального значення при нульовому збудженні і знову зменшується, коли збудження стає великим позитивним. Гросберг (1973) виявив, що подібна нелінійна характеристика вирішує поставлену їм дилему шумового насичення. Яким чином одна і та ж мережа може обробляти як слабкі, так і сильні сигнали? Слабкі сигнали потребують великої мережевому посиленні, щоб дати придатний до використання вихідний сигнал. Однак підсилювальні каскади з великими коефіцієнтами посилення можуть привести до насичення виходу шумами підсилювачів (випадковими флуктуаціями), які присутні в будь фізично реалізованої мережі. Сильні вхідні сигнали в свою чергу також будуть приводити до насичення підсилювальних каскадів, виключаючи можливість корисного використання виходу. Центральна область логістичної функції, що має великий коефіцієнт посилення, вирішує проблему обробки слабких сигналів, у той час як області з падаючим посиленням на позитивному і негативному кінцях підходять для великих збуджень. Таким чином, нейрон функціонує з великим посиленням в широкому діапазоні рівня вхідного сигналу.
. (2.4)
Рис. 2.3 Сигмоїдальні логістична функція [3]
Другий широко використовуваною активаційною функцією є гіперболічний тангенс. За формою вона схожа з логістичною функцією і часто використовується біологами в якості матем...
