цій, що володіє властивістю Персептрон представляемости).
Відповідні дані наведені в наступній таблиці:
Число змінних NПолное число можливих логічних функцій З них лінійно разделімих функцій14421614325610446553618825> 100000000094572
Видно, що одношаровий персептрон вкрай обмежений у своїх можливостях для точного уявлення наперед заданої логічної функції.
5. Принцип WTA в моделі Ліпмана-Хемінга
WTA - winner take all (Переможець забирає все).
Розглянемо завдання про приналежність образу x деякому класу Xk, обумовленому заданими бібліотечними образами xk. Кожен із заданих образів навчальної вибірки безпосередньо визначає свій власний клас, і таким чином, завдання зводиться до пошуку "найближчого" образу. У випадку двох довічних (0-1) образів відстань між ними може бути визначено за Хеммінг, як число незбіжних компонент. Тепер після обчислення всіх попарних відстаней шуканий клас визначається за найменшим з них. p> Нейромережеве рішення цього завдання може бути отримано на основі архітектури Липпмана-Хемінга (Lippman R., 1987). Мережа має один шар однакових нейронів, число яких дорівнює кількості класів. Таким чином, кожен нейрон "відповідає" за свій клас. Кожен нейрон пов'язаний з кожним із входів, число яких дорівнює розмірності розглянутих бібліотечних образів. Ваги зв'язків покладаються рівними нормованим бібліотечним образам:
В
- значення ваги зв'язку від n-го входу до m-му нейрону. Процес надходження інформації про вектор x в нейронну мережу є безітераціонним. При цьому вхідний вектор спочатку нормується:
і нейрони приймають початкові рівні активності:
В
(x) - перехідна функція (функція активації) нейрона, яка вибирається рівною нулю при x <0, і f (x) = x при x> 0. Пороги Q покладаються зазвичай рівними нулю. br/>В
Нейронна мережа Липпмана-Хемінга.
При надходженні вхідного вектора початкове збудження отримують всі нейрони, скалярний добуток векторів пам'яті яких з вхідним вектором перевищує поріг. Надалі серед них належить вибрати один, для якого воно максимально. Це досягається введенням додаткових зворотних зв'язків між нейронами, влаштованих за принципом "латерального гальмування". Кожен нейрон отримує гальмуючий (негативне) вплив з боку всіх інших нейронів, пропорційно ступеня їх збудження, і відчуває збудливу (позитивне) вплив самого на себе. p align="justify"> Веса латеральних зв'язків у нейронном шарі нормуються таким чином, що сумарний сигнал є збудливим тільки для нейрона з максимальною вихідною активністю. Решта нейрони відчувають гальмування:
В
За виконання деякого числа ітерацій t для всіх нейронів крім одного значення аргументу функції f (x) стає негативним, що звертає їх активніс...
