асть.
2.2.3 Инстар Гросберга lt; # 188 src= doc_zip63.jpg / gt;
Рис. 13 Структурна схема ІНСТАР Гросберга
Особливостями ІНСТАР, що відрізняють його від нейронів інших типів, є наступні:
1. функція активації часто лінійна, тобто
2. вхідний вектор X нормалізований так, що його евклідова норма дорівнює 1;
. навчання ІНСТАР можливо як з учителем, так і без нього.
Нормалізація елементів вектора X проводиться за такою формулою:
(7)
Навчання ІНСТАР з учителем проводиться дискретно за правилом Гросберга
(8)
где ??- Коефіцієнт навчання, значення якого вибирається в діапазоні (0, 1). В якості початкових зазвичай вибираються нульові значення вагових коефіцієнтів. Необхідно звернути увагу, що на зміну значень вагових коефіцієнтів впливають тільки позитивні приклади еталонних пар, для яких
На процес навчання ІНСТАР вирішальний вплив надає величина коефіцієнта навчання ??. При ?? =1 ваги приймають значення відповідних входів поточної еталонної пари за один цикл навчання (при цьому відбувається абсолютне забування попередніх значень .При в результаті навчання коефіцієнти приймають деякі усереднені значення навчальних векторів, k=1, 2, ... , p.
Навчальний вектор, навчальна вибірка: Вектор вхідних сигналів штучного нейрона і, можливо, очікуване значення вихідного сигналу штучного нейрона, використовуваний в процесі навчання штучного нейрона.
Припустимо, що i-ийінстар був навчений на єдиною позитивною еталонної парі. При цьому вектор вхідних ваг ІНСТАР. У режимі класифікації на вхід ІНСТАР подається вектор, тоді на виході виробляється сигнал
.
Оскільки вхідні вектори і нормалізовані (тобто), то вихідний сигнал ІНСТАР дорівнює просто косинусу кута між векторами і.
Функціонування ІНСТАР наочно ілюструється графічно. У режимі навчання при пред'явленні, наприклад, трьох позитивних прикладів, що містять двокомпонентні вектори, і, підбирається вектор вхідних ваг W, що представляє собою усереднення цих вхідних векторів, як це показано на рис. 14.
У режимі класифікації при подачі на вхід ІНСТАР чергового вектора визначається ступінь його близькості до типовому вектору W у вигляді косинуса кута між цими векторами, як це показано на рис. 15.
Рис. 14 Результат навчання ІНСТАР Гросберга
Рис. 15 Класифікація вхідного вектора навченим ІНСТАР Гросберга
Навчання ІНСТАР Гросберга без учителя припускає випадковий вибір початкових значень вхідних ваг і їх нормалізацію, подібну нормалізації вектора вхідних сигналів X. Подальше уточнення ваг реалізується наступною формулою:
(9)
2.2.4 Нейрони типу WTA lt; # 175 src= doc_zip92.jpg / gt;
Рис. 16. Структурна схема шару нейронів типу WTA
Кожен конкуруючий нейрон в групі отримує одні й ті ж входниесігнали. Кожен нейрон розраховує вихідний сигнал свого суматора звичайним чином. За результатами порівняння всіх, вибирається нейрон-переможець, що володіє найбільшим значенням. Вихідний сигнал нейрона-переможця отримує значення 1, вихідні сигнали всіх інших нейронів - 0.
Для навчання нейронів типу WTA не вимагається вчитель, воно практично повністю аналогічно навчанню ІНСТАР Гросберга. Початкові значення вагових коефіцієнтів всіх нейронів вибираються випадковим чином з наступною нормалізацією щодо 1.
При пред'явленні кожного навчального вектора визначається нейрон-переможець, що дає йому право уточнити свої вагові коефіцієнти за спрощеним (в силу бінарності) правилом Гросберга
(10)
Всі програвши нейрони залишають свої вагові коефіцієнти незмінними.
Зрозуміло (див. Инстар Гросберга), що в кожному циклі навчання перемагає той нейрон, чий поточний вектор вхідних ваг найбільш близький вхідному вектору. При цьому вектор коректується убік вектора. Тому в ході навчання кожна група близьких один одному вхідних векторів (кластер) обслуговується окремим нейроном.
Результат навчання шару нейронів типу WTA на послідовності дев'яти двокомпонентних вхідних векторів ілюструє рис. 17. Тут були виділені три кластери вхідних векторів, і. За їх розпізнавання відповідають три нейрони з векторами вхідних ваг відповідно.
Рис. 17. Результат навчання шару нейронів типу WTA
Серйозна проблема у використанні нейронів типу WTA - можливість виникнення мертвих нейронів, тобто нейронів, жодного разу не перемогли в конкурентні...
