Виходи цього шару передають сигнали на входи наступного шару (прихованого або вихідного);
§ Вихідний шар - зазвичай містить один нейрон (може і більше), який видає результат розрахунків всій нейронної мережі. На підставі це сигналу будується подальша логіка управління радника;
§ Приховані шари - шари звичайних нейронів, які передають сигнали від входу до виходу. Їх входом служить вихід попереднього шару, а вихід - входом наступного шару.
У даному прикладі була розглянута нейронна мережа з двома прихованими шарами, хоча можливі варіанти і з великою кількістю шарів.
2. Паралелі з біології
Нейронні мережі виникли з досліджень в галузі штучного інтелекту, а саме, зі спроб відтворити здатність біологічних нервових систем навчатися і виправляти помилки, моделюючи низкоуровневую структуру мозку (Patterson, 1996). Основною областю досліджень з штучного інтелекту в 60-ті - 80-ті роки були експертні системи. Такі системи грунтувалися на високорівневої моделюванні процесу мислення (зокрема, на представленні, що процес нашого мислення побудований на маніпуляціях із символами). Скоро стало ясно, що подібні системи, хоча і можуть принести користь в деяких областях, що не вхоплюють деякі ключові аспекти людського інтелекту. Згідно з однією з точок зору, причина цього полягає в тому, що вони не в змозі відтворити структуру мозку. Щоб створити штучних інтелект, необхідно побудувати систему зі схожою архітектурою.
Мозок складається з дуже великого числа (приблизно 10,000,000,000) нейронів, з'єднаних численними зв'язками (в середньому кілька тисяч зв'язків на один нейрон, проте це число може сильно коливатися). Нейрони - це спеціальна клітини, здатні поширювати електрохімічні сигнали. Нейрон має розгалужену структуру введення інформації (дендрити), ядро ??і розгалужується вихід (аксон). Аксони клітини з'єднуються з дендритами інших клітин за допомогою синапсів. При активації нейрон посилає електрохімічний сигнал за своїм аксону. Через синапси цей сигнал досягає інших нейронів, які можуть в свою чергу активуватися. Нейрон активується тоді, коли сумарний рівень сигналів, що прийшли в його ядро ??здендрітов, перевищить певний рівень (поріг активації).
Інтенсивність сигналу, одержуваного нейроном (а отже і можливість його активації), сильно залежить від активності синапсів. Кожен синапс має протяжність, і спеціальні хімічні речовини передають сигнал вздовж нього. Один з найавторитетніших дослідників нейросистем, Дональд Хебб, висловив постулат, що навчання полягає в першу чергу у змінах сили синаптичних зв'язків. Наприклад, у класичному досвіді Павлова, щоразу безпосередньо перед годуванням собаки дзвонив дзвоник, і собака швидко навчилася пов'язувати дзвінок дзвоника з їжею. Синаптичні зв'язки між ділянками кори головного мозку, відповідальними за слух, і слинними залозами посилилися, і при порушенні кори звуком дзвіночка у собаки починалося слиновиділення.
Таким чином, будучи побудований з дуже великого числа зовсім простих елементів (кожен з яких бере зважену суму вхідних сигналів і у випадку, якщо сумарний вхід перевищує певний рівень, передає далі двійковий сигнал), мозок здатний вирішувати надзвичайно складні завдання. Зрозуміло, ми не торкнулися тут багатьох складних аспектів пристрої мозку, однак цікаво те, що штучні нейронні мережі здатні досягти чудових результатів, використовуючи модель, яка ненабагато складніше, ніж описана вище.
3. Базова штучна модель
Щоб відобразити суть біологічних нейронних систем, визначення штучного нейрона дається наступним чином:
· Він отримує вхідні сигнали (вихідні дані або вихідні сигнали інших нейронів нейронної мережі) через кілька вхідних каналів. Кожен вхідний сигнал проходить через з'єднання, що має певну інтенсивність (або вага); цей вага відповідає синаптичної активності біологічного нейрона. З кожним нейроном пов'язано певне порогове значення. Обчислюється зважена сума входів, з неї віднімається граничне значення і в результаті виходить величина актіваціінейрона (вона також називається пост-синаптическим потенціалом нейрона - PSP).
· Сигнал активації перетвориться з допомогою функції активації (або передавальної функції) і в результаті виходить вихідний сигнал нейрона.
Якщо при цьому використовувати ступінчасту функцію активації (тобто, вихід нейрона дорівнює нулю, якщо вхід негативний, і одиниці, якщо вхід нульовий або позитивний), то такий нейрон буде працювати точно так само, як описаний вище природний нейрон (відняти порогове значення з зваженої суми і порівняти результат з нулем - це те ж саме, що порівняти зважену суму з пороговим значенням). У дійсності, як ми скоро побачимо, ...
