вченості малих груп нейронів не дозволяє в цілому відповісти на питання про навченості на рівні вищих форм психічної діяльності, пов'язаних з інтелектом, абстрактним мисленням, мовою. Перш ніж перейти до розгляду моделей нейронів і штучних нейронних мереж, сформулюємо загальні фактологічні положення про біологічних нейронних мережах. Основними діючими елементами нервової системи є окремі клітини, звані нейронами. Вони мають ряд загальних з клітинами інших типів рис, при цьому сильно відрізняючись від них за своєю конфігурацією і функціональному призначенню. Активність нейронів при передачі і обробці нервових імпульсів регулюється властивостями мембрани, які можуть змінюватися під впливом синаптичних медіаторів. Біологічні функції нейрона можуть змінюватися і адаптуватися до умов функціонування. Нейрони об'єднуються в нейронні мережі, основні типи яких, а також схеми провідних шляхів мозку є генетично запрограмованими. У процесі розвитку можливе локальне видозміна нейронних мереж з формуванням нових з'єднань між нейронами. Відзначимо також, що нервова система містить крім нейронів клітини інших типів.
Класифікація нейронних мереж
Можна провести наступну класифікацію нейронних мереж:
Рис. 2. Класифікація нейронних мереж
Характер навчання
Класифікація нейронних мереж за характером навчання ділить їх на:
нейронні мережі, що використовують навчання з учителем;
нейронні мережі, що використовують навчання без учителя.
Нейронні мережі, що використовують навчання з учителем. Навчання з учителем припускає, що для кожного вхідного вектора існує цільовий вектор, що представляє собою необхідний вихід. Разом вони називаються навчальною парою. Зазвичай мережа навчається на деякому числі таких навчальних пар. Пред'являється вихідний вектор, обчислюється вихід мережі і порівнюється з відповідним цільовим вектором. Далі ваги змінюються відповідно до алгоритму, що прагнуть мінімізувати помилку. Вектори навчальної множини пред'являються послідовно, обчислюються помилки і ваги підлаштовуються для кожного вектора доти, поки помилка по всьому навчальному масиву не досягне прийнятного рівня. Нейронні мережі, що використовують навчання без учителя. Навчання без вчителя є набагато більш правдоподібною моделлю навчання з погляду біологічних коренів штучних нейронних мереж. Розвинена Кохоненом і багатьма іншими, вона не потребує цільового векторі для виходів і, отже, не вимагає порівняння з зумовленими ідеальними відповідями. Навчальна множина складається лише з вхідних векторів. Навчальний алгоритм підлаштовує ваги мережі так, щоб виходили узгоджені вихідні вектори, т. Е. Щоб пред'явлення досить близьких вхідних векторів давало однакові виходи. Процес навчання, отже, виділяє статистичні властивості навчальної множини і групує подібні вектори в класи.
Налаштування ваг
мережі з фіксованими зв'язками - вагові коефіцієнти нейронної мережі вибираються відразу, виходячи з умов задачі;
мережі з динамічними зв'язками - для них в процесі навчання відбувається настроювання синаптичних ваг.
Тип вхідної інформації
аналогова - вхідна інформація представлена ??у формі дійсних чисел;
двійкова - вся вхідна інформація в таких мережах представляється у вигляді нулів і одиниць.
Застосовувана модель нейронної мережі
Мережі прямого поширення - всі зв'язки спрямовані строго від вхідних нейронів до вихідних. До таких мереж відносяться, наприклад: найпростіший персептрон і багатошаровий персептрон. Реккурентная нейронні мережі - сигнал з вихідних нейронів або нейронів прихованого шару частково передається назад на входи нейронів вхідного прошарку. Радіально базисні функції - вид нейронної мережі, що має прихований шар з радіальних елементів і вихідний шар з лінійних елементів. Мережі цього типу досить компактні і швидко навчаються. Самоорганізуючі карти або Мережі Кохонена - такий клас мереж, як правило, навчається без учителя і успішно застосовується в задачах розпізнавання. Мережі такого класу здатні виявляти новизну у вхідних даних: якщо після навчання мережа зустрінеться з набором даних, несхожим ні на один з відомих зразків, то вона не зможе класифікувати такий набір і тим самим виявить його новизну. Мережа Кохонена має всього два прошарки: вхідний і вихідний, складений з радіальних елементів.
Теорема про навчання персептрона
Навчання мережі полягає в підстроюванні вагових коефіцієнтів кожного нейрона. Нехай є набір пар векторів (x, y),=1..p, званий навчальною вибіркою. Будемо називати нейронну мережу...
