році в роботі Руммельхарта і Мак-Клелланда коннектівізма був використаний для комп'ютерного моделювання нейронних процесів.
Незважаючи на великий ентузіазм, викликаний в науковому співтоваристві розробкою методу зворотного поширення помилки, це також породило численні суперечки про те, чи може таке навчання бути насправді реалізовано в головному мозку. Частково це пов'язували з тим, що механізм зворотного проходження сигналу ні очевидним в той час, так як не було явного джерела навчає і цільового сигналів. Тим не менш, в 2006 році було запропоновано декілька неконтрольованих процедур навчання нейронних мереж з одним або декількома шарами з використанням так званих алгоритмів глибокого навчання. Ці алгоритми можуть бути використані для вивчення проміжних уявлень, як з вихідним сигналом, так і без нього, щоб зрозуміти основні особливості розподілу сенсорних сигналів, що надходять на кожен шар нейронної мережі.
Як і в багатьох інших випадках, задачі високої складності вимагають застосування не одного, а декількох методів реш?? ня або їх синтезу. Не виняток і штучні нейронні мережі. З самого початку нинішнього сторіччя в роботах різних дослідників активно описуються нейро-нечіткі мережі, осередковою-нейромережеві моделі. Також нейронні мережі використовуються, наприклад, для налаштування параметрів нечітких систем управління. Загалом, немає ніяких сумнівів і в подальшій інтеграції методів штучного інтелекту між собою і з іншими методами вирішення завдань.
Історія розвитку еволюційного програмування
В даний час склалося велике напрямок у розвитку систем штучного інтелекту, що отримало назву еволюційного моделювання. Історично воно розвивалося в різних країнах: Німеччині, США та інших різними шляхами.
Так, у Німеччині в 1960-х роках як методів рішення задач оптимізації, заснованих на принципах природної еволюції, штучного відбору і штучного життя, були створені еволюційні стратегії.
У США приблизно в цей же час був запропонований підхід, що отримав назву еволюційного програмування. Воно відрізняється від генетичних алгоритмів і еволюційних стратегій, головним чином, застосуванням різних способів структуризації послідовностей дій, спрямованих на отримання кінцевого результату.
Основи сучасних генетичних алгоритмів були закладені в книзі Холланда, який використав в них принципи дарвінізму. Правда генетичними вони стали називатися пізніше, а в 1975 році автор назвав їх репродуктивними планами і розглядав, перш за все, як алгоритми адаптації.
Через кілька років генетичні алгоритми були визнані як високоефективний інструмент для вирішення задач глобальної оптимізації. Ця вужча, порівняно з початковою, трактування викликало сильний резонанс в літературі, і, як показав час, цілком обгрунтовано. Майже два десятиліття досліджень генетичних алгоритмів на тестових багатоекстремального функціях пішли на доказ їхньої ефективності при вирішенні завдань оптимізації, залишивши осторонь їх видатні адаптивні здібності.
У міру розвитку генетичних алгоритмів, еволюційних стратегій і методів еволюційного програмування кількість відмінностей між ними скорочувалася за рахунок використання принципів одного напрямку в інших. Це фактично і призвело до створення єдиного напрямку - еволюційного моделювання, або еволюційного підходу.
У 1986 році з'явився новий напрямок еволюційного моделювання - штучні імунні системи. Його автори - Паккард і Перельсон - запропонували використовувати типові характеристики і моделі функціонування людської імунної системи головним чином для вирішення завдань розпізнавання образів та оптимізації. У середині 1990-х років ці принципи активно розвивалися в дослідженнях Форреста, Тіммінс, Ніла та інших дослідників. Суть методу полягає в проведенні еволюційного процесу клітин штучної імунної системи за принципами і механізмам, що протікає в природних імунних системах.
У 1995 році в США сторно і Прайсом розроблений метод диференціальної еволюції. Він працює безпосередньо з речовими числами будь точності і підходить для оптимізації багатовимірних функцій, в тому числі не диференційовних, з великою кількістю локальних оптимумів. Метод простий у реалізації і легко распараллеливается.
Незважаючи на те, що кожен з вищеописаних методів виник незалежно від інших, вони характеризуються наявністю більшої кількості загальних властивостей, ніж відмінностей. Так, для будь-якого з них формується вихідна популяція особин, яка в подальшому піддається селекції та впливу різних генетичних операторів, що в підсумку призводить до знаходження кращих рішень, ніж попередні.
Слід зазначити, що деякі з еволюційних методів моделювання схожі своїми принципами на багатоагентні с...
