ступеня складності, причому число прошарків і число елементів в кожному прошарку визначають складність функції. Визначення числа проміжних прошарків і числа елементів у них є важливим питанням при конструюванні багатошарових нейронних мереж. Кількість вхідних і вихідних елементів визначається умовами завдання.
Використаний найвідоміший варіант алгоритму навчання нейронної мережі - це алгоритм зворотного поширення.
В алгоритмі зворотного поширення обчислюється вектор градієнту поверхні помилок. Цей вектор вказує напрямок найкоротшого спуску по поверхні з даної точки, тому якщо ми трохи просунемося по ньому, помилка зменшиться. Послідовність таких кроків (замедляющаясяпо міру наближення до дну), врешті-решт, призведе до мінімуму того чи іншого типу. Певну трудність тут представляє питання про те, яку потрібно брати довжину кроків.
При великій довжині кроку збіжність буде швидшою, але є небезпека перестрибнути через рішення або піти в неправильному напрямку. Класичним прикладом такого явища при навчанні нейронної мережі є ситуація, коли алгоритм дуже повільно просувається по вузькому яру з крутими схилами, стрибаючи з одного його боку на іншу.
Навпаки, при маленькому кроці, ймовірно, буде схоплено вірний напрям, однак при цьому потрібно дуже багато ітерацій. На практиці величина кроку береться пропорційної крутизні схилу (так що алгоритм уповільнює хід поблизу мінімуму) з деякою константою, яка називається швидкістю навчання. Правильний вибір швидкості навчання залежить від конкретної задачі і зазвичай здійснюється дослідним шляхом; ця константа може також залежати від часу, зменшуючись у міру просування алгоритму.
Система для прийняття рішень у сфері кредитування працює таким чином.
Особа, яка бажає отримати кредит (потенційний позичальник), наприклад фізична особа, заповнює встановлену форму заявки, відповідаючи на наявні в ній питання. Відповіді на питання можуть бути представлені на паперовому носії або безпосередньо в електронному вигляді. У першому випадку вони можуть бути переведені в електронний вигляд або за допомогою сканера, або шляхом введення через клавіатуру. Заповнену заяву може також надійти в систему з віддаленого джерела (комп'ютера) по каналу зв'язку (не показано), наприклад мережі Інтернет.
Після того як дані, відповідні заявці на видачу кредиту, що включають відповіді на питання, представлені в бланку заявки, надходять у пристрій введення даних і розпізнаються їм як такі, пристрій введення даних передає їх у пристрій присвоєння кодів. На підставі таблиці відповідності, що зберігається в пристрої присвоєння кодів, кожному відповіді на запитання в залежності від варіанту відповіді присвоюють певний код, що представляє собою ціле число, і впорядковують отриману послідовність чисел згідно їх значущості, виходячи із встановлених з практичного досвіду уподобань.
Для прийняття рішення про видачу кредиту та визначення величини кредитного ліміту, який може бути наданий потенційному позичальникові, що заповнив заявку, чиї відповіді на питання надійшли в систему, в пристрій обробки даних, крім даних, що відносяться до відповідей потенційного позичальника на питання заявки, передають дані, відповідні можливому значенню кредитного ліміту, дані, що характеризують кредитний рейтинг потенційного позичальника, дані, відповідні матриці А вагових коефіцієнтів, а також дані, відповідні елементам першого У і другого З векторів вагових коефіцієнтів. Для кожної знову введеної заявки в пристрої обробки даних формується перше вектор Х даних, елементи якого являють собою коди вибраних варіантів відповідей на питання плюс кредитний рейтинг, плюс кредитний ліміт. Отже, загальна розмірність вектора Х даних дорівнює фіксованому значенню N, наприклад 100. У той же час дані, пов'язані ваговим коефіцієнтам, передаються в пристрій обробки даних періодично по мірі накопичення в базі даних значимого обсягу нової інформації.
При надходженні команди на розрахунок у пристрій розрахунку кредитного ліміту даний пристрій визначає значення параметра, що характеризує кредитний ліміт, наступним чином. У випадку, якщо відносно даної заявки в пристрій розрахунку кредитного ліміту вперше надходить команда на розрахунок, пристрій розрахунку кредитного ліміту передає в пристрій обробки даних максимально можливе значення кредитного ліміту. У разі надходження відносно однієї і тієї ж заявки на видачу кредиту подібної команди другої і більше разів устройство8 розрахунку кредитного ліміту кожен раз узменш величину можливого кредитного ліміту на задане значення (при цьому останнє може змінюватися в залежності від кількості надійшли команд, що стосуються однієї і тієї ж заявки), і передає в пристрій обробки даних нового значення. Кількість значень кредитного ліміту, які можуть бути передан...
