align="justify">
1. Метод покоординатного спуску Даний метод зводить завдання пошуку найменшого значення функції декількох змінних до багаторазового рішенням одновимірних задач оптимізації. Якщо цільова функція задана явною формулою і є дифференцируемой, то ми можемо обчислити її приватні похідні і використовувати їх для визначення напрямку убування функції з кожної змінної і пошуку відповідних одновимірних мінімумів. В іншому випадку, коли явною формули для цільової функції немає, одномірні завдання слід вирішувати за допомогою одновимірних методів. p> Нехай потрібно знайти найменше значення цільової функції. В якості початкового наближення виберемо в n-вимірному просторі деяку точку з координатами. Зафіксуємо всі координати функції і, крім першої. Тоді - функція однієї змінної. Вирішуючи одновимірну задачу оптимізації для цієї функції, ми від точки перейдемо до точки, в якій функція приймає найменше значення з координування при фіксованих інших координатах. У цьому полягає перший крок процесу оптимізації, що складається в спуску по координаті. p> Зафіксуємо тепер всі координати, крім, і розглянемо функцію цієї змінної. Знову вирішуючи одновимірну задачу оптимізації, знаходимо її найменше значення при, тобто в точці.
Аналогічно проводиться спуск по координатах, а потім процедура знову повторюється від до і т.д. У результаті цього процесу виходить послідовність точок, в яких значення цільової функції складають монотонно спадну послідовність. На будь-якому - му кроці цей процес можна перервати, і значення приймається як найменшого значення цільової функції в розглянутій області. p> Даний метод легко проілюструвати геометрично для випадку функції двох змінних, яка описує деяку поверхню в тривимірному просторі. На малюнку нанесені лінії рівня цієї поверхні. Процес оптимізації в цьому випадку проходить наступним чином. br/>В
Точка описує початкове наближення. Проводячи спуск по координаті, потрапимо в точку. Далі, рухаючись паралельно осі ординат, прийдемо в точку і т.д.
Важливим тут є питання про збіжність розглянутого процесу оптимізації. Іншими словами, чи буде послідовність значень цільової функції сходитися до найменшого її значенню в даній області? Це залежить від виду самої функції і вибору початкового наближення. p> Для гладких функцій при вдало вибраному початковому наближенні (в деякій околиці мінімуму) процес сходиться до мінімуму. До переваг методу покоординатного спуску слід також віднести можливість використання простих алгоритмів одновимірної оптимізації. p> Метод координатного спуску є простим у реалізації методом оптимізації. Головним недоліком методу є його обмежена придатність. p align="justify"> Критерій зупину
Критерії зупинки процесу наближеного знаходження мінімуму можуть бути засновані на різних міркуваннях. Деякі з них:
В В
Тут - значення, отри...
