2,., Х n можуть бути взаємопов'язані.
. У багатовимірному випадку область допустимих значень має незліченну безліч форм.
Стратегія методів безумовної оптимізації
Всі методи вирішення задач математичного програмування можна розбити на прямі і непрямі. Непрямі методи засновані на використанні необхідних і достатніх умов екстремумів і зводяться до розв'язання системи нелінійних рівнянь.
Методи, не пов'язані з використанням необхідних і достатніх умов екстремумів відносять до прямих.
Більшість застосовуваних на практиці прямих методів вирішення задач математичного програмування є ітеративними.
В основу цих методів покладено механізм породження послідовності точок за правилами, які визначені відповідно до обраного методу рішення і мають наступні властивості:
Загальне правило побудови послідовності чисельними методами безумовної оптимізації записується у вигляді:
Такі методи, як це прийнято говорити, використовують алгоритми узвозу. Тут - початкова точка пошуку, - прийняте напрямок переходу з точки в точку, яке називається напрямком спуску, - числовий множник, що визначає величину кроку.
Стратегія передбачає на черговій ітерації наступні кроки:
1. Завдання початкової точки пошуку, з якої виробляється спуск до мінімуму.
2. Вибір напрямку пошуку чергової точки (на підставі дослідження локальних властивостей цільової ф-ії).
. Вибір величини кроку до нової точки вздовж обраного напрямку.
. Перехід в чергову точку ітераційного процесу.
. Перевірка критерію закінчення ітераційного процесу.
Вибір початкової точки проводиться, виходячи з фізичного змісту розв'язуваної задачі і наявності апріорної інформації про становище точок екстремуму.
Вибір напрямку і величини кроку визначається обраним методом рішення. Перевірка критерію закінчення ітераційного процесу дає інформацію про те, що або рішення задачі треба продовжити, або знайдена точка, що претендує на роль екстремуму і процедуру пошуку, слід завершити.
Критерії для завершення пошуку
На підставі порівняння результатів розрахунків двох або декількох послідовних ітерацій. Найбільш поширені:
1. (Норма різниці 2 послідовних ітерацій)
2. (Норма різниці 2 послідовних значень критеріїв оптимальності)
3. (Модуль градієнта цього критерію)
(1) - недостатня, т.к. функція може мати поведінка типу стрибка (різка зміна критерію оптимальності).
(2) - заснована на припущенні монотонного убування величини залежно від числа ітерацій. При пологом характері F (X) поблизу оптимуму, різниця може мало змінюватися навіть при великому кроці, тому (1) + (2).
(3) - характеризує швидкість убування критерію оптимальності і звертається в нуль в точці локального мінімуму. Тому з цієї швидкості можна судити про наближення до оптимуму.
Оцінка ефективності методів оптимізації
Велика розмаїтість ітераційних алгоритмів ставить перед користувачем завдання вибору. Для цього слід виставити критерії, на підставі яких один алгоритм буде вважатися більш кращим, ніж інший. З цією метою зазвичай використовують такі оцінки:
1.
