/>
Крок 2.
В
Крок 3.
В В В В
. Далі знайдемо крапку:
В
Крок 2.
В
Крок 3.
В В В В
Після 4 ітерацій знайдено досить точне значення мінімуму, при якому значення цільової функції в точці,.
В
Рис 5. Графічне пояснення методу Коші
3.2 Метод Ньютона
Опис алгоритму:
Цей метод використовує інформацію про других похідних цільової функції. Ця інформація з'являється при квадратичної апроксимації цільової функції, коли при її розкладанні в ряд Тейлора враховуються члени ряду до другого порядку включно. Алгоритм методу виглядає наступним чином:
,
- гессіан (матриця Гессе)
У разі, коли гессіан позитивно визначений, напрямок за методом Ньютона виявляється напрямком узвозу.
Алгоритм методу:
Крок 1. Задати: початкову точку х (0). Перейти до кроку 2. p align="justify"> Крок 2. Обчислити напрям пошуку у вигляді
s (x (k)) = - Г—.
Крок 3. Знайти нове наближення (яке є рішенням задачі для квадратичної функції)
x (k +1) = x (k) + s (x (k)) = x (k) - Г—.
Крок 4. Перевірка на умову закінчення обчислень. p align="justify"> Так: закінчити процес;
Немає: перейти до кроку 2.
Хід вирішення:
Вихідні дані:
В
- цільова функція;
Крок 1.
- початкова точка;
Крок 2.
В В В В В В
Крок 3.
;
В В
Таким чином, точка мінімуму, значення функції в якій знайдена за одну ітерацію.
В
Рис 6. Графічне пояснення методу Ньютона
3.3 Метод сполучених градієнтів
Опис алгоритму:
Даний метод має позитивні властивості методів Коші і Ньютона. Крім того, цей метод використовує інформацію тільки про перші похідних досліджуваної функції. Метод сполучених градієнтів дозволяє отримати рішення за кроків у-вимірному просторі і володіє квадратичної збіжністю. В основі методу лежить організація пошуку уздовж сполучених напрямків, причому для отримання сполучених напрямків використовується квадратична апроксимація цільової функції і значення компонент градієнта. p> Операції аргументу проводяться за формулою:
В
Напрямок пошуку на кожній ітерації визначається за допомогою формули:
В
У цьому випадку напрямок буде-пов'язане з усіма раніше побудованими напрямками пошуку.
Якщо функція квадратична, то для знаходження точки екстремуму потрібно визначити таких напрямків і провести пошуки уздовж кожної прямої. Якщо не є квадратичної, то кількість пошуків зросте....
