янні (1.3) не обов'язково має бути параметром, мінімізують. Бройдо показав, що може бути довільним параметром, поки не виникла сингулярність або знаменник у правій частині рівняння (1.7) не звернувся до нуль. Ця властивість дозволяє відмовитися від одновимірного пошуку, якщо є адекватні альтернативні методи визначення. p> У разі, коли цільова функція не є квадратичної, застосування рівняння (1.7) може призвести до наступних небажаних явищ:
) Матриця може перестати бути позитивно визначеною. У цьому випадку необхідно забезпечити позитивну визначеність матриці. p>) Обчислюється величина може стати необмеженою (іноді навіть у випадку квадратичних функцій внаслідок помилок округлення).
) Якщо випадково збігається з напрямком попереднього етапу, матриця стає сингулярної або невизначеною.
Метод Девідона - Флетчера - Пауелла
У методі Девідона, модифікованому Флетчером і Пауеллом, вибирається матриця, що має ранг 2. У даному методі не потрібна операція звернення матриці, як і у методі Бройдо. Матриця напрямків Переобчислювати таким чином, щоб для квадратичної цільової функції в межі після n кроків вона дорівнювала. Вихідна матриця зазвичай вибирається у вигляді одиничної матриці (але може бути і будь симетричною позитивно певної матрицею), так що вихідний напрямок мінімізації - це напрям найшвидшого спуску. Оцінка елементів в точці x * (екстремум) тим краще, чим краще ми виберемо порівняно з одиничною матрицею вихідну, проте вибір виразно переважніше прирівнювання елементів значенням аналітичних приватних похідних або їх звичайно-різницевих наближень в початковій точці. У ході оптимізації має місце поступовий перехід від градієнтного напрямки до ньютоновскому; при цьому використовуються переваги кожного з цих двох методів на відповідному етапі. p> Співвідношення для в алгоритмі Девідона - Флетчера - Пауелла можна отримати шляхом підстановки
і
в рівняння (1.6). Тоді маємо
, (1.7а)
де позначення ті ж, що й у формулі (1.7). Слід зазначити, що друга і третя матриці в правій частині (1.7а) є симетричними, так що якщо матриця - симетрична, то й буде симетричною. p> рекурентні співвідношення (1.7а) на практиці цілком задовільно, якщо:
) Помилка при обчисленні невелика;
) НЕ стає В«поганийВ».
Роль матриці у формулі (1.7а) полягає у забезпеченні того, щоб, тоді як матриця забезпечує позитивну визначеність на всіх етапах і в межі виключає початкову матрицю. Використовуємо формулу (1.7а) на декількох етапах, починаючи з початкової матриці:
,
,
.
У разі квадратичної функції сума матриць повинна дорівнювати прі, а сума матриць будується так, щоб вона скоротилася з матрицею, обраної в якості вихідної матриці (тут одиничної матрицею). Таким чином, метод Девідона - Флетчера - Пауелла відображає до деякої міри в поточному значенні всю попере...
