Методы оптимизации (стр. 6 из 11)
Рис. 3
Матрица постоянна и является положительно определенной (т.е. H > 0) , так как оба ее угловых минора
= 4 и 
= 7 положительны. Следовательно, точка х4=(-0,038; 0,091)T есть найденное приближение точки локального минимума х* = (0,0)T, а значение f(x4) =0,0076 есть найденное приближение значения f(x*) =0. Заметим, что условие H> 0, есть одновременно условие строгой выпуклости функции 
. Следовательно, х4 = (-0,038; 0,091)T, f(x4) =0,0076 есть найденные приближения точки глобального минимума f(x) и ее наименьшего значения на R2. ■1.2 Метод наискорейшего градиентного спуска
Стратегия поиска
Стратегия решения задачи состоит в построении последовательности точек {хk}, k = 0,1,..., таких, что
k= 0,1,.... Точки последовательности {хk} вычисляются по правилу 
(2)где точка х0 задается пользователем; величина шага
определяется для каждого значения kиз условия 
(3)Решение задачи (3) может осуществляться с использованием необходимого условия минимума
с последующей проверкой достаточного условия минимума 
. Такой путь может быть использован либо при достаточно простой минимизируемой функции 
, либо при предварительной аппроксимации достаточно сложной функции 
полиномом P( ) (как правило, второй или третьей степени), и тогда условие 
замещается условием 
, а условие условием 
.Построение последовательности {хk}, k= 0,1,..., заканчивается в точке хk, для которой
, где 
- заданное число, или, если 
, М -предельное число итераций, или при двукратном одновременном выполнении неравенств 
, 
, где 
- малое положительное число. Вопрос о том, может ли точка хkрассматриваться как найденное приближение искомой точки локального минимума х*, решается путем дополнительного исследования. 
Рис. 4
Геометрическая интерпретация метода для п = 2приведена на рис. 4.
Пример 1.2. Найти локальный минимум функции
.□ I. Определение точки хk, в которой выполнен по крайней мере один из критериев окончания расчетов.
1. Зададим х0,
, 
, М: х0= (0,5; 1)T, = 0,1; = 0,15 ; М = 10. Найдем градиент функции в произвольной точке 
2. Положим k= 0.
30. Вычислим
: = (3;2,5)Т.40. Вычислим
: = 3,9 > 0,1. Переходим к шагу 5.50. Проверим условие
: k = 0 < 10 = M . Переходим к шагу 6.6° . Следующая точка находится по формуле
= (0,5; 1)T - 
(3; 2,5)г = (0,5 - 3 
; 1 - 2,5 ).Подставим полученные выражения
0,5 - 3 , 1 - 2,5 для координат в f(x): 
Найдем минимум функции 
по с помощью необходимых условий безусловного экстремума: 
.Отсюда
. Так как 
= 63,25 > 0, найденное значение шага обеспечивает минимум функции по .70. Найдем
: х1= (0,5; 1)Т - 0,24(3; 2,5)Т = (-0,22; 0,4)Т .8°. Вычислим
и 
: = 0,937 >0,15; = 1,83 > 0,15.Вывод: полагаем k= 1 и переходим к шагу 3.
31. Вычислим
: = (-0,48;0,58)T.41. Вычислим
= 0,752 > 0,1.51. Проверим условие
: k = 1 < 10 = М.61. Определим
: = 0,546(см. п. 60).71. Найдем
:х2 =(-0,22; 0,4)T - 0,546 (- 0,48; 0,58)T = (0,04; 0,08)T.
81. Вычислим
и 
: = 0,41 > 0,15; = 0,156 > 0,15.Полагаем k= 2 и переходим к шагу 3.
32. Вычислим
: = (0,24;0,2)T.42. Вычислим
: = 0,312 > 0,1.52. Проверим условие
: k = 2 < 10 = M.62. Определим
: =0,24 (см. п. 60).72. Найдем
: