Метод спуска
Ме́тод спу́ска, 1) в уравнениях математической физики – приём, позволяющий из формулы для решений заданного уравнения получить формулы для решений такого же уравнения с меньшим числом независимых переменных (Тихонов. 2013); 2) метод решения задачи минимизациигде – некоторая функция переменной . Итерационная последовательность метода спуска вычисляется по формулегде – вектор, указывающий некоторое направление убывания функции в точке , a – итерационный параметр, величина которого указывает длину шага в направлении . Если функция дифференцируема и не является её точкой экстремума, то вектор должен удовлетворять неравенствугде – градиент функции в точке .
Если – достаточно гладкая функция (например, дважды непрерывно дифференцируемая) и последовательность векторов удовлетворяет неравенству (*), то существует такая последовательность , чтоПри определённых ограничениях (Пшеничный, Данилин. 1975) на функцию и способ выбора параметров и векторов последовательность сходится к решению исходной задачи.
К методам спуска относятся градиентные методы, в которых векторы каким-либо образом выражаются через векторы . Одним из наиболее распространённых является случай, когдагде – симметрическая матрица, удовлетворяющая для любых векторов и неравенствус некоторыми константами . При дополнительных предположениях (Пшеничный. 1975) относительно и специальном выборе градиентный метод обеспечивает сходимость последовательности к решению исходной задачи со скоростью геометрической прогрессии со знаменателем . Частным случаем градиентных методов является метод наискорейшего спуска, в котором матрица выбирается единичной.