Метод спуска

Ме́тод спу́ска, 1) в уравнениях математической физики – приём, позволяющий из формулы для решений заданного уравнения получить формулы для решений такого же уравнения с меньшим числом независимых переменных (Тихонов. 2013); 2) метод решения задачи минимизации$$f\left(x^{*}\right)=\min_{x} f(x),$$где $f$ – некоторая функция переменной $x=\left(x_{1}, \ldots, x_{n}\right)$. Итерационная последовательность $\left\{x^{k}\right\}$ метода спуска вычисляется по формуле$$x^{k+1}=x^{k}+\alpha_{k} g^{k},$$где $g^{k}$ – вектор, указывающий некоторое направление убывания функции $f$ в точке $x^{k}$, a $\alpha_{k}$ – итерационный параметр, величина которого указывает длину шага в направлении $g^{k}$.