Вариацио́нное исчисле́ние, раздел математики, в котором изучаются вопросы, связанные с экстремумами интегральных функционалов специального вида. В простейшем случае это функционалы вида

$$\mathit {J (x) = \int_{t_0}^{t_1} L(t, x(t), \dot{x}(t))dt},$$где $\mathit {L = L(t, x, y) }$ – функция трёх переменных (называемая интегрантом). Здесь $\mathit{x = x(t), y = y(t) }$ – функции переменной $\mathit { t, t_0 \leq t \leq t_1, x(t)}$ – производная функции $\mathit x(t)$. Таким образом, значениями аргумента функционала $\mathit J$ являются функции $\mathit x$ одного переменного, т. е. вариационное исчисление – раздел бесконечномерного анализа, получивший в 20 в. название функционального анализа. С другой стороны, вариационное исчисление является разделом теории экстремальных задач.

Первые задачи вариационного исчисления

Исторически первой задачей вариационного исчисления была задача о брахистохроне, состоящая в нахождении кривой наискорейшего спуска, соединяющей две заданные точки (или, иначе говоря, в нахождении формы жёлоба, соединяющего две точки, спускаясь по которому без трения под действием силы тяжести, тело завершает движение за кратчайшее время). Задачу о брахистохроне можно сформулировать как задачу вариационного исчисления о минимизации интеграла

$$\mathit {J(y) = \int_{x_0}^{x_1} \frac {\sqrt{1 +(y '(x))^2}} {\sqrt{y(x)}} dx},$$где $\mathit {y(x)}$ – форма жёлоба и $\mathit {(x_0, y(x_0)),(x_1, y(x_1))}$ – закреплённые начальная и конечная точки жёлоба. Эта задача была предложена И. Бернулли в 1696 г. как вызов математикам (он объявил, что знает её решение). Вызов был принят, и задача была решена крупнейшими учёными того времени – Я. Бернулли, Г. Лейбницем, французским учёным Г. Лопиталем и И. Ньютоном. Эти решения наметили многие направления будущей общей теории. И. Бернулли исходил из оптико-механической аналогии, Я. Бернулли применил принцип Гюйгенса (см. принцип Гюйгенса – Френеля), Лейбниц решил задачу, заменяя кривую ломаными, заложив тем самым основу прямым методам в вариационном исчислении.

В вариационном исчислении можно выделить разделы, посвящённые необходимым условиям экстремума, достаточным условиям экстремума, вопросам существования экстремума и алгоритмам поиска решений.

Необходимые условия экстремума

Разделы, посвящённые необходимым условиям экстремума (и достаточным условиям экстремума), стали разрабатываться в 18 в. Л. Эйлером, Ж.-Л. Лагранжем и А.-М. Лежандром. Начиная с 1730-х гг. Эйлер занимался проблемой об условиях экстремума в задачах вариационного исчисления. Таким условием для простейших задач вариационного исчисления (простейшими называются задачи об экстремумах функционалов $J$ при фиксированных граничных условиях) оказалась выполнимость на кривой $x$, подозреваемой на экстремум, дифференциального уравнения 2-го порядка

$$\frac {\partial L}{\partial x} - \frac {d}{dt} \frac {\partial L}{\partial x} = 0,$$получившего название уравнения Эйлера. В важном частном случае (он связан с т. н. гармоническим осциллятором), когда $L = mx^2 - kx^2$, уравнение Эйлера принимает вид

$$\ddot{x} + \frac {k}{m} x =0$$и граничные условия, вообще говоря, позволяют однозначно определить синусоиду (решение этого уравнения), соединяющую две данные точки, заданные краевыми условиями. Кривые, удовлетворяющие уравнению Эйлера, называют экстремалями, а уравнение Эйлера – условием стационарности. Это уравнение Л. Эйлер вывел прямым методом, заменяя кривую ломаной, т. е. сводя задачу к конечномерной (с последующим переходом к пределу).

Л. Эйлер стал впервые рассматривать задачи с ограничениями, а именно изопериметрические задачи, когда интеграл $J$ минимизируется при условии, что некоторые другие интегралы принимают заданные значения. Классическая изопериметрическая задача состоит в максимизации площади, ограниченной кривой заданной длины. Разработанные Эйлером методы позволили единообразно решить ряд задач, интересных для естествознания и геометрии. Среди них задачи о провисании тяжёлой нити, о минимальной поверхности вращения, а также различные варианты классической изопериметрической задачи. Достижения вариационного исчисления приводили к пониманию того, что оно может служить языком естествознания, поскольку многие законы природы могут быть сформулированы с использованием вариационных принципов (см. Принцип возможных перемещений, Принцип наименьшего действия).

В 1755 г. задачами вариационного исчисления начал заниматься Ж. Лагранж. Он предложил новый подход к исследованию свойств экстремальных кривых, основанный на варьировании кривой, подозреваемой на экстремум, и выделении главной линейной части приращения функционала, т. е. кривая, подозреваемая на экстремум, подвергается малым изменениям, варьируется, и изучается вопрос о приращении функционала, связанного с таким варьированием.

Позднее этими вопросами занимался также Л. Эйлер, который в работе «Элементы исчисления вариаций» (1764) ввёл термины «вариация» и «вариационное исчисление». Для многомерных задач вариационного исчисления методом вариаций аналоги уравнения Эйлера были получены в 1-й половине 19 в. К. Гауссом и М. В. Остроградским.

Ж. Лагранж исследовал задачи вариационного исчисления с ограничениями различной природы. Для задач нахождения экстремумов функций многих переменных с ограничениями типа равенств он стал применять общий приём, получивший название метода множителей Лагранжа (см. Функция Лагранжа). Аналогичные приёмы Лагранж применял в задачах вариационного исчисления. Метод множителей Лагранжа позволяет единообразно выписывать необходимые условия экстремума в различных задачах вариационного исчисления.

Достаточные условия экстремума

Вопрос о достаточных условиях в вариационном исчислении впервые изучал И. Бернулли, но его работа (1718) оставалась неизвестной вплоть до 20 в. В 1786 г. А. Лежандр нашёл необходимое условие экстремальности кривой, состоящее в том, что вторая вариация $\partial^2L/ \partial(\dot{x})^2$ неотрицательна (необходимое условие Лежандра). Гипотеза о том, что достаточным условием экстремума является положительность второй вариации (усиленное условие Лежандра), оказалась неверной.

Проблему достаточности слабого экстремума (когда измеряется близость не только самих функций, но и их производных) разрешил К. Якоби, опираясь на идеи У. Гамильтона, которые тот применял для задач механики и оптики. Якоби показал, что локальных, т. е. проверяемых в отдельных точках, условий (таковы уравнение Эйлера и условие Лежандра) не может быть достаточно для экстремальности кривой.

К. Якоби ввёл понятие сопряжённой точки экстремали вариационной задачи. Для простейшей задачи вариационного исчисления сопряжённая точка имеет простой геометрический смысл: это точка пересечения с экстремалью, огибающей семейства экстремалей, имеющих общую начальную точку. Отсутствие сопряжённой точки на интервале от начальной до конечной точки – необходимое условие слабого минимума (необходимое условие Якоби). Отсутствие сопряжённой точки на полуинтервале от начальной точки до конечной, включая последнюю (усиленное условие Якоби), совместно с уравнением Эйлера и усиленным условием Лежандра достаточно для слабого минимума экстремали.

В 19 в. У. Гамильтону удалось построить, отправляясь от принципа Гюйгенса, теорию оптических явлений, а К. Якоби перенёс эти концепции Гамильтона на общие задачи вариационного исчисления, что привело к созданию теории Гамильтона – Якоби. В этой теории исследуются пучки экстремалей, подобные пучкам лучей, и аналоги волновых фронтов в задачах оптики. Производящие функции, возникающие в этих задачах, удовлетворяют уравнениям с частными производными, получившим название уравнений Гамильтона – Якоби. Решение этих уравнений даёт новый подход к решению задач вариационного исчисления. При таком подходе К. Вейерштрассом в 1880-е гг. были найдены условия сильного минимума (когда учитывается близость лишь фазовых координат).

Решение проблем, связанных с достаточными условиями в задачах с ограничениями, завершилось лишь к середине 20 в., когда начал складываться новый раздел теории экстремальных задач, получивший название теории оптимального управления. Задачами оптимального управления называются задачи вариационного исчисления с дополнительными условиями на переменные (типа неравенств и включений), в которых отражаются ограниченные возможности воздействия на управляемые процессы. Фундаментальное значение в теории оптимального управления имеет принцип максимума Понтрягина; необходимые условия Эйлера, Лежандра, Якоби и Вейерштрасса являются следствиями принципа максимума.

Создание в 20 в. функционального анализа позволило рассматривать вариационное исчисление и оптимальное управление как части этого раздела математики.

Вопросы существования экстремума

Теория существования решений задач вариационного исчисления была создана в 20 в. Основы этой теории также базируются на общих концепциях функционального анализа.

Алгоритмы поиска решения

Алгоритмы решения задач вариационного исчисления строятся на идеях штрафа, прямых методах, заменяющих задачу конечномерной, и методах решения уравнений, полученных из необходимых условий экстремума.