Зада́ча Дирихле́, задача отыскания регулярной в области $D$ гармонической функции $u$, которая на границе $\Gamma$ области $D$ совпадает с наперед заданной непрерывной функцией $\varphi$. Задача отыскания регулярного в области решения эллиптического уравнения второго порядка, принимающего наперед заданные значения на границе области, также называется задачей Дирихле, или первой краевой задачей. Вопросы, связанные с этой задачей, рассматривались ещё К. Гауссом, а затем П. Дирихле.

Для областей $D$ с достаточно гладкой границей $\Gamma$ решение $u(x)$ задачи Дирихле можно представить интегральной формулой $$u(x)=\int_{\Gamma} \varphi\left(x_{0}\right) \frac{\partial G\left(x, x_{0}\right)}{\partial n_{0}}\,d \sigma, \tag{1}$$где $\partial G\left(x, x_{0}\right) / \partial n_{0}$ – производная по направлению внутренней нормали в точке $x_{0} \in \Gamma$ функции Грина $G\left(x, x_{0}\right)$, характеризуемой следующими свойствами:

1) $G\left(x, x_{0}\right)=s_{n}^{-1} r^{2-n}+\gamma\left(x, x_{0}\right)$ при $n \geqslant 3$ или $$G\left(x, x_{0}\right)=\frac{1}{2 \pi} \ln \frac{1}{r}+\gamma\left(x, x_{0}\right) \quad \text{при }n=2,$$где $r=\left|x-x_{0}\right|$ – расстояние между точками $x$ и $x_{0}$, $s_{n}$ – площадь единичной сферы в $\mathbb{R}^{n}$, $\gamma\left(x, x_{0}\right)$ – регулярная в $D$ гармоническая функция как относительно координат $x$, так и относительно координат $x_{0}$;

2) $G\left(x, x_{0}\right)=0$, когда $x_{0} \in D, x \in \Gamma$.

Для шара, полупространства и некоторых других простейших областей функция Грина строится явно и формула (1) даёт эффективное решение задачи Дирихле. Получаемые при этом для шара и полупространства формулы носят название формул Пуассона.

Задача Дирихле является одной из основных проблем теории потенциала. Она служила и служит как бы пробным камнем для разрабатываемых новых методов, которые затем, в той или иной мере, становятся достоянием общей теории уравнений с частными производными.

Для исследования задачи Дирихле применяются следующие методы.

Вариационный метод основан на том, что среди всех функций $u$, заданных в $D$ и принимающих наперед заданные значения на $\Gamma$, минимизирует интеграл Дирихле $$D(u)=\int_{D} \sum_{i=1}^{n}\left(\frac{\partial u}{\partial x_{i}}\right)^{2}\,d\omega$$– гармоническая функция. Для $D(u)$ строится специальная минимизирующая последовательность и доказывается сходимость этой последовательности. Т. к. от искомого решения $u$ задачи Дирихле требуется, чтобы существовал интеграл $D(u)$, то вариационный метод применим лишь для таких функций $\varphi$, которые являются следами на $\Gamma$ функций $F$, заданных в $\overline{D}$ и таких, что $D(F)$ существует и ограничен.

В методе потенциалов решение задачи Дирихле ищется в виде потенциала двойного слоя с неизвестной плотностью, определённой на $\Gamma$. При помощи формул скачка относительно этой плотности получается интегральное уравнение Фредгольма, из которого следует существование решения задачи Дирихле с учётом того, что единственность этого решения следует из принципа максимума. Предполагается, что $\Gamma\in A^{(1,\lambda)}$.

В альтернирующем методе Шварца рассматриваются две области $D_{1}$ и $D_{2}$ с непустым пересечением $D_{0}$ такие, что для $D_{1}$ и $D_{2}$ в отдельности известен способ решения задачи Дирихле. Затем строится процесс, позволяющий найти решение задачи Дирихле для области $D=D_{1}\cup D_{2}$. Границы $\Gamma_{1}$ и $\Gamma_{2}$ областей $D_{1}$ и $D_{2}$ предполагаются кусочно гладкими, причём во всех точках пересечения $\Gamma_{1}$ с $\Gamma_{2}$ как $\Gamma_{1}$, так и $\Gamma_{2}$ являются гладкими и пересекаются под ненулевым углом. Строятся последовательности регулярных в областях $D_{1}$ и $D_{2}$ гармонических функций, удовлетворяющих специальным граничным условиям. Затем доказывается, что эти последовательности равномерно сходятся и в $D_{0}$ их пределы совпадают. Предельная гармоническая функция регулярна в $D$ и является искомым решением задачи Дирихле. Метод Шварца можно применять для объединения или пересечения любого конечного числа областей.

Метод выметания в той форме, в которой он первоначально был введён А. Пуанкаре, применяется к таким областям, которые допускают исчерпание счётным множеством шаров. Исходным в этом методе является построение ньютонова потенциала, принимающего на границе $\Gamma$ заданные значения $\varphi$, а задача затем сводится к замене этого потенциала потенциалом масс, расположенных на $\Gamma$, без изменения значений $\varphi$ на $\Gamma$, т. е. к выметанию масс. При помощи формулы Пуассона такой процесс выметания для шара $D$ легко осуществить в явном виде. Счётное число выметаний из шаров, объединение которых исчерпывает область $D$ общего вида, приводит к некоторому потенциалу масс, расположенных на границе $\Gamma$, который и даёт решение задачи Дирихле.

Близким к методу выметания является метод Перрона (или метод верхних и нижних функций), применимый к областям $D$ весьма общего вида. В этом методе строятся последовательности верхних (супергармонических) и нижних (субгармонических) функций, общим пределом которых является искомое решение задачи Дирихле. Для того чтобы это решение принимало заданное значение в точке $Q\in\Gamma$, необходимо и достаточно существование локального барьера $\omega_{Q}$. Функция $\omega_{Q}$ непрерывна, супергармонична в пересечении $\overline{D}\cap \Sigma$ ($\Sigma$ – шар с центром в точке $Q$); $\omega_{Q}>0$ всюду в $\overline{D}\cap\Sigma$, кроме точки $Q$, где она обращается в нуль.

Точки $\Gamma$, для которых существует локальный барьер, называются регулярными точками. Если $\Gamma$ состоит только из регулярных точек, то полученное решение задачи Дирихле непрерывно в $D$ и принимает заданные значения на $\Gamma$. Однако на $\Gamma$ могут существовать и иррегулярные точки. Например, в $\mathbb{R}^{2}$ иррегулярными являются изолированные точки $\Gamma$, a в $\mathbb{R}^{3}$ иррегулярной будет вершина достаточно тонкого острия, входящего внутрь $D$. Наличие иррегулярных точек приводит к тому, что задача Дирихле не является разрешимой для всех непрерывных на $\Gamma$ функций $\varphi$, либо же решение является неустойчивым по отношению к изменению граничных данных (см. Келдыш М. В. 1941).

Обобщённое решение задачи Дирихле, введённое Н. Винером, удовлетворяет условиям: а) оно применимо для любых областей; б) оно приводит к классическому решению задачи Дирихле, если таковое существует. Пусть область $D$ – предел монотонно возрастающей последовательности регулярных областей $\left\{D_{n}\right\}$ такой, что $D_{n} \subset D_{n+1} \subset D$, и любой компакт $K \subset D$ содержится в $D_{n}$ при $n>n(K)$. Обобщённое решение u задачи Дирихле получается как предел последовательности $\left\{u_{n}\right\}$ решений задачи Дирихле для областей $D_{n}$ и граничной функции $\varphi$, непрерывно продолженной внутрь $D$. Решение $u$ не зависит ни от выбора исчерпывающей последовательности $\left\{D_{n}\right\}$, ни от способа непрерывного продолжения $\varphi$ внутрь D.

Имеется трактовка обобщённого решения задачи Дирихле на основе метода Перрона. Пусть $\overline{H}_{\varphi}$ – нижняя огибающая семейства всех верхних супергармонических функций $v$, удовлетворяющих на $\Gamma$ условию $$\liminf v(x) \geqslant \varphi\left(x_{0}\right), \quad x \in D,\quad x \rightarrow x_{0}; \quad \underline{H}_{\varphi}=\overline{H}_{-\varphi}.$$Для любых области $D$ и функции $\varphi$ имеет место неравенство $\underline{H}_{\varphi} \leqslant \overline{H}_{\varphi}$. В случае равенства $\underline{H}_{\varphi}=\overline{H}_{\varphi}=u$ эта функция $u$ является гармонической. Она называется обобщённым решением задачи Дирихле, а граничная функция $\varphi$ – разрешимой. Любая непрерывная функция $\varphi$ разрешима, поведение же обобщённого решения $u$ в точке $x_{0}\in\Gamma$ определяется регулярностью или иррегулярностью $x_{0}$.

Для обобщённого по Винеру решения задачи Дирихле справедливо интегральное представление в виде формулы Валле-Пуссена $$u(x)=\int_{\Gamma} \varphi\left(x_{0}\right)\,d\omega\left(x,D\mid x_{0}\right),\tag{2}$$являющейся обобщением формулы (1). Здесь $d\omega(x,E)$ – гармоническая мера множества $E\subset\Gamma$ в точке $x_{0}$ (см. Брело М. 1964).

Отсюда возникает возможность рассмотрения обобщённой задачи Дирихле для произвольных граничных функций $\varphi$, при этом можно требовать удовлетворения граничного условия лишь в некоторой ослабленной форме. Например, если $D$ – область в $\mathbb{R}^{2}$ с достаточно гладкой границей $\Gamma$, а граничная функция $\varphi$ имеет только точки разрыва первого рода, то можно требовать удовлетворения граничного условия лишь в точках непрерывности $\varphi$, а для обеспечения единственности решения в точках разрыва требуется ограниченность решения. B постановке Н. Н. Лузина обобщённая задача Дирихле ставится для произвольной измеримой и конечной почти всюду на $\Gamma$ граничной функции $\varphi$. Граничное условие может состоять в том, чтобы граничные значения решения по нормали существовали и совпадали с $\varphi$ почти всюду на $\Gamma$. Для общего эллиптического уравнения второго порядка $$\sum_{i,j=0}^{n} a_{i j}(X) \frac{\partial^{2} u}{\partial x_{i} \partial x_{j}}+\sum_{i=0}^{n} b_{i}(X) \frac{\partial u}{\partial x_{i}}+c(X) u=f(X) \tag{3}$$задача Дирихле фредгольмова. При этом ищется регулярное в области решение, принимающее на границе наперед заданные значения. Приведённые выше методы исследования задачи Дирихле для гармонических функций обобщаются и на уравнение (3).

Для равномерно эллиптических систем задача Дирихле может оказаться не только нефредгольмовой, но даже иметь бесконечно много линейно независимых решений (см. Бицадзе А. В. 1966).

Задача Дирихле рассматривается и для некоторых неэллиптических уравнений или вырождающихся уравнений. В этих случаях задача Дирихле иногда оказывается некорректной.