Эллипти́ческий опера́тор, линейный дифференциальный или псевдодифференциальный оператор с обратимым главным символом.

Пусть $A$ – дифференциальный или псевдодифференциальный оператор (вообще говоря, матричный) на области $X \subset \mathbb R^n$ с главным символом $\sigma_A(x,\xi)$. Если $A$ – оператор порядка $m$, то $\sigma_A(x,\xi)$ – матричная функция на $X \times (\mathbb R^n \backslash 0)$ положительно однородная порядка $m$ по переменному $\xi \in \mathbb R^n \backslash 0$. Тогда эллиптичность означает, что $\sigma_A(x,\xi)$ – обратимая матрица при всех $x \in X$, $\xi \in \mathbb R^n \backslash 0$. Это понятие эллиптичности называется эллиптичностью по Петровскому.

Другой вид эллиптичности, эллиптичность по Дуглису – Ниренбергу, предполагает, что $A$ – матричный оператор, $A=\left(A_{ij}\right)_{i, j=1}^d$, где $A_{ij}$ – оператор порядка $s_j- t_i$, $(s_1, \dots, s_d)$ и $(t_1, \dots, t_d)$ – некоторые наборы действительных чисел. Тогда можно образовать матрицу главных символов $\sigma_A(x,\xi)=(\sigma_{A_{ij}}(x, \xi))_{i,j}^d=1$, где функция $\sigma_{A_{ij}}(x, \xi)$ положительно однородна по $\xi$ порядка $s_j-t_i$. Тогда эллиптичность по Дуглису – Ниренбергу означает, что матрица $\sigma_A(x,\xi)$ обратима при всех $x \in X$, $\xi \in \mathbb R^n \backslash 0$.

Эллиптичность оператора $A$ на многообразии означает эллиптичность операторов, которые получаются из него при его записи в локальных координатах. Равносильным образом эту эллиптичность можно описать как обратимость главного символа $\sigma_A$, который является функцией на $T^*X\backslash 0$, где $T^*X$ – кокасательное расслоение к $X$, $T^*X\backslash 0$ – то же расслоение без нулевого сечения. Если оператор $A$ действует в сечениях векторных расслоений $A \colon C^\infty(X,E) \to C^\infty(X,E)$, то эллиптичность оператора означает обратимость линейного оператора $\sigma_A(x,\xi) \colon E_x \to F_x$ для любой точки $(x, \xi) \in T^*X\backslash 0$ $($здесь $E_x$, $F_x$ – слои расслоений $E$ и $F$ в точке $x)$. Примером эллиптического оператора является оператор Лапласа.

Эллиптичность оператора равносильна отсутствию у него действительных характеристических направлений. Эллиптичность можно также понимать микролокально. А именно, эллиптичность оператора $A$ в точке $(х_0, \xi_0)$ означает обратимость матрицы (линейного отображения) $\sigma_A(x_0,\xi_0)$.

Эллиптичность псевдодифференциального оператора на многообразии с краем [например, оператора из алгебры Бутеде Монвеля (Rempel. 1982; Boutet de Monvel. 1971)] в граничной точке означает обратимость некоторого модельного оператора граничной задачи на полуоси. Этот модельный оператор получается из исходного выпрямлением границы, замораживанием коэффициентов главных частей оператора и граничных условий в рассматриваемой точке и взятием преобразования Фурье по касательным направлениям $($от $x'$ к $\xi' )$ с последующим фиксированием ненулевого вектора $\xi'$, который можно рассматривать как кокасательный вектор к границе. В случае дифференциального оператора и дифференциальных граничных условий описанное условие эллиптичности может быть записано в алгебраических терминах. В этом случае (а также иногда и в общем случае) это условие часто называется условием Шапиро – Лопатинского, или условием коэрцитивности.

Наиболее характерными свойствами эллиптических операторов являются: 1) свойства регулярности решений соответствующих уравнений; 2) точные априорные оценки; 3) фредгольмовость эллиптического оператора на компактных многообразиях.

Ниже, для простоты, коэффициенты и символы всех операторов считаются бесконечно гладкими.

Пусть дано уравнение $Au=f$, где $A$ – эллиптический оператор. Простейшее свойство регулярности таково: если $f \in C^\infty$, то $u \in C^\infty$. Это свойство верно для любых дифференциальных эллиптических операторов с гладкими коэффициентами или псевдодифференциальных эллиптических операторов (с гладкими символами). Оно верно и для эллиптического оператора краевой задачи (т. е. верно вплоть до границы при выполнении условия Шапиро – Лопатинского). Уточнением этого свойства является его микролокальный вариант: если оператор $A$ эллиптичен в точке $(x_0, \xi_0)$ $($здесь $x_0$ – внутренняя точка $X)$ и $(x_0, \xi_0) \not\in WF(f)$, то $(x_0, \xi_0) \in WF(u)$, где $WF$ означает волновой фронт (распределения или функции). Другое уточнение: если $A$ – эллиптический оператор порядка $m$ и $f \in W_p^s$, то $u \in W_p^{s+m}$, где $W_p^s$ – пространство Соболева, $1 < p < \infty$. Если $A$ – дифференциальный эллиптический оператор с аналитическими коэффициентами, то из аналитичности $f$ вытекает аналитичность $u$ (в случае уравнений с постоянными коэффициентами это свойство необходимо и достаточно для эллиптичности). Соответствующий микролокальный вариант также справедлив и формулируется на языке аналитических волновых фронтов.

Локальная априорная оценка для эллиптического оператора $A$ порядка $m$ имеет вид$$\tag{1} \|u\|_{W_p^{s+m}(\Omega)} \leqslant C \left(\|f\|_{W_p^{s}(\Omega')} + \|u\|_{W_p^{-N}(\Omega')}\right),$$где $1<p<\infty$, $s\in\mathbb R$, $N\in\mathbb R$, $\Omega$ и $\Omega'$ – две области в $\mathbb R^n$, причём $\overline{\Omega}$ – компакт, принадлежащий $\Omega'$, $Au=f$ в $\Omega'$, постоянная $C$ не зависит от $u$ $($но может зависеть от $s$, $\Omega$, $\Omega'$, $N)$.

Глобальная априорная оценка для эллиптического оператора $A$ порядка $m$ на компактном многообразии $X$ без края имеет тот же вид, что и $(1)$, но с заменой $\Omega$ и $\Omega'$ на $X$. В случае многообразия с краем вместо норм пространств $W_p^s$ в $(1)$ нужно взять нормы, учитывающие структуру вектор-функций $u$ и $f$ (содержащих, вообще говоря, граничные компоненты). Например, пусть на компактном многообразии $X$ с краем $Y$ задан эллиптический оператор вида $u \longmapsto (Au, B_1u|_Y, \dots , B_ru|_Y)$, где $A$ – эллиптический дифференциальный оператор порядка $m$, $B_j$ – дифференциальные операторы порядков $m_j$, причём $m_j < m$ и выполнено условие Шапиро – Лопатинского $($для оператора $A$ и системы граничных операторов $B_1, \dots , B_r)$. Тогда априорная оценка в пространствах Соболева $H^s=W_2^s$ имеет вид$$\|u\|_s \leqslant C \left(\|Au\|_{s-m} + \sum_{j=1}^r \|B_j u|_Y\|_{s-mj-1/2}^\prime + \|u\|_0\right),$$где $\|\cdot\|_s$ – норма в пространстве $H^s(X)$, $\|\cdot\|_s^\prime$ – норма в пространстве $H^s(Y)$, $s \geqslant m$, $u \in H^s(X)$ и постоянная $C > 0$ не зависит от $u$ (но может зависеть от $A$, $B_j$, $s$, $X$, $Y$ и выбора норм в пространствах Соболева).

Эллиптический оператор на компактном многообразии (возможно, с краем) определяет фредгольмов оператор в соответствующих соболевских пространствах, а также в пространствах бесконечно дифференцируемых функций. Его индекс зависит лишь от главного символа и не меняется при непрерывных деформациях главного символа. Это позволяет поставить вопрос о вычислении индекса (см. Формулы индекса).

Важную роль играют эллиптические операторы с параметром (см. Агранович. 1964). При выполнении условия эллиптичности с параметром на компактном многообразии при больших по модулю значениях параметра рассматриваемый эллиптический оператор оказывается обратимым, причём в глобальной априорной оценке типа $(1)$ можно опустить последний член (младшую норму и в правой части).