Дифференциа́льный опера́тор, оператор, определённый некоторым дифференциальным выражением и действующий в пространствах (вообще говоря, векторнозначных) функций (или сечений дифференцируемых расслоений) на дифференцируемых многообразиях или в пространствах, сопряжённых к пространствам этого типа. Дифференциальное выражение – это такое отображение $\lambda$ множества $\Omega$ в пространстве сечений расслоения $\xi$ с базой $M$ в пространство сечений расслоения $\eta$ с той же базой, что для любой точки $p \in M$ и любых сечений $f, g \in \Omega$ из совпадения их $k$-струй в точке $p$ следует совпадение $\lambda f$ и $g$ в той же точке; наименьшее из чисел $k$, удовлетворяющих этому условию для всех $p \in M$, называется порядком дифференциального выражения и порядком дифференциального оператора, определённого этим выражением.

На многообразии $M$ без края дифференциальный оператор часто является расширением оператора, естественно определяемого фиксированным дифференциальным выражением на некотором (открытом в подходящей топологии) множестве бесконечно (или достаточно много раз) дифференцируемых сечений данного векторного расслоения $\xi$ c базой $M$ и, таким образом, допускает естественное обобщение на случай пучков ростков сечений дифференцируемых расслоений. На многообразии $M$ с краем $\partial M$ дифференциальный оператор $L$ часто определяется как расширение аналогичного оператора, естественно определённого дифференциальным выражением на множестве тех дифференцируемых функций (или сечений расслоения), ограничения которых на $\partial M$ лежат в ядре некоторого дифференциального оператора $l$ на $\partial M$ (или удовлетворяет каким-либо другим условиям, определяемым теми или иными требованиями к области значений оператора $l$ на ограничениях функций из области определения оператора $L$, например неравенствами); дифференциальный оператор $l$ называется определяющим граничные условия для дифференциального оператора $L$. Линейные дифференциальные операторы в пространствах, сопряжённых к пространствам функций (или сечений), определяются как операторы, сопряжённые к дифференциальным операторам указанного выше вида в этих пространствах.

Примеры. 1) Пусть $F$ – действительная функция $k+2$ переменных $x, y_0, y_1, \ldots, y_k$, определённая в некотором прямоугольнике $\Delta=I \times J_0 \times J_1 \times \ldots \times J_k$; дифференциальное выражение$$D u \overset{\text{def}}{=} F\left(x, u, \frac{d u}{d x}, \ldots, \frac{d^k u}{d x^k}\right)$$(где функция $F$ обычно удовлетворяет некоторым условиям регулярности – измеримости, непрерывности) задаёт дифференциальный оператор $D$ на многообразии $\Delta$, область определения которого $\Omega$ состоит на всех функций $u \in C^k(\Delta)$, удовлетворяющих условию $u^{(i)}(x) \in J_i$ для $i=0, 1, \ldots, k$; если $F$ непрерывна, то $D$ может рассматриваться как оператор в $C(I)$ с областью определения $\Omega$; дифференциальный оператор $D$ называется обыкновенным дифференциальным оператором. Если $F$ зависит от $y_k$, то порядок $D$ равен $k$. Дифференциальный оператор $D$ называется квазилинейным, если $F$ линейно зависит от $y_k$; линейным, если $F$ линейно зависит от $y_0, y_1, \ldots, y_k$; линейным с постоянными коэффициентами, если $F$ не зависит от $x$ и $D$ является линейным дифференциальным оператором. Остальные дифференциальные операторы называются нелинейными. Квазилинейный дифференциальный оператор при некоторых условиях регулярности функции $F$ может быть расширен до дифференциального оператора из одного пространства Соболева в другое.

2) Пусть $x=\left(x^1, \ldots, x^N\right)$ пробегает область $\mathcal{O}$ в $\mathbb{R}^N$, $F=F\left(x, u, D^{(n)}(u)\right)$ – дифференциальное выражение, определяемое действительной функцией $F$ на произведении области $\mathcal{O}$ на некоторый открытый прямоугольник $\omega$; здесь $D^{(n)}(u)$ – набор частных производных вида$$D^{\alpha_u}=\frac{\partial^{\alpha_1 +\ldots+\alpha_N}}{\left(\partial x^1\right)^{\alpha_1 \ldots\left(\partial x^N\right)^\alpha N}},$$где $\alpha_1+\ldots+\alpha_N \leqslant n$, а функция $F$ (как и в примере 1) удовлетворяет некоторым условиям регулярности. Определённый этим выражением дифференциальный оператор на пространстве достаточно дифференцируемых функций на $\mathcal{O}\times \omega$ называется общим дифференциальным оператором с частными производными. Аналогично примеру 1 определяются нелинейные, квазилинейные и линейные дифференциальные операторы с частными производными и порядок дифференциального оператора; дифференциальный оператор называется эллиптическим, гиперболическим или параболическим, если он определяется дифференциальным выражением соответствующего типа. Иногда рассматриваются функции $F$, зависящие от производных всех порядков (например, в виде формальной линейной комбинации их); таким дифференциальным выражениям, не определяющим дифференциальные операторы в обычном смысле, тем не менее могут быть сопоставлены некоторые операторы (например, в пространствах ростков аналитических функций), называемые дифференциальными операторами бесконечного порядка.

3) Предыдущие примеры могут быть перенесены на случай комплексного поля, локально компактного вполне несвязного поля и (по крайней мере, в случае линейных дифференциальных операторов) даже в более общую ситуацию (см. Дифференциальная алгебра).

4) Системы дифференциальных выражений определяют дифференциальные операторы в пространствах вектор-функций. Например, дифференциальный оператор Коши – Римана, определённый дифференциальным выражением $$\left\{\frac{\partial u}{\partial x}-\frac{\partial v}{\partial y}, \frac{\partial u}{\partial y}+\frac{\partial v}{\partial x}\right\},$$преобразует пространство пар гармонических функций на плоскости в себя.

В определении дифференциального оператора и его обобщений (кроме обычных производных) часто используются не только обобщённые производные (естественно возникающие при рассмотрении расширений дифференциальных операторов, заданных на дифференцируемых функциях) и слабые производные (связанные с переходом к сопряжённому оператору), но и производные дробного и отрицательного порядков. Более того, само дифференцирование заменяется преобразованием Фурье (или другим интегральным преобразованием), применяемым к области определения и значения такого обобщённого дифференциального оператора так, чтобы получить возможно более простое представление соответствующей дифференциальному оператору функции $F$ и достичь разумной общности постановки задач и хороших свойств рассматриваемых объектов, a также построить функциональное или операционное исчисление (продолжающее соответствие между оператором дифференцирования и оператором умножения на независимую переменную, осуществляемое преобразованием Фурье).

Такие вопросы теории дифференциальных уравнений, как существование, единственность, регулярность, непрерывная зависимость решений от начальных данных или правой части, явный вид решения дифференциального уравнения, определённого данным дифференциальным выражением, естественно интерпретируются в терминах теории операторов как задачи дифференциального оператора, определённого данным дифференциальным выражением в подходящих функциональных пространствах, а именно – как задачи о ядре, образе, изучении структуры области определения данного дифференциального оператора $L$ или его расширения, непрерывности обратного оператора к данному дифференциальному оператору и явного построения этого обратного опеpaтора. Вопросы аппроксимации решений и построения приближённых решений дифференциальных уравнений также находят естественное обобщение и усовершенствование в задачах о соответствующих дифференциальных операторах, a именно – о подборе таких естественных топологий в области определения и области значений, чтобы оператор $L$ (при условии единственности решений) осуществлял гомеоморфизм области определения и области значений в этих топологиях (эта теория связана с теорией интерполяции и шкал функциональных пространств, особенно в случаях линейных и квазилинейных дифференциальных операторов), или в подборе дифференциальных операторов, близких к данному в том или ином смысле (что позволяет, используя различные топологии в множестве дифференциальных операторов, обосновывать методы аппроксимации уравнений, в том числе метод регуляризации, метод штрафа и некоторые итерационные методы регуляризации). Теория дифференциальных операторов позволяет применить классические методы теории операторов, например теорию вполне непрерывных операторов, и метод сжатых отображений в различных теоремах существования и единственности решений дифференциальных уравнений, в теории бифуркации решений и в нелинейных задачах о собственных значениях. Часто оказывается возможным использовать наличие в функциональных пространствах, где определён дифференциальный оператор, естественной структуры порядка (в частности, применить теорию монотонных операторов), использовать методы линейного анализа (теорию двойственности, теорию выпуклых множеств, теорию сопряжённых операторов, теорию диссипативных операторов), вариационные методы и теорию экстремальных задач, а также наличие некоторых дополнительных структур в области определения области значений (например, комплексной, симплектической и т. д.) для выяснения структуры области значений и ядра дифференциального оператора, т. е. получения информации о классе решений соответствующих уравнений. Ряд задач, связанных с дифференциальными выражениями, приводит к необходимости изучения дифференциальных неравенств, естественно связанных с многозначными дифференциальными операторами.

Таким образом, теория дифференциальных операторов позволяет разрешить ряд трудностей классической теории дифференциальных уравнений. Использование различных расширений обычных дифференциальных операторов приводит к понятию обобщённого решения соответствующего дифференциального уравнения (которое в ряде случаев, связанных, например, с эллиптическими задачами, оказывается необходимо классическим), а использование линейной структуры позволяет вводить понятие слабых решений дифференциальных уравнений. При выборе подходящего расширения дифференциального оператора, определённого дифференциальным выражением, важную роль играют связанные с конкретным видом последнего априорные оценки для решений, которые позволяют указать такие функциональные пространства, что в этих пространствах дифференциальный оператор непрерывен или ограничен.

Но теория дифференциальных операторов даёт возможность поставить и решить и ряд принципиально новых задач по сравнению с классическими задачами теории дифференциальных уравнений. Так, для нелинейных операторов представляют интерес изучение структуры множества его неподвижных точек и действие оператора в их окрестности, а также классификация этих особых точек и вопрос об устойчивости типа особой точки при возмущении данного дифференциального оператора; для линейных дифференциальных операторов, кроме указанных выше задач, представляют интерес задачи об описании и изучении спектра дифференциального оператора, построении его резольвенты, вычислении индекса, описании структуры инвариантных подпространств данного дифференциального оператора, построении связанного с данным дифференциальным оператором гармонического анализа (в частности, разложения по собственным функциям, что требует предварительного изучения вопросов полноты системы собственных и присоединённых функций), изучении линейных и нелинейных возмущений данного дифференциального оператора. Эти задачи представляют особый интерес для эллиптических дифференциальных операторов, порождённых симметричными дифференциальными выражениями, в связи с теорией самосопряжённых операторов в гильбертовом пространстве (в частности, со спектральной теоремой для таких операторов и теорией расширений симметрических операторов). Теория ряда задач гиперболических и параболических (не обязательно линейных) дифференциальных операторов связана с теорией групп и полугрупп преобразований локально выпуклых пространств.

Пожалуй, наиболее исследованный (помимо линейных) класс дифференциальных операторов, к тому же имеющий широкое практическое применение, – дифференциальные операторы, не изменяющиеся вообще или меняющиеся по вполне определённому закону при действии на область их определения и соответствующим образом на дифференциальное выражение некоторых преобразований, составляющих группу $G$ (или полугруппу). Таковы, например, инвариантные дифференциальные операторы, тесно связанные с представлениями группы $G$; ковариантная производная или, более общо, пульверизация – дифференциальные операторы на пространствах дифференцируемых тензорных полей (здесь $G$ – группа всех диффеоморфизмов), длинный ряд операторов теоретической физики и т. п. Функционально-геометрические методы полезны и при исследовании дифференциальных операторов с т. н. скрытой симметрией (см., например, уравнение Кортевега – де Фриза).

Теория дифференциальных операторов, являющаяся составной частью общей теории операторов, играет в последнее время всё более значительную роль не только в теории дифференциальных уравнений, но и вообще в современном анализе, причём не только как важный конкретный пример неограниченных операторов (это в особенности касается теории линейных дифференциальных операторов), но и как аппарат представления и средство изучения объектов различной природы: так, например, любая обобщённая функция (и даже гиперфункция) получается действием некоторого обобщённого дифференциального оператора на непрерывную функцию. Наконец, непрерывно возрастает роль и влияние теории дифференциальных операторов в других разделах математики – например, одно из решений т. н. проблемы индекса связывает топологические характеристики многообразия с наличием на нём определённого класса дифференциальных операторов, что позволяет сделать заключение о свойствах эллиптических комплексов на этом многообразии.