Лине́йный дифференциа́льный опера́тор в узком смысле, оператор, действующий на функции, заданные на открытом множестве $U \subset \mathbb{R}^n$, и принимающий значения в поле $k=\mathbb{R}$ или $k=\mathbb{C}$ по формуле
$$\tag{1} A u=v \equiv \sum_{i_1+\ldots+i_n \leqslant m} a_{i_1 \ldots i_n} \frac{\partial^{i_1+\ldots+i_n} u}{d x_1^{i_1} \ldots d x_n^{i_n}},$$где $a_{i_1 \ldots i_n}$ – функции со значениями в том же поле, называемые коэффициентами $A$. Если коэффициенты принимают значения во множестве матриц размера $t \times s$ над полем $k$, то линейный дифференциальный оператор $A$ определён на векторфункциях $u=\left(u_1, \ldots, u_s\right)$ и преобразует их в векторфункции $v=\left(v_1, \ldots, v_t\right)$. В случае $n=1$ он называется обыкновенным линейным дифференциальным оператором, а в случае $n>1$ линейным дифференциальным оператором с частными производными.

Пусть $X$ – дифференцируемое многообразие, $E$ и $F$ – конечномерные векторные расслоения на $X$ (все из класса $C^{\infty}$). Пусть $\tilde{E}$, $\tilde{F}$ – пучки ростков сечений этих расслоений соответствующей гладкости. Линейный дифференциальный оператор в широком смысле $A: E \rightarrow F$ есть отображение пучков $\tilde{E} \rightarrow \tilde{F}$, удовлетворяющее условию: всякая точка $x \in X$ имеет координатную окрестность $U$, в пределах которой расслоения тривиальны, а отображение

$$A: \Gamma(U, E) \rightarrow \Gamma(U, F),$$где $\Gamma(U, E)$ – пространство сечений над $U$ расслоения $E$, действует по формуле $(1)$, в которой использованы локальные координаты $x_1, \ldots, x_n$ и тривиализации

$$\left.E\right|_U \cong U \times k^s,\left.\quad F\right|_U \cong U \times k^t.$$Минимальное число $m$, пригодное для формулы $(1)$ во всех точках $x \in X$, называется порядком линейного дифференциального оператора $A$. Например, всякая ненулевая связность в расслоении $E$ есть некоторый линейный дифференциальный оператор. $E \rightarrow E \otimes \Omega^1(X)$ первого порядка. Другое, эквивалентное определение линейного дифференциального оператора $A: E \rightarrow F$ таково: это – линейный оператор $A: \Gamma(X, E) \rightarrow\Gamma(X, F)$, удовлетворяющий условию $\operatorname{supp} A u \subset \operatorname{supp} u$, где $\operatorname{supp} u$ – носитель $u$.

Линейный дифференциальный оператор может быть задан на более широких функциональных пространствах. Например, если на $X$ задана положительная мера, а на расслоениях $E$ и $F$ – некоторое скалярное произведение, то определены пространства квадратично суммируемых сечений этих расслоений. Линейный дифференциальный оператор, заданный локальными выражениями $(1)$, определяет линейный неограниченный оператор $A: L_2(E) \rightarrow L_2(F)$. При некоторых слабых предположениях последний может быть замкнут как оператор в гильбертовых пространствах. Это замыкание также носит название линейного дифференциального оператора. Подобным же образом может быть построен оператор, действующий в пространствах Соболева или в пространствах более общих шкал.

Линейный дифференциальный оператор класса $C^{\infty}$ может быть расширен до оператора в пространствах обобщённых сечений. Такое расширение может быть построено с помощью формально сопряжённого оператора. Пусть $E^{\prime}$ – расслоение, сопряжённое с $E$ (то есть $E^{\prime}=\operatorname{Hom}(E, I)$, $I$ – одномерное тривиальное расслоение), а $\Omega$ – расслоение нечётных дифференциальных форм на $X$ максимальной степени. Определено билинейное отображение

$$(\cdot, \cdot)_E: \Gamma(X, E) \times \Gamma_0\left(X, E^{\prime} \otimes \Omega\right) \rightarrow k,$$включающее интегрирование по $X$. Здесь $\Gamma_0(\ldots)$ – пространство сечений с компактными носителями. Формула

$$\left({ }^t A v, u\right)_E=(v, A u)_F$$однозначно определяет некоторый линейный оператор

$${ }^t A: \Gamma_0\left(X, F^{\prime} \otimes \Omega\right) \rightarrow \Gamma_0\left(X, E^{\prime} \otimes \Omega\right) .$$Он порождается линейным дифференциальным оператором ${ }^t A: F^{\prime} \otimes \Omega-E^{\prime} \otimes \Omega$, который в пределах координатной окрестности $U$ имеет выражение

$${ }^t A u=\sum(-1)^{i_1+\ldots+i_n} \frac{\partial^{i_1+\ldots+i_n}\left({ }^t a_{i_1 \ldots i_n}u\right)}{\partial x_1^{i_1} \ldots \partial x_n^{i_n}},$$если расслоение $\Omega$ тривиализовано выбором сечения $d x_1 \wedge \ldots \wedge d x_n$. Линейный дифференциальный оператор ${ }^t A$ называется формально сопряжённым по отношению к $A$.

В пространстве $\Gamma_0\left(X, E^{\prime} \otimes \Omega\right)$ задаётся сходимость по следующему правилу: $f_k \rightarrow f$, если объединение носителей сечений $f_k$ принадлежит компакту, и в любой координатной окрестности $U \subset X$, над которой имеется тривиализация $E$, вектор-функции $f_k$ равномерно сходятся к $f$ вместе со всеми частными производными по локальным координатам. Пространство всех линейных функционалов над $\Gamma_0\left(X, E^{\prime} \otimes \Omega\right)$, непрерывных относительно указанной сходимости, называется пространством обобщённых сечений $E$ и обозначается $D^{\prime}(E)$. Оператор ${ }^t A$ переводит сходящиеся последовательности в сходящиеся и потому порождает сопряжённый оператор $D^{\prime}(E) \rightarrow D^{\prime}(F)$. Последний совпадает с $A$ на подпространстве $\Gamma(X, E)$ и называется продолжением данного линейного дифференциального оператора на пространство обобщённых сечений. Рассматриваются также и другие расширения линейного дифференциального оператора: на пространства обобщённых сечений бесконечного порядка, на различные пространства гиперфункций и т. д.

Под линейным дифференциальным оператором бесконечного порядка понимается оператор, действующий в том или ином пространстве аналитических функций (сечений), заданный формулой $(1)$, в которой суммирование производится по бесконечному множеству индексов $i_1, \ldots, i_n$.

Следующее свойство характеризует линейный дифференциальный оператор. Последовательность $\left\{f_k\right\} \subset \Gamma(X, E)$ объявляется сходящейся к сечению $f$, если $f_k$ равномерно стремится к $f$ вместе со всеми частными производными в любой координатной окрестности, имеющей компактное замыкание. Линейный оператор $A: \Gamma_0(X, E) \rightarrow \Gamma(X, F)$, переводящий сходящиеся последовательности в сходящиеся, является линейным дифференциальным оператором порядка не выше $m$ тогда и только тогда, когда для любых $f, g \in C^{\infty}(X)$ функция
$$\tag{2} \exp (-i \lambda g) A(f \exp (i \lambda g))$$является полиномом по параметру $\lambda$ степени не выше $m$. Если это условие заменить предположением, что $(2)$ представляется асимптотическим степенным рядом, то получается определение линейного псевдодифференциального оператора.

Пусть многообразие $X$, а также расслоения $E$ и $F$ снабжены $G$-структурой, где $G$ – некоторая группа. Тогда определено действие этой группы на любой линейный дифференциальный оператор $A: E \rightarrow F$ по формуле

$$g^*(A)(u)=g\left(A\left(g^{-1}(u)\right)\right) .$$Линейный дифференциальный оператор $A$ называется инвариантным относительно $G$, если $g^*(A)=A$ для всех $g \in G$.

Расслоение струй (джетов) есть объект, двойственный пространству линейного дифференциального оператора. Пусть снова $E$ – векторное расслоение на многообразии $X$ класса $C^{\infty}$. Расслоение $m$-струй сечений $E$ есть векторное расслоение $J_m(E)$ на $X$, слой которого над точкой $x$ равен $\tilde{E}_x / \tilde{E}_x(m)$, где $\tilde{E}_x$ – слой пучка $\tilde{E}$, а $\tilde{E}_x(m)$ – подпространство этого слоя, состоящее из ростков сечений, у которых в точке $x$ обращаются в нуль все дифференциалы до порядка включительно. Линейный дифференциальный оператор $d_m: E \rightarrow J_m(E)$, действующий по правилу: значение сечения $d_m(u)$ в точке $x$ равно образу сечения $u$ в факторпространстве $\tilde{E}_x / \tilde{E}_x(m)$, называется универсальным. Пусть, далее, $F$ – расслоение на $X$, а $a: J_m(E) \rightarrow F$ – гомоморфизм расслоений, т. е. линейный дифференциальный оператор нулевого порядка. Композиция
$$\tag{3} E \stackrel{d m}{\rightarrow} J_m(E) \stackrel{a}{\rightarrow} F$$есть линейный дифференциальный оператор порядка не выше $m$. Обратно, всякий линейный дифференциальный оператор порядка не выше $m$ может быть представлен единственным способом в виде композиции $(3)$.

Символ (главный символ) линейного дифференциального оператора $A: E \rightarrow F$ есть семейство линейных отображений

$$\sigma_A(x, \xi): E_x \rightarrow F_x,$$зависящее от точки $(x, \xi)$ кокасательного расслоения $T^*(X)$. Они действуют по формуле $e \rightarrow \frac{1}{m !} a\left(\xi^m e\right)$, где $a$ – гомоморфизм, участвующий в факторизации $(3)$, $e \in \tilde{E}_x$, а $\xi^m e$ – элемент $J_m(E)_x$, равный образу $f^m e$, где $f$ – росток функции класса $C^{\infty}$ такой, что $f(x)=0$, $d f(x)=\xi$. Если $A$ имеет вид $(1)$, то

$$\sigma_A(x, \xi)=\sum_{i_1+\ldots+i_n=m} a_{i_1 \ldots i_n}(x) \xi_1^{i_1} \ldots \xi_{n}^{i_n},$$где $\xi_1, \ldots, \xi_n$ – координаты слоя расслоения $T^*(U) \cong U \times k^n$; таким образом, символ является однородной по $\xi$ формой степени $m$. В соответствии с этой конструкцией символа вводится понятие характеристики. Характеристикой линейного дифференциального оператора $A$ называется точка $(x, \xi) \in T^*(X)$, в которой символ $\sigma_A$ имеет ненулевое ядро.

Принятая в теории линейных дифференциальных операторов классификация относится главным образом к линейным дифференциальным операторам, действующим в расслоениях одинаковой размерности, фактически к операторам вида $(1)$, где коэффициенты суть квадратные матрицы. Линейный дифференциальный оператор называется эллиптическим, если он не имеет действительных характеристик $(x, \xi)$, $\xi \neq 0$. Этот класс характеризуется наилучшими локальными свойствами решений уравнения $A u=w$, а также корректностью краевых задач в ограниченных областях. Класс гиперболических линейных дифференциальных операторов также выделяется условием, наложенным лишь на характеристики. Свойство гиперболичности тесно связано с корректностью задачи Коши с неаналитическими начальными данными. Класс линейных дифференциальных операторов главного типа задаётся условием, наложенным лишь на символ. Для таких операторов развита теория локальной разрешимости и гладкости решений. Класс параболических линейных дифференциальных операторов выделяется условием, касающимся не только символа, но и некоторых младших членов. Для параболического линейного дифференциального оператора характерны смешанная задача и задача Коши с условиями на бесконечности. Класс гипоэллиптических линейных дифференциальных операторов задаётся следующим неформальным условием: всякое априори обобщённое решение уравнения $A u=w$ с правой частью из $C^{\infty}$ само принадлежит $C^\infty$. Известен ряд формальных условий на выражение $(1)$, обеспечивающих гипоэллиптичность оператора.

Помимо указанных основных типов линейных дифференциальных операторов, иногда говорят о линейных дифференциальных операторах смешанного или переменного типа, о линейных дифференциальных операторах составного типа и др. Рассматриваются также задачи в неограниченных областях с условиями на бесконечности, краевые задачи со свободной границей, задачи спектральной теории, задачи оптимального управления и др.

Комплекс линейных дифференциальных операторов есть последовательность линейных дифференциальных операторов

$$E^* \ldots \longrightarrow E_k \stackrel{A_k}{\longrightarrow} E_{k+1} \stackrel{A_{k+1}}{\longrightarrow} E_{k+2} \longrightarrow \ldots,$$в которой $A_{k+1} A_k=0$ для всех $k$. Когомология комплекса линейных дифференциальных операторов $E^*$ есть когомология комплекса векторных пространств $\Gamma\left(X, E^*\right)$. Пусть $H^k$ – когомология этого комплекса в $k$-м члене. Сумма $\sum(-1)^k \operatorname{dim} H^k$ называется индексом данного комплекса линейных дифференциальных операторов. Так, индекс эллиптического комплекса линейных дифференциальных операторов (т. е. такого, что лишь конечное число $E_k$ отлично от нулевого и комплекс, образованный символами линейных дифференциальных операторов $A_k$, точен во всех точках $(x, \xi) \in T^*(X)$, $\xi \neq 0$) конечен в случае компактного $X$, и отыскание формул, выражающих индекс такого комплекса через его символ, является содержанием ряда исследований, объединяющих теорию линейных дифференциальных операторов с алгебраической геометрией и алгебраической топологией (см. в статье Формулы индекса).

Описанное определение символа не является вполне удовлетворительным для линейного дифференциального оператора, действующего в расслоениях размерности, большей $1$. Одной из причин этого является тот факт, что равенство $\sigma_{A B}=\sigma_{A} \circ \sigma_B$ может нарушаться. Следующая усложнённая конструкция, заменяющая понятие символа, является более адекватной. Для всякого расслоения $E$ на многообразии $X$ класса $C^{\infty}$ рассматривается пучок $D(E)$ ростков линейного дифференциального оператора $E \rightarrow I$, где $I$ – одномерное тривиальное расслоение. По определению, значение этого пучка на открытом множестве $U \subset X$ есть совокупность всех линейных дифференциальных операторов $E|_{U} \rightarrow I|_U$. Пусть $D_k(E)$ – его подпучок, образованный операторами порядка не выше $k$. В $D \equiv D(I)$ имеется структура пучка (некоммутативных) алгебр, а в $D(E)$ – структура левого модуля над $D$, причём действие $a \in D$ на $b \in D(E)$ равно композиции $a b$. Данный линейный дифференциальный оператор $A: E \rightarrow F$ определяет морфизм левых $D$-модулей $A^{\prime}: D(F) \rightarrow D(E)$ по закону композиции $a \rightarrow a A.$ Пусть $M(A)$ – коядро этого морфизма. Имеется точная последовательность левых $D$-модулей
$$\tag{4} D(F) \stackrel{A^{\prime}}{\rightarrow} D(E) \stackrel{P}{\rightarrow} M(A) \rightarrow 0,$$
$O(X)$-подмодули $M_k \equiv p\left(D_k(E)\right)$, $k=0,1, \ldots,$ образуют возрастающую фильтрацию в $M(A)$. Градуированный $O(X)$-модуль

$$\operatorname{gr} M(A)=\otimes_0^{\infty} M_k / M_{k-1},\quad M_{-1}=0,$$называют символическим модулем линейного дифференциального оператора $A$. Поскольку при любых $k$ и $l$ действие $D_k$ на $M(A)$ переводит $M_l$ в $M_{l+k}$, то в $\operatorname{gr} M(A)$ имеется структура градуированного модуля над градуированной алгеброй $\operatorname{gr} D \equiv \otimes_0^{\infty} D_k / D_{k-1}$. Аннулятор этого модуля есть однородный идеал в $\operatorname{gr} D$. Характеристическое многообразие оператора $A$ есть множество корней этого идеала. Так как алгебра $\operatorname{gr} D$ изоморфна симметрической алгебре касательного расслоения $T(X)$, то характеристическое многообразие канонически вкладывается в $T^*(X)$, причём его пересечение с каждым слоем есть алгебраический конус.

Если многообразие $X$, а также данные расслоения имеют вещественно или комплексно аналитическую структуру, то характеристическое многообразие совпадает с множеством корней идеала $\operatorname{gr}(\operatorname{ann} M(A))$. В этом случае оно является замкнутым аналитическим подмножеством в $T^*(X)$, причём если оно не пусто, то его размерность не меньше $\operatorname{dim} X$. В случае, когда эта размерность равна $\operatorname{dim} X$, линейный дифференциальный оператор $A$ называется максимально переопределённым, или голономным.

Формальная теория общих линейных дифференциальных операторов имеет дело с понятиями формальной интегрируемости и резольвенты. Свойство формальной интегрируемости, формулируемое в двойственных терминах струй, эквивалентно условию: $O(X)$-модуль $\operatorname{gr} M(A)$ локально свободен. Под резольвентой линейного дифференциального оператора $A$ понимается последовательность, продолжающая $(4)$

$$\ldots \longrightarrow D\left(F_1\right) \stackrel{A_1^{\prime}}{\longrightarrow} D(F) \stackrel{A^{\prime}}{\longrightarrow} D(E) \longrightarrow M(A),$$в которой все $A_k, k=1,2, \ldots$, суть линейного дифференциального оператора. В частности, $A_1$ называется оператором совместности и для $A$. Формальная интегрируемость обеспечивает локальное существование резольвенты.

В литературе используются термины «переопределённая» и «недоопределённая» система дифференциальных уравнений, однако удовлетворительное общее определение отсутствует. Некоторым приближением к такому определению может служить следующее: существует ненулевой линейный дифференциальный оператор В такой, что $B A \rightarrow 0$ (переопределённость), $A B=0$ (недоопределённость). Например, линейный дифференциальный оператор $d$, равный ограничению оператора внешнего дифференцирования на формах степени $k$ на многообразии $X$ размерности $n$, является недоопределённым при $k>0$, переопределённым при $k<n$ и голономным при $k=0$.

Основные задачи, изучаемые для общих линейных дифференциальных операторов: разрешимость уравнения с правой частью $A u=w$ при выполнении условия совместности $A_1 u=0$, возможность продолжения решений уравнения $A u=0$ в большую область (эффект, связанный с переопределённостью), представление общего решения через решения специального вида. Последняя задача может быть сформулирована более конкретно для инвариантных операторов, например для линейного дифференциального оператора в $\mathbb{R}^n$ с постоянными или периодическими коэффициентами: записать представление группы $G$ в пространстве решений в виде интеграла (в том или ином смысле) по всем неразложимым подпредставлениям. Для определения операторов с постоянными коэффициентами такое представление задаётся интегралом по экспонентам (экспоненциальное представление), для операторов с периодическими коэффициентами – интегралом по обобщённым решениям Флоке.

Определяются линейные дифференциальные операторы и на произвольных алгебраических структурах. Пусть $R$ – коммутативное кольцо, $E$ и $F$ суть $R$-модули. Отображение множеств $A: E \rightarrow F$ называется линейным дифференциальным оператором порядка не выше $m$, если оно аддитивно и для любого элемента $a \in R$ отображение $a A-A a$ является линейным дифференциальным оператором порядка не выше $m-1$. При этом под линейным дифференциальным оператором порядка не выше $-1$ понимается лишь нулевое отображение. В частности, линейный дифференциальный оператор нулевого порядка есть гомоморфизм $R$-модулей, и, обратно, всякое дифференцирование $v: R \rightarrow F$ является линейным дифференциальным оператором $1$-го порядка (или равно нулю). Если $R$ есть алгебра над некоторым полем $k$, то под линейным дифференциальным оператором над $R$ понимается линейный дифференциальный оператор над кольцом $R$, который является $k$-линейным отображением. Такой линейный дифференциальный оператор обладает рядом формальных свойств обычных линейных дифференциальных операторов. Если $R$ есть алгебра всех формальных степенных рядов над $k$ или алгебра сходящихся степенных рядов над $k$, а $E$ и $F$ – свободные $R$-модули конечного типа, то всякий линейный дифференциальный оператор $A: E \rightarrow F$ порядка не выше $m$ имеет однозначную запись $(1)$.

Пусть $(X, O)$ – кольцованное пространство, $E$ и $F$ суть $O$-модули. Под линейным дифференциальным оператором $A: E \rightarrow F$ понимается всякий морфизм пучков, который в слоях над каждой точкой $x \in X$ действует как линейный дифференциальный оператор над кольцом (алгеброй) $O x$. Линейные дифференциальные операторы, действующие в модулях или пучках модулей, используются в ряде вопросов алгебраической геометрии.