Псевдодифференциа́льный опера́тор, оператор, действующий в функциональных пространствах на дифференцируемом многообразии и локально по определённым правилам записываемый с помощью некоторой функции, обычно называемой символом псевдодифференциального оператора и удовлетворяющей оценкам производных определённого типа, аналогичных оценкам производных полиномов, являющихся символами дифференциальных операторов.

Пусть $\Omega$ – открытое подмножество в $\mathbb{R}^{n}$, $C_{0}^{\infty}(\Omega)$ – пространство бесконечно дифференцируемых функций с компактным носителем, принадлежащим $\Omega$. Простейший псевдодифференциальный оператор в $\Omega$ – это оператор $P: C_{0}^{\infty}(\Omega) \rightarrow C^{\infty}(\Omega)$, задаваемый формулой

$$P u(x)=(2 \pi)^{-n} \int e^{ix \cdot \xi} p(x, \xi) \hat{u}(\xi)\, d \xi, \tag{1}$$где $u \in C_{0}^{\infty}(\Omega)$, $\xi \in \mathbb{R}^{n}$, $d \xi$ – мера Лебега на $\mathbb{R}^{n}$, $x \cdot \xi$ – обычное скалярное произведение векторов $x$ и $\xi$, $\hat{u}(\xi)$ – преобразование Фурье функции $u$, т. е.

$$\hat{u}(\xi)=\int e^{-i x \cdot \xi} u(x)\, d x$$(интеграл здесь и выше берётся по $\mathbb{R}^{n}$), $p(x, \xi)$ – гладкая функция на $\Omega \times \mathbb{R}^{n}$, удовлетворяющая некоторым условиям и называемая символом псевдодифференциального оператора $P$. Оператор $P$ вида (1) обозначается также $p(x, D)$ или $p\left(x, D_{x}\right)$. Если

$$p(x, \xi)=\sum_{|\alpha| \leqslant m} p_{\alpha}(x) \xi^{\alpha}$$– многочлен от $\xi$ с коэффициентами $p_{\alpha} \in C^{\infty}(\Omega)$ [здесь $\alpha$ – мультииндекс, т. е. $\alpha=\left(\alpha_{1}, \ldots, \alpha_{n}\right)$, $\alpha_{j} \geqslant 0$, $\alpha_{j}$ – целые, $|\alpha|=\alpha_{1}+\ldots+\alpha_{n}$, $\xi^{\alpha}=\xi_{1}^{\alpha_{1}} \ldots \xi_{n}^{\alpha_{n}}$], то $p(x, D)$ совпадает с дифференциальным оператором, получаемым, если в выражение для $p(x, \xi)$ вместо $\xi$ подставить вектор $D=\frac{1}{i} \frac{\partial}{\partial x}$.

Часто используется класс символов $p(x, \xi) \in C^{\infty}(\Omega \times \mathbb{R}^{n})$, удовлетворяющих условиям

$$\begin{gathered} \left|\partial_{\xi}^{\alpha} \partial_{x}^{\beta} p(x, \xi)\right| \leqslant C_{\alpha, \beta,\mathcal{K}}(1 + |\xi|)^{m-\rho(\alpha)+\delta(\beta)},\\ x \in \mathcal{R},\quad \xi \in \mathbb{R}^{n}, \end{gathered} \tag{2}$$где $\alpha, \beta$ – мультииндексы, $\partial_{x}=\frac{\partial}{\partial x}$, $\partial \xi=\frac{\partial}{\partial \xi}$, $\mathcal{K}$ – компакт в $\Omega$. Этот класс обозначается $S_{\rho,\delta}^{m}$ [или $S_{\rho, \delta}^{m}\left(\Omega \times \mathbb{R}^{n}\right)$].

Обычно предполагается, что $0 \leqslant \rho \leqslant 1$, $0 \leqslant \delta \leqslant 1$. Через $L_{\rho, \delta}^{m}$ [или $L_{\rho, \delta}^{m}(\Omega)$] обозначается класс операторов (также называемых псевдодифференциальными операторами в $\Omega$) вида $p(x, D)+K$, где $p \in S_{\rho,\delta}^{m}$, а $K$ – интегральный оператор с бесконечно дифференцируемым ядром, т. е. оператор вида

$$K u(x)=\int K(x, y) u(y)\, d y,$$где $K(x, y) \in C^{\infty}(\Omega \times \Omega)$. Функцию $p(x, \xi)$ по-прежнему называют символом псевдодифференциального оператора $p(x, D)+K$, хотя теперь она определена уже не однозначно, а с точностью до символов, принадлежащих $S^{-\infty}=\bigcap\limits_{m \in \mathbb{R}} S_{1,0}^{m}$. Оператор $A \in L_{\rho, \delta}^{m}$ называется псевдодифференциальным оператором порядка не выше $m$ и типа $\rho$, $\delta$. Описанный выше дифференциальный оператор принадлежит классу $L_{1,0}^{m}$. Наименьшее возможное значение $m$ часто называют порядком псевдодифференциального оператора. Классы $S_{\rho, \delta}^{m}$, $L_{\rho, \delta}^{m}$ часто называют классами Хёрмандера.

Можно задавать псевдодифференциальный оператор в $\Omega$ с помощью двойных символов, т. е. в виде

$$P u=(2 \pi)^{-n} \iint e^{i(x-y) \cdot \xi_{a}} a(x, y, \xi) u(y)\, dy\, d\xi. \tag{3}$$При $a(x, y, \xi)=p(x, \xi)$ эта формула переходит в (1). Обычно предполагается, что $a(x, y, \xi) \in S_{\rho, \delta}^{m}(\Omega \times \Omega \times \mathbb{R}^{n})$, т. е.

$$\begin{gathered} \left|\partial_{\xi}^{\alpha} \partial_{x}^{\beta^{\prime}} \partial_{y}^{\beta^{\prime \prime}} a(x, y, \xi)\right| \leqslant\\ \leqslant C_{\alpha, \beta^{\prime}, \beta^{\prime \prime}, \mathcal{K}}(1+|\xi|)^{m-\rho|\alpha|+ \delta\left|\beta^{\prime}+\beta^{\prime \prime}\right|}, \quad x, y \in \mathcal{K}, \end{gathered} \tag{4}$$где $\mathcal{K}$ – компакт в $\Omega$. Если $0 \leqslant \delta<\rho \leqslant 1$, то построенный класс операторов вида (3) (со всевозможными функциями $a \in S_{\rho,\delta}^{m}$) совпадает с классом $L_{\rho,\delta}^{m} (\Omega)$. При этом символ $p(x, \xi)$ (определённый с точностью до символов из $S^{-\infty}$) имеет следующее асимптотическое разложение:

$$\left.p(x, \xi) \sim \sum_{\alpha} \frac{1}{\alpha !} \partial_{\xi}^{\alpha} D_{y}^{\alpha} a(x, y, \xi)\right|_{y=x},$$где $\alpha!=\alpha_{1}! \ldots \alpha_{n}!$ и суммирование ведётся по всем мультииндексам. Эта запись означает, что разность между $p(x, \xi)$ и частью суммы, взятой по тем $\alpha$, для которых $|\alpha| \leqslant N$, является символом, принадлежащим $S_{\rho,\delta}^{m-(\rho-\delta)N}$, т. е. символом, порядок которого не выше наибольшего из порядков оставшихся членов.

Псевдодифференциальный оператор $P$ продолжается по непрерывности или с помощью двойственности до оператора $P: \mathcal{E}^{\prime}(\Omega) \rightarrow D^{\prime}(\Omega)$, где $D^{\prime}(\Omega)$ и $\mathcal{E}^{\prime}(\Omega)$ – пространства обобщённых функций и обобщённых функций с компактным носителем в $\Omega$ соответственно. Если $\delta<1$, то при этом псевдодифференциальный оператор обладает следующим свойством псевдолокальности: если $u \in \mathcal{E}^{\prime}(\Omega) \cap C^{\infty}\left(\Omega^{\prime}\right)$, где $\Omega^{\prime} \subset \Omega$, то $P u \in C^{\infty}\left(\Omega^{\prime}\right)$. Другая формулировка свойства псевдолокальности: ядро $K(x, y)$ (в смысле Шварца) оператора $P$ бесконечно дифференцируемо по $x, y$ при $x \neq y$.

Классический псевдодифференциальный оператор порядка $m$ в $\Omega$ – псевдодифференциальный оператор $P \in L_{1,0}^{m}$, символ которого $p\left(x, \xi^{\text {f }}\right)$ допускает асимптотическое разложение

$$p(x, \xi) \sim \sum_{j=0}^{\infty} \chi(\xi) p_{m-j}(x, \xi),$$где $\chi(\xi) \in C^{\infty}\left(\mathbb{R}^n\right)$, $\chi(\xi)=1$ при $|\xi| \geqslant 1$, $\chi(\xi)=0$ при $|\xi| \leqslant 1/2$, $p_{m-j}(x, \xi) \in C^{\infty}(\Omega \times(\mathbb{R}\backslash 0))$ и положительно однородна по $\xi$ порядка $m-j$

$$p_{m-j}(x, t \xi)=t^{m-j} p_{m-j}(x, \xi),\quad x \in \Omega,\quad \xi \in \mathbb{R}^n \backslash Q.$$Примером классического псевдодифференциального оператора является дифференциальный оператор (с гладкими коэффициентами). Функция $p_m(x, \xi)$ называется главным символом классического псевдодифференциального оператора.

Псевдодифференциальный оператор в $\Omega$ называется собственным (или псевдодифференциальным оператором с собственным носителем, или псевдодифференциальным оператором с компактным носителем), если проекции носителя его ядра при проектировании $\Omega \times \Omega$ на каждый сомножитель являются собственными отображениями. Собственный псевдодифференциальный оператор $P$ отображает $C_0^{\infty}(\Omega)$ в $C_0^{\infty}(\Omega)$ и продолжается по непрерывности до отображений $C^{\infty}(\Omega)\rightarrow C^{\infty}(\Omega)$, $\mathcal{E}^{\prime}(\Omega) \rightarrow \mathcal{E}^{\prime}(\Omega)$ и $D^{\prime}(\Omega) \rightarrow D^{\prime}(\Omega)$, он может быть записан в виде (1) с символом ${p}(x, \xi) = e^{-i x \cdot \xi} p\left(e^{i x\cdot \xi}\right)$, где экспонента в скобках рассматривается как функция от $x$, а $\xi$ является параметром.

Пусть $A$, $B$ – два псевдодифференциальных оператора в $\Omega$, из которых один является собственным. Тогда имеет смысл их произведение (композиция) $C=A B$. Важную роль в теории псевдодифференциальных операторов играет теорема композиции: если $A \in L_{\rho, \delta}^{m_1}$, $B \in L_{\rho, \delta}^{m_2}$, $0 \leqslant \delta \leqslant \rho \leqslant 1$, то $C=A B \in L_{\rho, \delta}^{m_1+m_2}$. Если при этом $\delta<\rho$, $c(x, \xi)$, $a(x, \xi)$, $b(x, \xi)$ – символы операторов $C, A, B$, то

$$c(x, \xi) \sim \sum_\alpha \frac{1}{\alpha!} \left[\partial_{\xi}^\alpha a(x, \xi)\right]\left[D_x^\alpha b(x, \xi)\right].$$В частности, если $A, B$ – классические псевдодифференциальные операторы порядков $m_1$, $m_2$, то $C$ – классический псевдодифференциальный оператор порядка $m_1+m_2$ с главным символом $c_{m_1+m_2}(x, \xi)=a_{m_1}(x, \xi) b_{m_2}(x, \xi)$, где $a_{m_1}(x, \xi)$, $b_{m_2}(x, \xi)$ – главные символы операторов $A$ и $B$.

Если $P \in L_\rho^m$, $\delta$, $0 \leqslant \delta \leqslant \rho \leqslant 1$, то существует и единственен сопряжённый псевдодифференциальный оператор $P^* \in L_{\rho,\delta}^m$, для которого $(P u, v)=\left(u, P^* v\right)$, $u, v \in C_0^{\infty}(\Omega)$, где $(u, v)=\int u(x) \overline{v(x)}\,d x$ – скалярное произведение $u$ и $v$ в $L_2(\Omega)$. Если при этом $\delta<\rho$ и $p^*(x, \xi)$ – символ псевдодифференциального оператора $P^*$, а $p(x, \xi)$ – символ $P$, то

$$p^*(x, \xi) \sim \sum_\alpha \frac{1}{\alpha!} \partial_{\xi}^\alpha D_x^\alpha \overline{p(x, \xi)}.$$Таким образом, собственные псевдодифференциальные операторы при $\delta \leqslant \rho$ образуют алгебру с инволюцией, задаваемой переходом к сопряжённому оператору. Произвольные псевдодифференциальные операторы образуют модуль над этой алгеброй.

Tеорема об ограниченности псевдодифференциального оператора классов Хёрмандера в $L_2$-нормах в наиболее точной форме состоит в следующем (Taylor. 1974): пусть $\Omega=R^n$, оператор $P$ имеет вид (3) с двойным символом $a(x, y, \xi)$, удовлетворяющим оценкам (4), где числа $m$, $\rho$, $\delta$ удовлетворяют условиям

$$0 \leqslant \rho \leqslant 1,\quad 0 \leqslant \delta \leqslant 1,\quad m \leqslant 0,\quad \rho-\delta-\frac{m}{n} \geqslant 0; \tag{5}$$тогда оператор $P$ продолжается до ограниченного опеpaтopa $P: L_2(\mathbb{R}^n) \rightarrow L_2(\mathbb{R}^n)$. В частности, при условии (5) ограничены в $L_2(\mathbb{R}^n)$ псевдодифференциальные операторы вида (1) с символами, удовлетворяющими оценкам (2) равномерно по $x$ (т. е. с постоянными $C_{\alpha, \beta,\mathcal{K}}=C_{\alpha, \beta}$, не зависящими от $\mathcal{K}$). Отсюда следует, например, ограниченность в $L_2(\mathbb{R}^n)$ операторов $P \in L_{\rho, \delta}^0$, если $0 \leqslant \delta \leqslant \rho<1$ и ядро оператора $P$ имеет компактный носитель (или оценки символа опять-таки равномерны по $x$). При $\rho<\delta$ или при $\delta=1$ операторы такого вида уже не обязательно ограничены. Аналогично, в общей ситуации невыполнение одного из двух последних условий (5) уже даёт класс псевдодифференциальных операторов, содержащий неограниченные операторы.

В терминах оценок символа можно дать условия ограниченности псевдодифференциального оператора в $L_p$-нормах, а также в гёльдеровых и в жевреевских нормах (Taylor. 1974).

Если в $R^n$ дан оператор $P=p(x, D)$, где $P \in S_{\rho,\delta}^m$, $0 \leqslant \delta<\rho \leqslant 1$, причём оценки (2) равномерны по $x \in \mathbb{R}^n$, то этот оператор продолжается до ограниченного оператора ${P}: H^s\left(\mathbb{R}^n\right) \rightarrow H^{s-m}\left(\mathbb{R}^n\right)$, $s \in \mathbb{R}$, где $H^t\left(\mathbb{R}^n\right)$ означает обычное пространство Соболева на $\mathbb{R}^n$ [иногда обозначаемое также $W_2^t\left(\mathbb{R}^n\right)$].

Класс псевдодифференциальных операторов $L_{\rho,\delta}^m$ при $1-\rho \leqslant \delta<\rho \leqslant 1$ в естественном смысле инвариантен относительно диффеоморфизмов так же, как и его подкласс классических псевдодифференциальных операторов. Это позволяет определить класс псевдодифференциальных операторов $L_{\rho,\delta}^m (X)$ и классические псевдодифференциальные операторы на произвольном гладком многообразии $X$. Формула замены переменной в символе при диффеоморфизме $\varkappa: \Omega \rightarrow \Omega_1$, где $\Omega$, $\Omega_1$ – области в $X$, имеет вид

$$\begin{gathered} \left.a_1(y, \eta)\right|_{y= \varkappa(x)} \sim \sum_\alpha \frac{1}{\alpha!} a^{(\downarrow \alpha)}\left(x^t, \varkappa^{\prime}(x) \eta\right) \times \\ \times\left. D_z^\alpha e^{i \varkappa_x^{\prime \prime}(z) \cdot \eta}\right|_{z=x}, \end{gathered}$$где $a(x, \xi)$ – символ оператора $A \in L_{\rho,\delta}^m (\Omega)$, $a_1(y, \eta)$ – символ оператора $A_1 \in L_{\rho,\delta}^m,\left(\Omega_1\right)$, заданного формулой $A_1 u=[A(u \circ \varkappa)] \circ \varkappa^{-1}$, т. е. полученного из $A$ заменой переменных $\varkappa$; $\varkappa^{\prime}(x)$ обозначает якобиан отображения $\varkappa$, ${}^t \varkappa^{\prime}(x)$ – транспонированная матрица,

$$a^{(\alpha)}(x, \xi)=\partial_{\xi}^\alpha a(x, \xi),\quad \varkappa_x^{\prime \prime}(z) =\varkappa(z)- \varkappa(x) – \varkappa^{\prime}(x)(z-x).$$В частности, отсюда следует, что главный символ классического псевдодифференциального оператора на многообразии $X$ является корректно определённой функцией на кокасательном расслоении $T^* X$.

Если $X$ – компактное многообразие (без края), то псевдодифференциальные операторы на $X$ образуют алгебру с инволюцией, если вводить инволюцию с помощью скалярного произведения, задаваемого гладкой положительной плотностью. Oпеpaтop $A \in L_{\rho, \delta}^0(X)$ ограничен в $L_2(X)$, а если $A \in L_{\rho, \delta}^m(X)$, где $m<0$, то такой псевдодифференциальный оператор компактен в $L_2(X)$. Для классических псевдодифференциальных операторов $A$ порядка $0$ на $X$

$$\inf \|A+K\|=\sup _{(x, \xi) \in T^* X}\left|a_0(x, \xi)\right|,$$где $a_0(x, \xi)$ – главный символ оператора $A$, а $K$ пробегает множество всех компактных операторов в $L_2(X)$.

Оператор $A \in L_{\rho, \delta}^m(X)$ непрерывно отображает $H^s(X)$ в $H^{s-m}(X)$ при любом $s \in \mathbb{R}$.

Параметриксом псевдодифференциального оператора $A$ называется такой псевдодифференциальный оператор $B$, что $I-A B$ и $I-B A$ – псевдодифференциальные операторы порядка $-\infty$, т. е. интегральные операторы с гладким ядром. Пусть $A \in L_{\rho,\delta}^m(\Omega)$, $0\leqslant \delta <\rho \leqslant 1$, $a(x, \xi)$ – символ оператора $A$. Достаточным условием существования параметрикса оператора $A$ является выполнение оценок:

$$\left.\begin{gathered} |a(x, \xi)| \geqslant \varepsilon|\xi|^{m_0},\,\,|\xi| \geqslant R,\,\, \varepsilon>0,\,\, m_0 \in \mathbb{R}; \\ \left|a^{-1}(x, \xi) \partial_{\xi}^\alpha \partial_x^\beta a(x, \xi)\right| \leqslant c_{\alpha, \beta,K} |\xi|^{-\rho|\alpha|+\delta|\beta|},\,\, |\xi| \geqslant R,\,\, x \in K. \end{gathered}\right\} \tag{6}$$В этом случае существует параметрикс $B \in L_{\rho, \delta}^{-m_0}(\Omega)$. Простейшим следствием существования параметрикса является гипоэллиптичность оператора $A$ : если $A u \in C^{\infty}\left(\Omega^{\prime}\right)$, где $\Omega^{\prime} \subset \Omega$, то $u \in C^{\infty} (\Omega^{\prime})$. Иными словами, $\operatorname{sing} \operatorname{supp} A u = \operatorname{sing} \operatorname{supp}u$. Верен также следующий более точный факт (теорема регулярности): если $A u \in H_{\text {loc}}^s\left(\Omega^{\prime}\right)$, то $u \in H_{\text{loc}}^{s+m_0}\left(\Omega^{\prime}\right)$. Имеет место и микролокальная теорема регулярности: $W F(A u)= W F(u)$, где $W F(u)$ означает волновой фронт обобщённой функции $u$.

Условия (6) при $1-\rho \leqslant \delta<\rho \leqslant 1$ инвариантны относительно диффеоморфизмов. Поэтому имеет смысл соответствующий класс операторов на многообразии $X$. Если $X$ – компактное многообразие, то такой оператор $A$ фредгольмов в $C^{\infty}(X)$, т. е. имеет в $C^{\infty}(X)$ конечномерные ядро и коядро, а также замкнутый образ.

Классический псевдодифференциальный оператор $A$ порядка $m$ с главным символом $a_m(x, \xi)$ называется эллиптическим, если $a_m(x, \xi) \neq 0$ при $\xi \neq 0$. Такой оператор удовлетворяет условиям (6) с $m_0=m$ и имеет параметрикс, также являющийся классическим псевдодифференциальным оператором порядка $m$. На компактном многообразии $X$ такой псевдодифференциальный оператор задаёт фредгольмов оператор

$$A: H s(X) \longrightarrow H^{s-m}(X),\quad s \in \mathbb{R}.$$Все эти определения и факты переносятся на псевдодифференциальные операторы, действующие в вектор-функциях или, более общо, в сечениях векторных расслоений. Для эллиптического оператора на компактном многообразии $X$ индекс задаваемого им отображения $A: H^s(X) \rightarrow H^{s-m}(X)$ на соболевских классах сечений не зависит от $s \in \mathbb{R}$ и может быть явно вычислен (см. в статье Формулы индекса).

Роль псевдодифференциального оператора состоит в том, что имеется ряд операций, выводящих за класс дифференциальных операторов, но сохраняющих класс псевдодифференциальных операторов. Например, резольвента и комплексные степени эллиптического дифференциального оператора на компактном многообразии являются классическими псевдодифференциальными операторами, они возникают при сведении на границу эллиптической граничной задачи (см., например, Treves. 1980; Taylor. 1974 и предпоследнюю статью в Псевдодифференциальные операторы. 1967).

Существуют разные варианты теории псевдодифференциальных операторов, приспособленные к решению различных задач анализа и математической физики. Часто возникают псевдодифференциальные операторы с параметром, необходимые, например, для изучения резольвенты и асимптотики собственных значений. Важную роль играют различные варианты теории псевдодифференциальных операторов на $\mathbb{R}^n$, учитывающие эффекты, связанные с описанием поведения функции на бесконечности, и частично инспирированные математическими вопросами квантовой механики, возникающими при изучении квантования классических систем (Шубин. 1978; Псевдодифференциальные операторы. 1967). В теории локальной разрешимости уравнений с частными производными и в спектральной теории полезны псевдодифференциальные операторы, поведение которых описывается с помощью весовых функций, заменяющих $|\xi|$ в оценках типа (2) (Taylor. 1974; Hörmander. 1979). Построена алгебра псевдодифференциальных операторов на многообразии с краем, содержащая, в частности, параметрикс эллиптической граничной задачи (Эскин. 1973; Monvel. 1971).

Частным случаем псевдодифференциальных операторов являются многомерные сингулярные интегральные и интегро-дифференциальные операторы, изучение которых подготовило появление теории псевдодифференциальных операторов (Duistermaat. 1973).

Теория псевдодифференциальных операторов служит основой для изучения интегральных операторов Фурье (Treves. 1980; Duistermaat. 1973), играющих ту же роль в теории гиперболических уравнений, что и псевдодифференциальные операторы в теории эллиптических уравнений.