Я́дерный опера́тор (ядерное отображение), линейный оператор, отображающий одно локально выпуклое пространство в другое и допускающий специального вида аппроксимацию операторами конечного ранга (т. е. линейными непрерывными операторами с конечномерными образами). Ядерный оператор обладает некоторыми свойствами, присущими конечномерным операторам. В частности, ядерный оператор, отображающий в себя пространство с базисом, имеет конечный след (см. ниже), совпадающий с суммой ряда, составленного из диагональных элементов матрицы этого оператора относительно произвольного базиса. Ядерные операторы и появились первоначально под наименованием «операторы со следом» в математическом аппарате квантовой механики (см. Нейман. 1964; Schatten. 1946). В гильбертовом пространстве операторы со следом взаимно однозначно соответствуют двухвалентным тензорам, и след оператора совпадает с результатом свёртки соответствующего тензора. С помощью такого соответствия А. Растон (Ruston. 1951) перенёс понятие ядерного оператора на случай банаховых пространств и независимо А. Гротендик – на случай локально выпуклых пространств в связи с теорией ядерных пространств (см. Grothendieck. 1955; Гротендик. 1958). Пусть $E$ и $F$ – локально выпуклые пространства над полем действительных или комплексных чисел, $E^\prime$ и $F^\prime$ – сопряжённые к ним пространства, наделённые сильной топологией, $L(E, F)$ – векторное пространство всех непрерывных линейных отображений $E$ в $F$, a $S(E, F)$ – пространство всех слабо непрерывных линейных отображений $E$ в $F$; $L(E)= L(E, E)$, $S(E)= S(E, F)$.

Линейный оператор $A \colon E \to F$ называется ядерным, если он представим в виде$$\tag{1}x \mapsto Ax = \sum_{i=1}^\infty \lambda_i \left< x, x_i^\prime \right> y_i,$$где $\{\lambda_i\}$ – суммируемая числовая последовательность, $\{x_i^\prime\}$ – равностепенно непрерывная последовательность в $E^\prime$ и $\{y_i\}$ – последовательность элементов из некоторого полного ограниченного выпуклого закруглённого множества в $F$; при этом значение линейного функционала $x^\prime$ на векторе $x$ обозначается $\langle x, x^\prime \rangle$. Представление $(1)$ можно рассматривать как разложение оператора в сумму операторов ранга $1$ (т. е. с одномерным образом), и соответствующий ряд абсолютно сходится в $L(E,F)$ в топологии равномерной сходимости на ограниченных множествах. Таким образом, в этой топологии ядерный оператор $A$ является пределом последовательности операторов конечного ранга. Если $E$ и $F$ – банаховы пространства, то ядерный оператор $A$ аппроксимируется операторами конечного ранга по ядерной норме.

Разложение $(1)$ называется ядерным представлением оператора $A$. Любой ядерный оператор допускает такое ядерное представление $(1)$, что $x^\prime_i \to 0$, $y_i \to 0$. Если $E$ – бочечное пространство и полно или хотя бы квазиполно (т. е. замкнутые ограниченные множества в $E$ полны), то разложение $(1)$ ядерно тогда и только тогда, когда последовательности $\{x_i^\prime\}$ и $\{y_i\}$ ограничены.

Меняя требования к последовательностям $\{\lambda_i\}$, $\{x_i^\prime\}$, $\{y_i\}$, можно получить различные модификации понятия ядерного оператора (см. Grothendieck. 1955; Гротендик. 1958; Пич. 1982). Если от последовательности $\{x_i^\prime\}$ потребовать (вместо равностепенной непрерывности), чтобы её элементы содержались в каком-нибудь полном ограниченном выпуклом закруглённом множестве в $E^\prime$, то разложение $(1)$ определяет оператор Фредгольма; такие операторы образуют естественную область применения теории Фредгольма (см. Grothendieck. 1955; Гротендик. 1958). Всякий ядерный оператор является оператором Фредгольма, а любой оператор Фредгольма $A \colon E \to F$ превращается в ядерный оператор, если наделить $E$ топологией Макки. Ядерный оператор $A$ называется строго ядерным $($или ядерным оператором порядка $0)$, если допускает такое ядерное представление $(1)$, что $\{\lambda_i\}$ – быстро убывающая последовательность, т. е. $\sum_{i=1}^\infty | \lambda_i|^p < \infty$ при всех $p > 0$.

Интегральные операторы (в частности, интегральные операторы Фредгольма) дают многочисленные примеры ядерных операторов и их модификаций (см. A. Grothendieck. 1955; А. Гротендик. 1958; А. Пич. 1982; Гохберг. 1965).

Свойства ядерных операторов

Всякий ядерный оператор $A \in L(E, F)$ компактен, т. е. отображает некоторую окрестность нуля в $E$ во множество с компактным замыканием в $F$. Таким образом, любой ядерный оператор непрерывен, а любой оператор Фредгольма слабо непрерывен. Произведение (в любом порядке) ядерного оператора и непрерывного линейного оператора является ядерным оператором. В частности, совокупность всех ядерных операторов образует идеал в алгебре $L(E)$; соответственно, операторы Фредгольма образуют идеал в $S(E)$. Строго ядерные операторы также образуют идеал в $L(E)$. Всякий ядерный оператор $A \in L(E, F)$ имеет единственное продолжение $\widehat{A} \in L(\widehat{E}, F)$, где $\widehat{E}$ – пополнение $E$, причём $\widehat{A}$ – ядерный оператор. Если $A \in L(E, F)$ – оператор Фредгольма, то сопряжённое отображение $F^\prime \to E^\prime$ является ядерным оператором. Для любого ядерного оператора $A \in L(E, F)$ существуют такие банаховы пространства $E_1$, $F_1$, компактные операторы $K_1 \in L(E, E_1)$, $K_2 \in L(F_1, F)$ и ядерный оператор $B \in L(E_1, F_1)$, что $A=K_2BK_1$. Если $A \in L(E)$ – строго ядерный оператор, то упорядоченная по убыванию абсолютной величины последовательность собственных значений (вообще говоря, комплексных) этого оператора является быстро убывающей.

Пусть пространство $E$ ядерно, а $F$ – полное или квазиполное пространство. Тогда для оператора $A \in L(E, F)$ следующие утверждения эквивалентны:

1) $A$ является ядерным оператором;
2) $A$ компактен;
3) $A$ ограничен, т. е. отображает некоторую окрестность нуля в ограниченное множество в $F$;
4) $A$ – строго ядерный оператор.

Пусть $E$, $F$, $G$ – гильбертовы пространства, $K_1 \in L(E, F)$, $K_2 \in L(F, G)$ – операторы Гильберта – Шмидта. Тогда произведение $K_2 K_1 \in L(E, G)$ является ядерным оператором. Обратно, каждый ядерный оператор является произведением двух операторов типа Гильберта – Шмидта. Произвольный вполне непрерывный оператор $A \in L(E, F)$ является ядерным оператором тогда и только тогда, когда сходится ряд, составленный из собственных значений положительно определённого оператора $T \in L(E)$, входящего в полярное разложение $A= UT$, где $U$ – изометрический оператор, отображающий область значений оператора $T$ в пространство $F$ (см. Гельфанд. 1961).

Операторы со следом

Пусть $E$ – произвольное локально выпуклое пространство, $A$ – ядерный оператор (оператор Фредгольма), отображающий $E$ в себя и допускающий представление вида $(1)$. Ряд $\displaystyle \sum_{i=1}^\infty \lambda_i \left< y_i, x_i^\prime \right>$ сходится абсолютно, и его сумма, обозначаемая $\operatorname{tr}A$, называется следом ядерного оператора (соответственно, оператора Фредгольма) $A$ при условии, что эта величина не зависит от представления $(1)$. В этом случае след корректно определён (см. Grothendieck. 1955; Гротендик. 1958). Если разложение $(1)$ содержит лишь конечное число слагаемых, то $A$ – оператор конечного ранга и $\operatorname{tr}A$ совпадает со следом конечномерного оператора, индуцируемого в образе оператора $A$.

Пусть $E^\prime \mathbin{\overline{\otimes}} E$ – индуктивное тензорное произведение пространств $E^\prime$ и $E$, т. е. пополнение (алгебраического) тензорного произведения $E^\prime \otimes E$ в самой сильной локально выпуклой топологии, при которой раздельно непрерывно каноническое билинейное отображение $E^\prime \times E \to E^\prime \otimes E$ [пара $(x^\prime, x)$ переходит в $x^\prime \otimes x$]. Композиция этого отображения с любой непрерывной линейной формой на $E^\prime \mathbin{\overline{\otimes}} E$ даёт раздельно непрерывную билинейную форму на $E^\prime \times E$, причём соответствие между формами указанного типа взаимно однозначно. В частности, билинейная форма $(x^\prime, x)\mapsto \langle x, x^\prime \rangle$ соответствует непрерывной линейной форме на $E^\prime \mathbin{\overline{\otimes}} E$. Значение этой формы на элементе $u \in E^\prime \mathbin{\overline{\otimes}} E$ обозначается $\operatorname{tr}u$. Элемент $u \in E^\prime\mathbin{\overline{\otimes}} E$ называется ядром Фредгольма, если он допускает разложение вида$$\tag{2} u = \ \sum _ {i = 1 } ^ \infty \lambda _ {i} \ x _ {i} ^ \prime \otimes y _ {i} ,$$где последовательности $\{\lambda_i\}$, $\{x_i^\prime\}$, $\{y_i\}$ такие же, как в разложении $(1)$ для оператора Фредгольма. Ядра Фредгольма образуют подпространство в $E^\prime \mathbin{\overline{\otimes}} E$, обозначаемое $E^\prime\overset{{}_{\scriptstyle\ulcorner\!\urcorner}}{\otimes}E$.

Пусть алгебра $S(E)$ слабо непрерывных операторов в $E$ наделена слабой операторной топологией, которая задаётся преднормами $A \mapsto | \langle Ay, x^\prime \rangle |$, где $A \in S(E)$, а $x^\prime$ и $y$ пробегают соответственно $E^\prime$ и $E$. Отображение $\Gamma \colon E^\prime \overset{{}_{\scriptstyle\ulcorner\!\urcorner}}{\otimes} E \to S(E)$, переводящее элемент $u$ вида $(2)$ в оператор $A$ вида $(1)$, корректно определено, линейно и непрерывно, причём $\operatorname{tr}u=\operatorname{tr}\Gamma(u)$, если след оператора $A= \Gamma (u)$ корректно определён. Если пространства $E$ и $E^\prime$ полны (например, если $E$ – пространство Фреше), то $\Gamma$ продолжается по непрерывности на $E^\prime\mathbin{\overline{\otimes}} E$. Образы элементов из $E^\prime \mathbin{\overline{\otimes}} E$ при этом отображении называются операторами со следом (см. Grothendieck. 1955; Гротендик. 1958). Если пространство $E$ банахово, то всякий оператор со следом является ядерным оператором, так что в этом случае классы ядерных операторов, операторов Фредгольма и операторов со следом совпадают. Существуют операторы со следом, не являющиеся операторами Фредгольма (например, в ядерных пространствах Фреше). Некомпактность таких операторов затрудняет их изучение.

Проблема однозначности

Если отображение $\Gamma$ взаимно однозначно или хотя бы из условия $\Gamma(u) = 0$ следует, что $\operatorname{tr}u = 0$, то след оператора $\Gamma (u)$ можно корректно определить равенством $\operatorname{tr} \Gamma(u) = \operatorname{tr} u$.

Указанная возможность тесно связана со свойством аппроксимации, которое состоит в том, что $L(E)$ содержит сеть операторов конечного ранга, сходящуюся к единичному оператору в топологии равномерной сходимости на всех предкомпактных множествах. Если $E$ – банахово пространство, то след любого ядерного оператора корректно определён тогда и только тогда, когда выполнено свойство аппроксимации (Grothendieck. 1955). Построено (Энфло. 1974) рефлексивное сепарабельное пространство $X$ без свойства аппроксимации (и без базиса Шаудера, что решает известную проблему Банаха). Тем самым решён и вопрос об однозначности отображения $\Gamma$: существует такой элемент $u \in X^\prime \mathbin{\overline{\otimes}} X$, что $\Gamma(u) = 0$, но $\operatorname{tr} u = 1$. Если локально выпуклое пространство $E$ обладает свойством аппроксимации, то каждый ядерный оператор имеет корректно определённый след; если $\{B_\nu \}$ – сеть операторов конечного ранга, сходящаяся к произвольному оператору $B \in L(E)$ равномерно на всех предкомпактных (или хотя бы выпуклых уравновешенных компактных) множествах, то равенство $$\tag{3} \mathop{\rm tr} (AB) = \lim\limits _ \nu \mathop{\rm tr} (AB _ \nu)$$справедливо для любого ядерного оператора $A$ (см. Литвинов. 1983). Однако существует локально выпуклое пространство со свойством аппроксимации, в котором нельзя корректно определить след для всех операторов Фредгольма. Любой оператор Фредгольма в локально выпуклом пространстве $E$ имеет корректно определённый след, если $E$ обладает свойством ограниченной аппроксимации, т. е. существует сеть операторов конечного ранга, сходящаяся к единичному оператору в слабой операторной топологии и ограниченная в этой топологии; указанным свойством обладает любое пространство с базисом Шаудера. Если $\{B_\nu \}$ – ограниченная сеть, сходящаяся в $S(E)$ к произвольному оператору $B$ (например, если $\{B_\nu \}$ – произвольная сходящаяся в $S(E)$ счётная последовательность), то соотношение $(3)$ выполняется для любого оператора Фредгольма $A$ при условии, что операторы $AB_\nu$ имеют корректно определённый след (например, если $B_\nu$ – операторы конечного ранга или $E$ обладает свойством ограниченной аппроксимации). Если $E$ обладает свойством аппроксимации (ограниченной аппроксимации), то для любого ядерного оператора (оператора Фредгольма) $A$ и любого оператора $B$ из $L(E)$ [соответственно, из $S(E)$] выполнено: $\operatorname{tr} (AB) = \operatorname{tr} (BA)$ (см. Литвинов. 1983).

Матричный след

Пусть локально выпуклое пространство $E$ обладает базисом Шаудера $\{е_i\}$, $i=1, 2, \dots,$ так что любой вектор $x \in E$ допускает разложение $x = \sum _ {i = 1 } ^ \infty \langle x, e _ {i} ^ \prime \rangle e _ {i}$, где $e _ {i} ^ \prime \in E ^ \prime$. Величина $\sum _ {i = 1 } ^ \infty \langle Ae _ {i} , e _ {i} ^ \prime \rangle$ называется матричным следом оператора $A$, если указанный ряд сходится; этот ряд сходится абсолютно, если базис безусловный. Любой оператор Фредгольма в пространстве с базисом Шаудера имеет корректно определённый след, совпадающий с матричным следом, который в этом случае не зависит от выбора базиса (Литвинов. 1979).

Любой непрерывный оператор в гильбертовом пространстве является ядерным тогда и только тогда, когда этот оператор имеет конечный матричный след для любого ортонормированного базиса (см. Schatten. 1946; Гохберг. 1965; Гельфанд. 1961).

Ядерный след

Пусть $T$ – компактное пространство с мерой Бореля $\mu$, $C(T)$ – банахово пространство непрерывных функций на $T$, наделённое топологией равномерной сходимости, $K(t,s)$ – непрерывная функция на $T \times T$. Тогда линейный интегральный оператор$$K \colon \varphi (t) \mapsto \int\limits _ { T } K (t, s) \varphi (s) \, d \mu (s)$$в пространстве $C(T)$ (классический интегральный оператор Фредгольма) является ядерным и имеет корректно определённый след, причём$$\tag{4} \mathop{\rm tr} K = \int\limits _ { T } K (t, t) d \mu (t).$$Если $K$ – интегральный оператор с ядром $K(t,s)$, действующий в некотором пространстве функций на пространстве $T$ с мерой $\mu$, и если правой части равенства $(4)$ можно приписать какой-либо разумный смысл, то эта величина называется ядерным следом оператора $K$. Для различных классов интегральных операторов получены условия, обеспечивающие ядерность этих операторов и позволяющие приписать смысл формуле $(4)$ (см. Grothendieck. 1955; Гротендик. 1958; Гохберг. 1965; Pietsch. 1981).

Спектральный след

Пусть $E$ – локально выпуклое пространство над полем комплексных чисел, $A$ – ядерный оператор в $E$. Спектр оператора $A$, как и любого компактного оператора, представляет собой либо конечное множество, либо сходящуюся к нулю последовательность, причём любое ненулевое собственное значение имеет конечную спектральную кратность. Если ряд$$\tag{5} \sum_j \sigma_j (A),$$составленный из ненулевых собственных значений оператора $A$, причём каждое собственное значение входит в $(5)$ столько раз, какова его спектральная кратность, сходится абсолютно, то его сумма называется спектральным следом ядерного оператора $A$ и обозначается $\operatorname{tr}_\sigma A$. Любой ядерный оператор в гильбертовом пространстве имеет спектральный след, совпадающий с матричным следом (Лидский. 1959). Пусть $E$ – мультигильбертово пространство, т. е. топология в $E$ может быть порождена семейством преднорм, каждая из которых получается из некоторой неотрицательно определённой эрмитовой формы на $E \times E$; примером мультигильбертова пространства является любое ядерное пространство. Тогда всякий ядерный оператор $A$ в $E$ имеет корректно определённый след и спектральный след, причём $\operatorname{tr}_\sigma A = \operatorname{tr}A$ (см. Литвинов. 1979). При этом ядерный оператор $A$ может и не иметь матричного следа. Ядерный оператор $A$ в банаховом пространстве может не иметь спектрального следа даже в том случае, когда это пространство имеет базис и след $\operatorname{tr}A$ корректно определён. Может нарушаться и равенство $\operatorname{tr}_\sigma A = \operatorname{tr}A$. Например, в банаховом пространстве $c_0$ сходящихся к нулю последовательностей существует такой ядерный оператор $A$, что $\operatorname{tr}A = 1$, $A^2 = 0$, так что $A$ не имеет ненулевых собственных значений и $\operatorname{tr}_\sigma A = 0$. Можно указать условия на оператор, выполнение которых обеспечивает существование и совпадение величин $\operatorname{tr}_\sigma A$ и $\operatorname{tr}A$ для ядерного оператора $A$, действующего в произвольном банаховом или локально выпуклом пространстве (не обладающем, быть может, какими-либо аппроксимационными свойствами) (см. Grothendieck. 1955; Pietsch. 1981; Маркус. 1971; König. 1980).

Пример

Пусть $E$ – комплексное банахово пространство, $L(E)$ – алгебра линейных непрерывных операторов в $E$, наделённая обычной операторной нормой. Для произвольного оператора $A \in L(E)$ пусть $\alpha_r(E)$ обозначает точную нижнюю грань величин $\| A - F \|$, где $F$ пробегает совокупность всех операторов из $L(E)$, ранг (т. е. размерность образа) которых не превосходит числа $r = 0, 1, 2, \dots$. Совокупность всех операторов $A \in L(E)$, для которых $\displaystyle \sum \alpha_r(A) < \infty$, обозначается $l^1(E)$. Каждый оператор $A \in l^1(E)$ является ядерным; если $E$ – гильбертово пространство, то $l^1(E)$ совпадает с множеством всех ядерных операторов в $E$. Для произвольного банахова пространства $E$ каждый оператор $A \in l^1(E)$ имеет след $\operatorname{tr}A$ и спектральный след, и $\operatorname{tr}_\sigma A = \operatorname{tr}A$ (см. Маркус 1971; König. 1980).