Опера́тор Ги́льберта – Шми́дта, оператор $A$, действующий в гильбертовом пространстве $H$, такой, что для любого ортонормированного базиса $\{x_i\}$ в $H$ выполнено условие:$$\| A\|_2^2 := \sum_i \|A x_i \|^2 <\infty$$(достаточно, однако, справедливости этого для некоторого базиса). Оператор Гильберта – Шмидта является компактным оператором, для $s$-чисел которого $s_i(A)$ и для собственных чисел $\lambda_i(A)$ имеет место:$$\sum_i |\lambda_i(A)|^2\le \sum_i s_i^2(A) = \|A\|_2^2 = {\rm tr}(A^* A);$$при этом $A^*A$ оказывается ядерным оператором (здесь $A^*$ – оператор, сопряжённый к $A$, a ${\rm tr}\ C$ – след оператора $C$). Совокупность всех операторов Гильберта – Шмидта пространства $H$ образует гильбертово пространство со скалярным произведением $$\langle A,B\rangle = {\rm tr}(A B^*).$$ Если $R_\lambda (A) = (A-\lambda E)^{-1}$ – резольвента оператора $A$, а$${\rm det}_2(E-zA) = \prod_i (1-z\lambda_i(A)) e^{z\lambda_i (A)}$$– его регуляризованный характеристический определитель, то выполнено неравенство Карлемана$$\Big\| {\rm det}_2 \Big(E - \frac{1}{\lambda} A\Big) R_\lambda (A)\Big\| \le |\lambda| \exp{\Big[ \frac{1}{2} \Big(1+\frac{\|A\|_2^2}{|\lambda|^2}\Big)\Big]}.$$Типичный представитель операторов Гильберта – Шмидта – интегральный оператор Гильберта – Шмидта (откуда и название).