Дискретная серия представлений

Дискре́тная се́рия представле́ний, семейство непрерывных неприводимых унитарных представлений локально компактной группы ${\displaystyle G}$, эквивалентных подпредставлениям регулярного представления этой группы. Если группа ${\displaystyle G}$ унимодулярна, то непрерывное неприводимое унитарное представление ${\displaystyle \pi }$ группы ${\displaystyle G}$ тогда и только тогда принадлежит дискретной серии, когда матричные элементы представления ${\displaystyle \pi }$ лежат в ${\displaystyle L^{2}(G)}$. В этом случае существует такое положительное число ${\displaystyle d_{\pi }}$, называемое формальной размерностью представления ${\displaystyle \pi }$, что соотношения

${\displaystyle \int _{G}(\pi (g)\xi ,\eta ){\overline {(\pi (g)\xi ',\eta ')}}dg=d_{\pi }^{-1}(\xi ,\xi '){\overline {(\eta ,\eta ')}};}$ (1)

${\displaystyle (\pi (g)\xi ,\eta )\ast (\pi (g)\xi ',\eta ')=d_{\pi }^{-1}(\xi ,\eta ')(\pi (g)\xi ',\eta )}$ (2)

выполняются для всех векторов ${\displaystyle \xi ,}$ ${\displaystyle \eta }$, ${\displaystyle \xi '}$, ${\displaystyle \eta '}$ из пространства ${\displaystyle H_{\pi }}$ представления ${\displaystyle \pi }$. Если ${\displaystyle \pi _{1}}$, ${\displaystyle \pi _{2}}$ – два неэквивалентных представления группы ${\displaystyle G}$ в пространствах ${\displaystyle H_{1}}$, ${\displaystyle H_{2}}$, соответственно, принадлежащие дискретной серии, то для любых ${\displaystyle \xi _{1},\eta _{1}\in H_{1}}$, ${\displaystyle \xi _{2},\eta _{2}\in H_{2}}$ выполняются соотношения

${\displaystyle \int _{G}(\pi (g)\xi _{1}\eta _{1}){\overline {(\pi _{2}(g)\xi _{2}\eta _{2})}}dg=0,}$ (3)

${\displaystyle (\pi _{1}(g)\xi _{1},\eta _{1})\ast (\pi _{2}(g)\xi _{2},\eta _{2})=0.}$ (4)

Соотношения (1)–(4) являются обобщениями соотношений ортогональности для матричных элементов представлений компактных топологических групп; группа ${\displaystyle G}$ компактна тогда и только тогда, когда все непрерывные неприводимые унитарные представления группы ${\displaystyle G}$ принадлежат дискретной серии, и если ${\displaystyle G}$ компактна и мера Хаара ${\displaystyle dg}$ удовлетворяет условию ${\displaystyle \int _{G}dg=1}$, то число ${\displaystyle d_{\pi }}$ совпадает с размерностью представления ${\displaystyle \pi }$. Односвязные нильпотентные вещественные группы Ли и комплексные полупростые группы Ли не имеют дискретной серии.

Класс эквивалентности представления ${\displaystyle \pi }$, входящего в дискретную серию, является замкнутой точкой в дуальном пространстве ${\displaystyle {\hat {G}}}$ группы ${\displaystyle G}$, и мера Планшереля этой точки совпадает с формальной размерностью ${\displaystyle d_{\pi }}$; если при этом некоторый ненулевой матричный элемент представления ${\displaystyle \pi }$ суммируем, то представление ${\displaystyle \pi }$ является открытой точкой в носителе регулярного представления группы ${\displaystyle G}$, но открытые точки в ${\displaystyle {\hat {G}}}$ могут не соответствовать представлениям дискретной серии. Свойства представлений дискретной серии частично распространяются на случай неунимодулярных локально компактных групп.