Метод орбит

Пусть ${\displaystyle \Omega }$ – орбита действительной группы Ли ${\displaystyle G}$ в коприсоединённом представлении, ${\displaystyle F}$ – точка этой орбиты (являющаяся линейным функционалом на алгебре Ли ${\displaystyle {\mathfrak {g}}}$ группы ${\displaystyle G}$), ${\displaystyle G(F)}$ – стабилизатор точки ${\displaystyle F}$, ${\displaystyle {\mathfrak {g}}(F)}$ – алгебра Ли группы ${\displaystyle G(F)}$. Поляризацией точки ${\displaystyle F}$ называется комплексная подалгебра ${\displaystyle {\mathfrak {h}}}$ в ${\displaystyle {\mathfrak {g}}_{\mathbb {C} }}$, где ${\displaystyle {\mathfrak {g}}_{\mathbb {C} }}$ – комплексификация алгебры Ли ${\displaystyle {\mathfrak {g}}}$, обладающая свойствами:

1) ${\displaystyle \operatorname {dim} _{\mathbb {C} }^{\mathfrak {h}}=\operatorname {dim} g-{\frac {1}{2}}\operatorname {dim} \Omega }$;

2) ${\displaystyle [{\mathfrak {h}},{\mathfrak {h}}]}$ содержится в ядре функционала ${\displaystyle F}$ на ${\displaystyle g}$;

3) ${\displaystyle {\mathfrak {h}}}$ инвариантна относительно ${\displaystyle \operatorname {Ad} G(F)}$.

Пусть ${\displaystyle H^{0}=\exp({\mathfrak {h}}\cap {\mathfrak {g}})}$ и ${\displaystyle H=G(F)\cdot H^{0}}$. Поляризация ${\displaystyle {\mathfrak {h}}}$ называется действительной, если ${\displaystyle {\mathfrak {h}}={\overline {\mathfrak {h}}}}$, и чисто комплексной, если ${\displaystyle {\mathfrak {h}}\cap {\overline {\mathfrak {h}}}=g(F)}$. Функционал ${\displaystyle F}$ определяет характер (одномерное унитарное представление) ${\displaystyle \chi _{F}^{0}}$ группы ${\displaystyle H^{0}}$ по формуле

${\displaystyle \exp X\longrightarrow \exp 2\pi i\langle F,X\rangle }$.

Пусть ${\displaystyle \chi _{F}^{0}}$ продолжается до характера ${\displaystyle \chi _{F}}$ группы ${\displaystyle H}$. Если ${\displaystyle h}$ – действительная поляризация, то пусть ${\displaystyle T_{F,{\mathfrak {h}},\chi _{F}}}$ – индуцированное характером ${\displaystyle \chi _{F}}$ подгруппы ${\displaystyle H}$ представление группы ${\displaystyle G}$. Если ${\displaystyle {\mathfrak {h}}}$ – чисто комплексная поляризация, то пусть ${\displaystyle T_{F,{\mathfrak {h}},\chi _{F}}}$ – голоморфно индуцированное представление, действующее в пространстве голоморфных функций на ${\displaystyle G/H}$.

Первая основная гипотеза состоит в том, что представление ${\displaystyle T_{F,{\mathfrak {h}},\chi _{F}}}$ неприводимо и его класс эквивалентности зависит только от орбиты ${\displaystyle \Omega }$ и от выбора продолжения ${\displaystyle \chi _{F}}$ характера ${\displaystyle \chi _{F}^{0}}$. Эта гипотеза доказана для нильпотентных групп (Кириллов. 1962) и для разрешимых групп Ли (Auslander. 1971^[2]). Для некоторых орбит простой особой группы ${\displaystyle G_{2}}$ гипотеза неверна (Rothschild. 1974^[3]). Возможность продолжения и степень его неоднозначности зависят от топологических свойств орбиты: препятствием к продолжению служат двумерные когомологии орбиты, а в качестве параметра, нумерующего различные продолжения, можно взять одномерные когомологии орбиты. Более точно, пусть ${\displaystyle B_{\Omega }}$ – каноническая 2-форма на орбите ${\displaystyle \Omega }$. Для существования продолжения необходимо и достаточно, чтобы форма ${\displaystyle B_{\Omega }}$ принадлежала целочисленному классу (т. е. интеграл её по любому двумерному циклу был целым числом); если это условие выполнено, то множество продолжений параметризуется характерами фундаментальной группы орбиты.

Вторая основная гипотеза состоит в том, что указанным способом получаются все унитарные неприводимые представления рассматриваемой группы ${\displaystyle G}$. Единственным (на 1983) противоречащим этой гипотезе примером являются т. н. дополнительные серии представлений полупростых групп Ли.

Значительное место в теории представлений занимают вопросы о разложении на неприводимые компоненты представления, получаемого ограничением на подгруппу ${\displaystyle H}$ неприводимого представления группы ${\displaystyle G}$ и индуцированием с помощью неприводимого представления подгруппы ${\displaystyle H\subset G}$. Метод орбит даёт ответ на эти вопросы в терминах естественной проекции ${\displaystyle p:{\mathfrak {g}}^{*}\rightarrow {\mathfrak {h}}^{*}}$ (${\displaystyle *}$ означает переход к сопряжённому пространству, проекция ${\displaystyle p}$ состоит в ограничении функционала с ${\displaystyle {\mathfrak {g}}}$ на ${\displaystyle {\mathfrak {h}}}$). A именно: пусть ${\displaystyle G}$ – экспоненциальная группа Ли (для таких групп соответствие между орбитами и представлениями взаимно однозначно).

Tогда неприводимое представление группы ${\displaystyle G}$, соответствующее орбите ${\displaystyle \Omega \subset {\mathfrak {g}}^{*}}$, при ограничении на ${\displaystyle H}$ разлагается на неприводимые компоненты, соответствующие тем орбитам ${\displaystyle \omega \in {\mathfrak {h}}^{*}}$, которые лежат в ${\displaystyle p(\Omega )}$, а представление группы ${\displaystyle G}$, индуцированное неприводимым представлением группы ${\displaystyle H}$, соответствующим орбите ${\displaystyle \omega \subset {\mathfrak {h}}^{*}}$, разлагается на неприводимые компоненты, соответствующие тем орбитам ${\displaystyle \Omega \subset {\mathfrak {g}}^{*}}$, которые имеют непустое пересечение с прообразом ${\displaystyle p^{-1}(\omega )}$. Из этих результатов вытекают два следствия: если неприводимые представления ${\displaystyle T_{i}}$ соответствуют орбитам ${\displaystyle \Omega _{i}}$, ${\displaystyle i=1,2}$, то тензорное произведение ${\displaystyle T_{1}\otimes T_{2}}$ разлагается на неприводимые компоненты, соответствующие тем орбитам ${\displaystyle \Omega }$, которые лежат в арифметической сумме ${\displaystyle \Omega _{1}+\Omega _{2}}$; квазирегулярное представление группы ${\displaystyle G}$ в пространстве функций на ${\displaystyle G/H}$ разлагается на неприводимые компоненты, соответствующие тем орбитам ${\displaystyle \Omega \subset {\mathfrak {g}}^{*}}$, для которых образ ${\displaystyle p(\Omega )\subset {\mathfrak {h}}^{*}}$ содержит нуль.

Для характеров неприводимых представлений (как обобщённых функций на группе) предложена (Kirillov. 1980^[4]) следующая универсальная формула:

${\displaystyle \chi (\exp X)={\frac {1}{p(X)}}\int _{\Omega }e^{2\pi i\langle F,X\rangle }\beta (F),}$ (*)

где ${\displaystyle \exp :{\mathfrak {g}}\rightarrow G}$ – экспоненциальное отображение алгебры Ли ${\displaystyle {\mathfrak {g}}}$ в группу ${\displaystyle G}$, ${\displaystyle p(X)}$ – квадратный корень из плотности инвариантной меры Хаара на ${\displaystyle G}$ в канонических координатах, ${\displaystyle \beta }$ – форма объёма на орбите ${\displaystyle \Omega }$, связанная с канонической 2-формой ${\displaystyle B_{\Omega }}$ соотношением

${\displaystyle \beta ={\frac {B_{\Omega }^{k}}{k!}},k={\frac {1}{2}}\operatorname {dim} \Omega }$.

Эта формула справедлива для нильпотентных групп, разрешимых групп типа 1, компактных групп, дискретной серии представлений полупростых действительных групп и основной серии представлений комплексных полупростых групп. Для некоторых вырожденных серий представлений ${\displaystyle \operatorname {SL} (3,\mathbb {R} )}$ формула неверна. Из формулы (*) получается простая формула для вычисления инфинитезимального характера неприводимого представления ${\displaystyle T_{\Omega }}$, соответствующего орбите ${\displaystyle \Omega }$, а именно: каждому оператору Лапласа ${\displaystyle \Delta }$ на ${\displaystyle G}$ может быть сопоставлен ${\displaystyle \operatorname {Ad} ^{*}G}$-инвариантный многочлен ${\displaystyle P_{\Delta }}$ на ${\displaystyle {\mathfrak {g}}^{*}}$ так, что значение инфинитезимального характера ${\displaystyle T_{\Omega }}$ на элементе ${\displaystyle \Delta }$ в точности равно значению ${\displaystyle P_{\Delta }}$ на ${\displaystyle \Omega }$.

Конструкцию неприводимого унитарного представления группы ${\displaystyle G}$ по её орбите ${\displaystyle \Omega }$ в коприсоединённом представлении можно рассматривать как операцию квантования некоторой гамильтоновой системы, для которой ${\displaystyle \Omega }$ играет роль фазового пространства, а ${\displaystyle G}$ – роль многомерного некоммутативного времени (или группы симметрий). При этом ${\displaystyle G}$-орбиты в коприсоединённом представлении – это все ${\displaystyle G}$-однородные симплектические многообразия, допускающие квантование. Таким образом, вторую основную гипотезу можно переформулировать так: каждая элементарная квантовая система с временем (или группой симметрий) ${\displaystyle G}$ получается квантованием из соответствующей классической системы (Kirillov. 1980^[5]).

Обнаружена также связь метода орбит с теорией вполне интегрируемых гамильтоновых систем (Reyman. 1979^[6]).