Гру́ппа Ли, группа $G$, обладающая такой структурой аналитического многообразия, что отображение $\mu: (x,y)\to xy^{-1}$ прямого произведения $G\times G$ в $G$ аналитично. Другими словами, группа Ли – это множество, наделённое согласованными структурами группы и аналитического многообразия. Группа Ли называется вещественной, комплексной или $p$-адической в зависимости от поля, над которым рассматривается её аналитическое многообразие. В дальнейшем, как правило, рассматриваются вещественные группы Ли (всякая комплексная группа Ли естественно наделяется структурой вещественной группы Ли – с помощью конструкции ограничения основного поля; о группах Ли над полями $p$-адических чисел см. в статье Аналитическая группа).

Примеры групп Ли. Полная линейная группа ${\rm GL}(n,\mathbb R)$ над полем $\mathbb R$ действительных чисел и её подгруппы, замкнутые в естественной евклидовой топологии.

Основные понятия теории групп Ли введены в математику в 1870-е гг. С. Ли. Группы Ли возникли в связи с проблемой разрешимости дифференциальных уравнений в квадратурах и исследованием непрерывных групп преобразований. Успешное применение теории групп к решению алгебраических уравнений высших степеней, выразившееся в создании теории Галуа, повлекло за собой попытку построения аналога теории Галуа для дифференциальных уравнений. И хотя группы в теории дифференциальных уравнений заняли несколько иное место, нежели в теории алгебраических уравнений, это привело к созданию теории групп Ли, а также теории алгебраических групп, глубоко связанных со многими областями математики. Первоначально группы Ли определялись как локальные группы преобразований, т. е. как семейства локальных аналитических преобразований $n$-мерного пространства $\mathbb R^n$ (или $\mathbb C^n$), аналитически зависящих от конечной системы параметров, причём требовалось, чтобы параметры произведения преобразований выражались через параметры сомножителей посредством аналитических функций. Позже перешли к абстрактному рассмотрению групп Ли, но также с локальной точки зрения (см. Локальная группа Ли). Систематическое исследование глобального строения групп Ли первыми начали Э. Картан и Г. Вейль. Первое современное изложение теории групп Ли было дано в 1938 г. Л. С. Понтрягиным (Понтрягин, 1973).

Возникает вопрос, не приведёт ли замена аналитичности многообразия $G$ и отображения $\mu$ дифференцируемостью к расширению класса групп Ли? Этот вопрос был решён ещё С. Ли: если $\mu$ дважды непрерывно дифференцируемо, то $G$ является группой Ли. Значительно более сложной оказалась пятая проблема Гильберта: пусть $G$ есть $n$-мерное топологическое многообразие и отображение $\mu: (x,y)\to xy^{-1}$ непрерывно, будет ли $G$ группой Ли? Для компактных групп эта проблема была решена положительно Дж. Нейманом в 1933 г., а для локально компактных абелевых групп – Л. С. Понтрягиным в 1934 г. В общем случае положительное решение было получено в 1952 г. Э. М. Глисоном, Д. Монтгомери и Л. Зиппином (см. Hochschild. 1965, а также Скляренко. 1969). Таким образом, можно определить группу Ли как топологическую группу, топологическое пространство которой является конечномерным (или локально евклидовым) многообразием, что весьма важно для общей теории топологических групп.

Подмножество $H$ группы Ли $G$ называется подгруппой (точнее, подгруппой Ли), если $H$ является подгруппой абстрактной группы $G$ и подмногообразием аналитического многообразия $G$. Морфизм группы Ли $G_1$ в группу Ли $G_2$ – это аналитическое отображение $f:G_1\to G_2$, являющееся гомоморфизмом абстрактных групп; если к тому же $f$ биективно, а $f^{-1}$ аналитично, то $f$ называется изоморфизмом групп Ли; в случае локальной биективности $f$ говорят, что группы Ли $G_1$ и $G_2$ локально изоморфны. Пусть $H$ – замкнутая нормальная подгруппа группы Ли $G$. Тогда факторгруппа $G/H$ наделяется такой структурой аналитического многообразия, что $G/H$ превращается в группу Ли, а каноническое отображение $G\to G/H$ является морфизмом. Размерностью группы Ли $G$ называется размерность $G$ как аналитического многообразия. В дальнейшем рассматриваются только конечномерные группы Ли, хотя многие результаты обобщаются на случай банаховых групп Ли.

Соответствие между группами и алгебрами Ли

Основным методом исследования в теории групп Ли является инфинитезимальный метод, созданный С. Ли. Этот метод позволяет в значительной мере редуцировать изучение такого сложного объекта, как группа Ли, к изучению чисто алгебраического объекта – алгебры Ли. Каждой группе Ли $G$ сопоставляется алгебра Ли $L(G)$, которая строится следующим образом (см. также Алгебра Ли аналитической группы). Левоинвариантным векторным полем на $G$ называется векторное поле, инвариантное относительно дифференциалов левых сдвигов, т. е. $X$ – левоинвариантное векторное поле, если $(dL_g) X(h) = X(gh)$ для любых $g, h \in G$, где $L_g(h) = gh$. Левоинвариантные векторные поля на $G$ образуют векторное пространство, которое можно отождествлять с касательным пространством $T_e(G)$ в единице $e$ группы $G$, сопоставляя полю $X$ его значение в $e$. Если $X, Y \in T_e(G)$, то скобка Ли $X\circ Y - Y\circ X$ также будет левоинвариантным полем и это задаёт в $T_e(G)$ билинейную операцию, относительно которой $T_e(G)$ становится алгеброй Ли $L(G)$ (здесь $\circ$ означает композицию векторных полей, рассматриваемых как дифференцирования алгебры бесконечно дифференцируемых действительнозначных функций на многообразии $G$). Можно дать более явную конструкцию операции коммутирования $[X, Y]$ в $L(G)$. Пусть $x(t)$, $y(t)$ – интегральные кривые полей $X$, $Y$ в $G$, проходящие через единицу группы. Тогда $[X, У]$ будет касательным вектором в точке $e$ к кривой$$z(s) = x(\sqrt{s}) y(\sqrt{s}) x(\sqrt{s})^{-1} y(\sqrt{s})^{-1}.$$Восстановить группу Ли $G$ по её алгебре Ли $L(G)$ позволяет экспоненциальное отображение $\exp: L(G)\to G$, сопоставляющее полю $X\in L(G)$ элемент $x(1)$ его интегральной кривой $x(t)$. Если $G$ – линейная группа Ли, т. е. подгруппа полной линейной группы ${\rm GL}(n,\mathbb R)$, то $L(G)$ отождествляется с подалгеброй полной матричной алгебры Ли $L(n,\mathbb R)$ и экспоненциальное отображение принимает вид$$\exp{X} = \sum_{m=0}^\infty \frac{1}{m!} A^m.$$Отображение $\exp: L(G)\to G$ аналитично и локально изоморфно и поэтому определяет в окрестности единицы группы $G$ локальную карту (канонические координаты). Согласно формуле Кэмпбелла – Хаусдорфа запись умножения в $G$ в канонических координатах, т. е. отображение$$(X, Y) \to {\rm exp}^{-1} (\exp{X} \exp{Y}),\quad X,Y\in L(G),$$выражается через операции в алгебре Ли $L(G)$. Таким образом, локально группа Ли полностью определяется своей алгеброй Ли.

Соответствие между группами и алгебрами Ли обладает глубокими функториальными свойствами. Группа Ли определяется своей алгеброй Ли с точностью до локального изоморфизма; в частности, если группы Ли $G_1$ и $G_2$ связны и односвязны, то из изоморфизма их алгебр Ли следует изоморфизм $G_1\cong G_2$. Связные подгруппы группы Ли $G$ взаимно однозначно соответствуют подалгебрам алгебры Ли $L(G)$. Пусть $f: G_1\to G_2$ – морфизм двух групп Ли. Тогда дифференциал морфизма в единице оказывается гомоморфизмом алгебр Ли:$$df_e: L(G_1)\to L(G_2).$$Вообще говоря, не всякий гомоморфизм $L(G_1)\to L(G_2)$ имеет вид $df_e$, однако в случае односвязной группы $G_1$ это так. Связная подгруппа $H$ связной группы Ли $G$ тогда и только тогда нормальна, когда $L(H)$ является идеалом в алгебре Ли $L (G)$; если к тому же $H$ замкнута в $G$, то$$L(G/H)\cong L(G)/L(H).$$По построению алгебра Ли $L (G)$ данной группы Ли $G$ является аналитически инвариантной. В действительности же $L(G)$ топологически инвариантна, что непосредственно вытекает из следующей теоремы Картана: непрерывное гомоморфное отображение (вещественной) группы Ли $G$ в группу Ли $H$ является морфизмом. Для комплексных групп Ли последнее утверждение не всегда верно, хотя оно сохраняет силу для $p$-адических групп Ли (см. Бурбаки. 1972–1978). Группа автоморфизмов ${\rm Aut}\, G$ связной группы Ли $G$ является группой Ли, которая отождествляется с подгруппой группы ${\rm Aut}(L(G))$. В частности, если группа Ли $G$ односвязна, то$${\rm Aut}(G)\cong {\rm Aut}(L(G)) \quad\text{и}\quad L({\rm Aut}(G))\cong D(L(G)),$$где $D (L (G))$ обозначает алгебру Ли дифференцирований алгебры $L(G)$. Соответствие$$g\to Ad(g) = d_e({\rm Int}(g)),$$где ${\rm Int}(g)$ – внутренний автоморфизм, порождённый элементом $g\in G$, называется присоединённым представлением группы Ли $G$; его дифференциал будет присоединённым представлением $x\to {\rm ad}x$ алгебры Ли $L (G)$.

Глобальное строение групп Ли

Важным результатом здесь является теорема существования глобальной группы Ли с заданной вещественной алгеброй Ли, доказанная в 1930 г. Э. Картаном. Он показал также, что замкнутая подгруппа вещественной группы Ли является подгруппой Ли. К этому времени выявилась особая роль двух типов групп Ли: полупростых и разрешимых. Связная группа Ли $G$ называется полупростой, если она не содержит неединичных связных разрешимых нормальных подгрупп; если к тому же $G$ не содержит и других нетривиальных связных нормальных подгрупп, то она называется простой. Алгебра Ли $L(G)$ полупростой, простой или разрешимой группы Ли $G$ является соответственно полупростой, простой или разрешимой алгеброй Ли. Исследование произвольных групп Ли в существенной степени сводится к изучению полупростых и разрешимых. Всякая группа Ли $G$ обладает наибольшей связной разрешимой нормальной подгруппой, которая называется разрешимым радикалом и обозначается $R (G)$. В группе $G$ существуют максимальные полупростые подгруппы. Если $S$ – одна из них, то $G= S\cdot R (G)$, причём все максимальные полупростые подгруппы сопряжены; если $G$ односвязна, то $S\cap R(G)=(e)$ и произведение будет полупрямым (теорема Леви – Мальцева). Существование этого разложения доказано впервые Э. Леви в 1905 г. для комплексных алгебр Ли, сопряжённость полупростых компонент установлена А. И. Мальцевым в 1942 г. (см. Malcev. 1945, а также статью Разложение Леви – Мальцева).

Наиболее общий факт о разрешимых группах Ли получен ещё С. Ли: всякая связная разрешимая линейная группа над полем $\mathbb C$ приводится к треугольному виду, т. е. описание связных разрешимых групп Ли сводится к описанию подгрупп полной треугольной группы $T(n)\subset {\rm GL}(n,\mathbb C)$. Детальное исследование разрешимых групп Ли провёл А. И. Мальцев в (Malcev. 1945).

При изучении строения полупростых групп Ли важную роль играют их максимальные компактные подгруппы, изученные Э. Картаном в тесной связи с теорией симметрических пространств (см. Хелгасон. 1964). Согласно классической теореме Картана, максимальные компактные подгруппы полупростой группы Ли $G$ сопряжены; если $B$ – максимальная компактная подгруппа в $G$, то существует такое подмногообразие $E\subset G$, аналитически изоморфное евклидову пространству, что $G=BE$, причём отображение $B\times E\to B E$, $(b,e)\to be$, является изоморфизмом аналитических многообразий. Таким образом, топологическое строение группы $G$ определяется топологическим строением группы $B$. А. И. Мальцев (Malcev. 1945) распространил теорему Картана на произвольные связные группы Ли. Другое разложение связной группы Ли в произведение максимальной компактной подгруппы и евклидова пространства было найдено К. Ивасавой (см. в статье Разложение Ивасавы).

Линейная представимость

С самого начала развития теории групп Ли было ясно, что произвольные группы Ли близки к линейным группам Ли. С. Ли доказал, что во многих случаях группы Ли локально изоморфны линейным группам Ли. Общая теорема была получена И. Д. Адо в 1935 г.: всякая группа Ли локально изоморфна линейной (см. Адо. 1935). В то же время нетрудно указать примеры групп Ли, не являющихся линейными: такой будет односвязная накрывающая группа ${\rm SL}(2,\mathbb R)$ или (в случае поля $\mathbb C$) комплексный компактный тор. Если $G$ – односвязная разрешимая группа Ли, то всякая её подгруппа Ли односвязна и изоморфна линейной группе Ли. В общем случае найден следующий критерий для линейной представимости (Malcev. 1945): связная группа Ли $G$ тогда и только тогда является линейной, когда линейны её радикал $R(G)$ и полупростая факторгруппа $G/R(G)$; в свою очередь, для линейной представимости радикала $R(G)$ необходимо и достаточно, чтобы его коммутант был односвязен, а линейность полупростой группы Ли $G/R(G)$ зависит от строения её центра. Компактные, а также комплексные полупростые группы Ли не только линейны, но и являются линейными алгебраическими группами (Шевалле. 1948–1958).

Классификация

Одной из главных проблем теории групп Ли является проблема классификации произвольных связных групп Ли с точностью до изоморфизма. В классе всех локально изоморфных связных групп Ли, имеющих одну и ту же алгебру Ли, существует единственная односвязная группа Ли $G_0$, и всякая группа Ли $G$ из этого класса изоморфна $G_0/N$, где $N$ – некоторая дискретная центральная нормальная подгруппа. Поэтому классификация групп Ли сводится к классификации конечномерных алгебр Ли и вычислению центров односвязных групп Ли. С другой стороны, она сводится к классификации двух принципиально различных типов групп: полупростых и разрешимых. На первый взгляд разрешимые группы Ли устроены проще и их классификация, казалось бы, не должна быть трудной. Однако это впечатление обманчиво, и пока нет никакой надежды получить классификацию разрешимых групп Ли. Полупростые группы Ли, напротив, удалось полностью классифицировать. Полную классификацию комплексных полупростых алгебр Ли получил В. Киллинг в 1888–1990 гг. (см. Понтрягин. 1973, Бурбаки. 1972; 1976; 1978). Так как комплексная полупростая алгебра Ли является прямой суммой простых подалгебр, то достаточно классифицировать простые алгебры Ли. Оказалось, что существует лишь 9 различных типов комплексных простых алгебр Ли, а именно 4 бесконечные серии$$A_n,\ n\ge 1,\qquad B_n,\ n\ge 2,\qquad C_n,\ n\ge 2,\qquad D_n,\ n\ge 4,$$и 5 исключительных алгебр$$G_2,\quad F_4,\quad E_6,\quad E_7,\quad E_8.$$Бесконечным сериям комплексных простых алгебр Ли соответствуют классические линейные группы Ли. Соответствующие односвязные группы имеют вид: тип $A_n$ – ${\rm SL} (n+1,\mathbb C)$, тип $B_n$ – ${\rm Spin}(f_{2n+1})$, где ${\rm Spin}(f_{2n+1})$ обозначает спинорную группу, соответствующую невырожденной квадратичной форме $f_{2n+1}$ размерности $2n+1$; тип $C_n$ – симплектическая группа степени $2n$; тип $D_n$ – ${\rm Spin}(f_{2n+1})$. Нетрудно вычисляются центры этих групп. Например, центр ${\rm SL}(n+1,\mathbb C)$ – циклическая группа порядка $n+1$, а центры ${\rm Spin}(f_{2n+1})$ и симплектической группы – циклические группы $2$-го порядка. Так получается классификация комплексных полупростых групп Ли. Классификация вещественных полупростых групп Ли оказывается значительно сложнее и опирается на классификацию их вещественных форм. Наиболее важен здесь факт существования у всякой комплексной полупростой группы $G$ единственной компактной вещественной формы $B$; это означает, что алгебра Ли $L(G)$ изоморфна $L(B)\bigotimes_{\mathbb R}\mathbb C$, т. е. получается комплексификацией алгебры Ли $L (B)$. Основываясь на этом, Э. Картан в 1930-х гг. получил полную классификацию вещественных форм комплексных полупростых групп Ли. В терминах когомологий Галуа это равносильно описанию множества $H^1(\mathbb R,{\rm Aut}(G))$ (см. также линейная алгебраическая группа).

Впоследствии метод Киллинга был усовершенствован Э. Картаном и Г. Вейлем, что дало возможность решить ряд других классификационных проблем, а также развить важную теорию представлений групп Ли. Получена классификация полупростых подгрупп классических комплексных простых групп Ли (см. Мальцев. 1944).

Современное развитие и применение

В 1950-х гг. в теории групп Ли начался новый этап развития, что выразилось, в частности, в создании теории алгебраических групп. Ещё ранее К. Шевалле (см. Шевалле. 1948–1958) детально объяснил алгебраическую природу основных результатов теории Ли. Привлечение методов алгебраической геометрии позволило по-новому осветить эти классические результаты и открыло новые глубокие связи с теорией функций, теорией чисел и т. д. Значительное развитие получила теория $p$-адических групп Ли (см. Бурбаки. 1972; 1976; 1978; Серр. 1969). Группы Ли связаны практически со всеми основными разделами математики: с геометрией и топологией – через теорию групп Ли преобразований, с анализом – через теорию линейных представлений и т. д. Чрезвычайно важны также разнообразные применения групп Ли в физике и механике.