Тео́рия а́лгебр Ли, раздел алгебры, изучающий алгебры Ли. Алгеброй Ли называется алгебра (см. Теория колец) над некоторым полем $K$ с умножением (для элементов $a$ и $b$ алгебры Ли их произведение обычно обозначается $[a,b]$), обладающим следующими свойствами: для любых элементов $x, y, z$

$$\begin{gathered}\left [x,x\right ]=0;\\ \left [x, \left [ y,z \right ] \right ]+\left [ y,\left [ z,x \right ] \right ]+\left [ z,\left [ x,y \right ] \right ]=0\end{gathered}$$ (тождество Якоби).

Первое из этих свойств влечёт равенство $\left [ x,y \right ]= -\left [ y,x \right ]$ (антикоммутативность). Алгебра Ли называется коммутативной (или абелевой), если в ней выполняется равенство $[x,y]=0$ для всех элементов $x$ и $y$. Алгебры Ли, как правило, неассоциативны.

Примеры и конструкции алгебр Ли:

1) Любая ассоциативная алгебра $A$ (с умножением, обозначаемым обычным образом) превращается в алгебру Ли $A_L$, если ввести в ней новое умножение $[x,y]=xy-yx$ (коммутирование). Таким образом строится алгебра Ли $\mathfrak{gl}_n(K)$ всех матриц порядка $n$ над $K$, умножение в которой есть коммутирование матриц, или алгебра Ли $\mathfrak{gl}(V)$ линейных преобразований векторного пространства $V$.

2) Алгебры Ли аналитических (соответственно, гладких) векторных полей на любом аналитическом (соответственно, гладком) многообразии.

3) С каждой группой Ли $G$ связывается алгебра Ли $L(G)$ той же размерности (см. Теория групп Ли).

Не всякая алгебра Ли получается из некоторой ассоциативной алгебры с помощью конструкции из примера 1, однако любую алгебру Ли $L$ над полем $K$ можно вложить как подалгебру в алгебру Ли такого типа. Более того, существует такая ассоциативная алгебра $U(L)$ и такое вложение $i\colon L→U(L)_L$, что любой гомоморфизм $f\colon L→A_L$, где $A$ – ассоциативная алгебра, представи́м в виде суперпозиции $f=φ \circ i$, где $φ\colon U(L)→A$ – однозначно определённый гомоморфизм алгебр. Алгебра $U(L)$ (вместе с вложением $i$) определена для $L$ однозначно и называется универсальной обёртывающей алгеброй алгебры Ли $L$. Если в $L$ выбрать базис $e_1,e_2,\ldots$, то одночлены $i(e_{k_1})i(e_{k_2})\ldots i(e_{k_n})$, где $k_1⩽\ldots⩽k_n$ – целые неотрицательные числа, составляют базис в $U(L)$. В случае, когда $L$ есть $n$-мерная коммутативная алгебра Ли, $U(L)$ – алгебра многочленов от $e_1,\ldots,e_n$.

Линейным представлением алгебры Ли $L$ над полем $K$в векторном пространстве $V$ над $K$ называется гомоморфизм $L→\mathfrak{gl}(V)$ в алгебру Ли $\mathfrak{gl}(V)$. Любое аналитическое линейное представление группы Ли определяет линейное представление соответствующей алгебры Ли (в том же векторном пространстве). Любое линейное представление алгебры Ли $L$ однозначно продолжается до линейного представления ассоциативной алгебры $U(L)$, что сводит теорию представлений алгебр Ли к теории модулей над некоторым классом ассоциативных алгебр. Универсальная обёртывающая алгебра играет здесь роль, аналогичную роли групповой алгебры в теории представлений групп. Важным результатом является следующая теорема: любая конечномерная алгебра Ли над произвольным полем $K$ допускает точное линейное представление в конечномерном векторном пространстве над $K$, т. е. может быть вложена в алгебру $\mathfrak{gl}(V)$.

Коммутантом алгебры Ли $L$ называется линейная оболочка $[L,L]$ её элементов вида $[x,y]$, где $x,y∈L$; коммутант является идеалом в $L$. Полагая по индукции $D^pL=[D^{p–1}L,D^{p–1}L]$, $p=1,2,\ldots$, $D^0L=L$, получают убывающую цепочку идеалов $L=D^0L⊃D^1L⊃D^2L⊃\ldots$ . Если $D^pL=0$ для некоторого $p$, то алгебра Ли $L$ называется разрешимой. Алгебра Ли $L$ называется полупростой, если $L$ не содержит ненулевых разрешимых идеалов, и простой, если $L$ не содержит ненулевых идеалов, отличных от $L$. В любой конечномерной алгебре Ли $L$ существует наибольший разрешимый идеал ${\mathrm{rad}\,L}$ – радикал алгебры Ли $L$, причём факторалгебра $L/{\mathrm{rad}\,L}$ полупроста. Наиболее изучено строение конечномерных полупростых алгебр Ли над полем $K$ характеристики 0. Такие алгебры разлагаются в прямую сумму простых алгебр Ли. Над полем $\mathbb{C}$ комплексных чисел (а также над любым алгебраически замкнутым полем характеристики 0) известны все конечномерные алгебры Ли. Это прежде всего следующие алгебры Ли:

$$\begin{aligned}A_{n}&=\mathfrak{sl}_{n+1}(\mathbb{C})&=&\left \{ X\in \mathfrak{gl}_{n+1}(\mathbb{C})\mid \mathrm{tr}X=0 \right \}, \ \ n\geqslant 1, \\ B_{n}&=\mathfrak{so}_{2n+1}(\mathbb{C})&=&\left \{ X\in\mathfrak{gl}_{2n+1}(\mathbb{C})\mid X^{\mkern-1.5mu\mathsf{T}}=-X \right \}, \ \ n\geqslant 2,\\ C_{n}&=\mathfrak{sp}_{2n}(\mathbb{C})&=&\left \{ X\in\mathfrak{gl}_{2n}(\mathbb{C})\mid X^{\mkern-1.5mu\mathsf{T}}\mkern-1.5muB+BX=0 \right \}, \ \ n\geqslant 3,\\ D_{n}&=\mathfrak{so}_{2n}(\mathbb{C})&=&\left \{ X\in\mathfrak{gl}_{2n}(\mathbb{C})\mid X^{\mkern-1.5mu\mathsf{T}}=-X \right \}, \ \ n\geqslant 4, \end{aligned}$$где $\mathrm{tr}(X)$ – след матрицы $X$, верхний индекс $^\mathsf{T}$ означает транспонирование матрицы, $B=\begin{pmatrix} 0 & E\\ -E & 0 \end{pmatrix}$.

Кроме них, имеется единственная коммутативная простая алгебра размерности 1 и ещё пять т. н. особых простых алгебр Ли – $E_6, E_7, E_8, F_4, G_2$, имеющих размерности соответственно – 78, 133, 248, 52, 14. Известна также классификация конечномерных простых алгебр Ли над полем вещественных чисел $\mathbb{R}$.

Классическая теория алгебр Ли, основные результаты которой принадлежат Э. Картану, является вполне законченной. Современная теория алгебр Ли имеет дело с такими алгебрами Ли, как алгебры Ли над полем простой характеристики, бесконечномерные алгебры Ли и некоторые обобщения алгебр Ли (такие, как супералгебры Ли). Эти классы алгебр исследованы менее полно. Все они имеют многочисленные применения как в математике, так и в механике, физике и других науках.

Теория алгебр Ли появилась в конце 19 в. в связи с развитием теории групп Ли. Термин ввёл Г. Вейль (1934).