Теоре́ма Э́нгеля, пусть для конечномерной алгебры Ли $\mathfrak{g}$ над полем $k$ линейные операторы$$\operatorname{ad} X (\text{где}\operatorname{ad} X(Y)=[X, Y])$$нильпотентны для всех $X \in \mathfrak{g}$. Тогда существует базис алгебры $\mathfrak{g}$, относительно которого матрицы всех операторов $\operatorname{ad} X$ треугольны и имеют нулевую диагональ.

Ф. Энгель доказал (около 1887, опубликовано в Engel. 1893), что алгебра Ли $\mathfrak{g}$ с указанным свойством разрешима, откуда, в силу теоремы Ли, непосредственно вытекает сформулированное выше утверждение. Первое опубликованное доказательство теоремы Энгеля принадлежит В. Киллингу (Killing. 1888), указывающему на приоритет Ф. Энгеля. Теорема Энгеля формулируется часто в следующей более общей форме: если $\rho: \mathfrak{g} \rightarrow \operatorname{End} V$ – линейное представление конечномерной алгебры Ли $\mathfrak{g}$ в векторном пространстве $V$ ($\mathfrak{g}$ и $V$ – над произвольным полем), причём $\rho(X)$ – нильпотентный эндоморфизм для любого $X \in \mathfrak{g}$, то существует ненулевой вектор $v \in V$ такой, что $\rho(X) v=0$ для любого $X \in \mathfrak{g}$. Если $V$ конечномерно, то отсюда выводится существование в $V$ базиса, относительно которого все $\rho(X)$ имеют треугольные матрицы с нулевой диагональю [или, что то же, существует полный флаг $F=\left\{V_i\right\}$ в $V$, для которого $\rho(X)\left(V_i\right) \subset V_{i-1}$ для всех $X \in g$ и $i \gg 1$]. Заключение теоремы Энгеля справедливо также для любого представления $\rho$, для которого алгебра Ли $\rho(\mathfrak{g})$ является линейной оболочкой некоторого своего подмножества, состоящего из нильпотентных эндоморфизмов и замкнутого относительно операции коммутирования (Джекобсон. 1964).

Алгебра Ли $\mathfrak{g}$ называется энгелевой, если любой $X \in \mathfrak{g}$ является энгелевым элементом, т. е. если все операторы $\operatorname{ad} X$, $X \in \mathfrak{g}$ нильпотентны или, что то же, если для любого $X$ найдётся такое $n$, что$$[\underbrace{X,[X \ldots[X}_n, Y] \ldots]=0$$для любого $Y \in \mathfrak{g}$. Конечномерная алгебра Ли энгелева тогда и только тогда, когда она нильпотентна. Для бесконечномерных алгебр нильпотентность не вытекает из энгелевости, однако конечно порождённая алгебра Ли, в которой $(\operatorname{ad} X)^n=0$ для некоторого $n$ (где $n$ не зависит от $X$), нильпотентна (Levitzki. 1946).