Относи́тельная систе́ма корне́й связной редуктивной алгебраической группы $G$, определённой над полем $k$, система $\Phi_k(S, G)$ ненулевых весов присоединённого представления максимального $k$-расщепимого тора $S$ группы $G$ в алгебре Ли $\mathfrak{g}$ этой группы. Сами веса называются корнями $G$ относительно $S$. Относительная система корней $\Phi_k(S, G)$, рассматриваемая как подмножество своей линейной оболочки $L$ в пространстве $X(S)\otimes_{ \mathbb{Z} }\R$, где $X(S)$ – группа рациональных характеров тора $S$, является корневой системой. Пусть $N(S)$ – нормализатор, a $Z(S)$ – централизатор $S$ в $G$. Тогда $Z(S)$ является связной компонентой единицы группы $N(S)$; конечная группа $W_k(S, G)=N(S)/Z(S)$ называется группой Вейля группы $G$ над $k$, или относительной группой Вейля. Присоединённое представление $N (S)$ в $\mathfrak{g}$ определяет линейное представление $W_k(S, G)$ в $L$. Это представление является точным и его образ есть группа Вейля системы корней $\Phi_k(S, G)$, что позволяет отождествить эти две группы. Ввиду сопряжённости над $k$ максимальных $k$-расщепимых торов в $G$ относительная система корней $\Phi_k(S, G)$ и относительная группа Вейля $W_k(S, G)$ не зависят, с точностью до изоморфизма, от выбора тора $S$ и часто обозначаются просто $\Phi_k(G)$ и $W_k(G)$. В случае, когда $G$ расщепима над $k$, относительная система корней и относительная группа Вейля совпадают соответственно с обычной (абсолютной) системой корней и группой Вейля группы $G$. Пусть $g_\alpha$ – весовое относительно $S$ подпространство в $\mathfrak{g}$, отвечающее корню $\alpha\in\Phi_k(S, G)$. Если $G$ расщепима над $k$, то $\dim g_\alpha=1$ для любого $\alpha$ и $\Phi_k(G)$ – приведённая система корней; в общем случае это не так: $\Phi_k(G)$ может быть неприведённой, a $\dim g_\alpha$ может быть больше $1$. Относительная система корней $\Phi_k(G)$ неприводима, если $G$ проста над $k$.

Относительная система корней играет важную роль в описании структуры и в классификации полупростых алгебраических групп над $k$. Пусть $G$ – полупроста и $T$ – максимальный тор, определённый над $k$ и содержащий $S$. Пусть $X(S)$ и $X(T)$ – группы рациональных характеров торов $S$ и $T$ с фиксированными согласованными отношениями порядка, $\Delta$ – соответствующая система простых корней группы $G$ относительно $T$ и $\Delta_0$ – подсистема в $\Delta$, состоящая из характеров, тривиальных на $S$. Пусть также $\Delta_k$ – система простых корней в относительной системе корней $\Phi_k(S, G)$, определённая выбранным в $X(S)$ отношением порядка; она состоит из сужений на $S$ характеров системы $\Delta$. Группа Галуа $\Gamma=\mathrm{Gal} (k_s/k)$ естественно действует на $\Delta$, и набор данных {$\Delta$, $\Delta_0$, действие $\Gamma$ на $\Delta$} называется $k$-индексом полупростой группы $G$. Роль $k$-индекса объясняется следующей теоремой: всякая полупростая группа над $k$ однозначно с точностью до $k$-изоморфизма определяется своим классом относительно изоморфизма над $k_s,$ своим $k$-индексом и своим анизотропным ядром. Относительная система корней $\Phi_k(G)$ полностью определяется системой $\Delta_k$ и набором таких натуральных чисел $n_\alpha$, $\alpha\in\Delta_k$ (равных $1$ или $2$), что $n_\alpha\alpha\in \Phi_k(G)$, но $(n_\alpha+1)\alpha\notin \Phi_k(G)$. В свою очередь, $\Delta_k$ и $n_\alpha$, $\alpha\in\Delta_k$, могут быть восстановлены по $k$-индексу. В частности, два элемента из $\Delta\setminus\Delta_0$ имеют одно и то же ограничение на $S$ тогда и только тогда, когда они лежат в одной орбите группы $\Gamma$; это определяет биекцию между $\Delta_k$ и множеством орбит группы $\Gamma$ в $\Delta\setminus\Delta_0$.

Если $\gamma\in\Delta_k$, $O_\gamma\subset\Delta\setminus\Delta_0$ – соответствующая орбита и $\Delta(\gamma)$ – любая связная компонента в $\Delta_0\cup O_\gamma$ , не все вершины которой лежат в $\Delta_0$, то $n_\gamma$ есть сумма коэффициентов при корнях $\alpha\in\Delta(\gamma)\cap O_\gamma$ в разложении старшего корня системы $\Delta(\gamma)$ по простым корням.

Если $k=\R$, $\bar{k}= \mathbb{C}$, то эта относительная система корней естественно отождествляется с системой корней, а относительная группа Вейля – с группой Вейля соответствующего симметричного пространства.