Фу́ксова гру́ппа, дискретная группа голоморфных преобразований (открытого) круга $K$ на сфере Римана, т. е. круга или полуплоскости на комплексной плоскости. Чаще всего в качестве $K$ берут верхнюю полуплоскость

$$U=\{z \in \mathbb{C} \mid \operatorname{Im} z>0\}$$или единичный круг

$$D=\{z \in \mathbb{C}|| z \mid<1\} .$$В первом случае элементы фуксовой группы являются дробно-линейными преобразованиями

$$z \longmapsto \frac{a z+b}{c z+d}$$с действительными коэффициентами, и фуксова группа представляет собой не что иное, как дискретную подгруппу группы $P S L_2$. Во втором случае элементы фуксовой группы являются дробно-линейными преобразованиями с псевдоунитарными матрицами.

Если рассматривать круг $K$ как конформную модель плоскости Лобачевского, то фуксова группа может быть определена как дискретная группа его движений, сохраняющих ориентацию. Фуксовы группы представляют собой частный случай клейновых групп.

Произвольные фуксовы группы впервые рассматривались A. Пуанкаре (Пуанкаре. 1974) в 1882 г. в связи с проблемой униформизации. Группы были названы им фуксовыми в честь Л. Фукса, работа (Fuchs. 1880) которого стимулировала введение этого понятия. Для описания фуксовой группы Пуанкаре применил комбинаторно-геометрический метод, ставший впоследствии одним из основных методов теории дискретных групп преобразований. Понятие фуксовой группы послужило основой для теории автоморфных функций, созданной А. Пуанкаре и Ф. Клейном.

Фуксова группа, сохраняющая какую-либо точку в замыкании $\bar{K}$ круга $K$ или прямую в смысле геометрии Лобачевского, называется элементарной. Если $\Gamma$ – неэлементарная фуксова группа, то множество $L(\Gamma)$ предельных точек орбиты точки $x \in \bar{K}$, лежащее на граничной окружности $\partial K$, не зависит от $x$ и называется предельным множеством группы $\Gamma$. Группа $\Gamma$ называется фуксовой группой 1-го родa, если $L(\Gamma)=\partial K$, и 2-го рода – в противном случае [тогда $L(\Gamma)$ – нигде не плотное совершенное подмножество в $\partial K$].

Конечно порождённая фуксова группа является фуксовой группой 1-го рода тогда и только тогда, когда площадь (в смысле геометрии Лобачевского) её фундаментальной области конечна. В качестве фундаментальной области такой группы $\Gamma$ всегда может быть выбран выпуклый многоугольник $P$ плоскости Лобачевского со сторонами

$$a_1, b_1^{\prime}, a_1^{\prime}, b_1, \ldots, a_g, b_g^{\prime}, a_g^{\prime}, b_g, c_1, c_1^{\prime}, \ldots, c_n, c_n^{\prime}$$таким образом, что

$$a_i=\alpha_i\left(a_i^{\prime}\right), \quad b_i=\beta_i\left(b_i^{\prime}\right), \quad c_i=\gamma_i\left(c_i^{\prime}\right)$$для некоторых элементов

$$\alpha_1, \ldots, \alpha_g, \, \beta_1, \ldots, \beta_g, \, \gamma_1, \ldots, \gamma_n,$$порождающих группу $\Gamma$ с определяющими соотношениями

$$\prod_{i=1}^g\left(\alpha_i \beta_i \alpha_i^{–1} \beta_i^{–1}\right) \prod_{i=1}^n \gamma_i=1, \\ \gamma_i^{k_j}=1, \quad i=1, \ldots, n,$$где $k_i$ – целое число $\geqslant 2$ или $\infty$. Элемент $\gamma_i$ оставляет на месте вершину $C_i$ многоугольника $P$, общую сторонам $c_i$ и $c_i^{\prime}$. Он является эллиптическим, если $k_i<\infty$, и параболическим, если $k_i=\infty$; в последнем случае вершина $C_i$ лежит на окружности $\partial K$, т. е. является бесконечно удалённой точкой плоскости Лобачевского. Всякий эллиптический или параболический элемент группы $\Gamma$ сопряжён степени некоторого однозначно определённого образующего $\gamma_i$. Углы многоугольника $P$ при вершинах $C_i$, $i=1, \ldots, n$, равны $2 \pi / k_i$, сумма всех остальных углов равна $2 \pi$. Стороны $a_i$ и $a_i^{\prime}$, а также $b_i$ и $b_i^{\prime}$, $c_i$ и $c_i^{\prime}$ имеют одинаковую длину. Обратно, всякий выпуклый многоугольник на плоскости Лобачевского, удовлетворяющий этим условиям, является фундаментальным многоугольником описанного выше типа некоторой конечно порождённой фуксовой группы 1-го рода.

Всякая система образующих группы $\Gamma$, которая получается описанным способом, называется стандартной. При абстрактном изоморфизме конечно порождённых фуксовых групп 1-го рода, отображающем множество параболических элементов одной группы на множество параболических элементов другой группы, всякая стандартная система образующих переходит в стандартную систему образующих.

Площадь фундаментальной области группы $\Gamma$ равна $-2 \pi \chi(\Gamma)$, где

$$\chi(\Gamma)=\chi\left(g ; k_1, \ldots, k_n\right)=2–2 g–\sum_{i=1}^n\left(1–\frac{1}{k_i}\right).$$Набор чисел $\left(g ; k_1, \ldots, k_n\right)$, где $k_1, \ldots, k_n$ считаются неупорядоченными, является топологическим инвариантом группы $\Gamma$ как группы гомеоморфизмов круга и называется её сигнатурой. Единственным ограничением на сигнатуру является условие

$$\chi\left(g ; k_1, \ldots, k_n\right)<0. \tag{*}$$Для подгруппы $\Delta$ конечного индекса фуксовой группы $\Gamma$ имеет место формула Римана – Гурвица:

$$\chi(\Delta)=\chi(\Gamma)[\Gamma: \Delta].$$Во всякой фуксовой группе существует подгруппа конечного индекса, не имеющая элементов конечного порядка.

Факторпространство $K / \Gamma$ компактифицируется путём добавления конечного числа точек, соответствующих бесконечно удалённым вершинам фундаментального многоугольника. На компактифицированном пространстве $S$ имеется единственная комплексная структура, для которой отображение факторизации $p: K \longrightarrow S$ голоморфно. При этом $S$ является римановой поверхностью рода $g$, а отображение $p$ – регулярным разветвлённым накрытием с индексами ветвления $k_1, \ldots, k_n$. Обратно, теорема униформизации утверждает, что для любой компактной римановой поверхности $S$ рода $g$ с отмеченными точками $x_1, \ldots, x_n$ и для любых $k_1, \ldots, k_n$ ($k_i$ – целое число $\geqslant 2$ или $\infty$), удовлетворяющих условию $(*)$, существует регулярное голоморфное разветвлённое накрытие $p: K \longrightarrow S$, ветвящееся в точности над точками $x_1, \ldots, x_n$ с индексами ветвления $k_1, \ldots, k_n$ соответственно. Накрытие $p$ определено однозначно с точностью до автоморфизма круга $K$. Его группа скольжений есть фуксова группа сигнатуры $\left(g ; k_1, \ldots, k_n\right)$.

Конечно порождённые фуксовы группы 1-го рода фиксированной сигнатуры $\left(g ; k_1, \ldots, k_n\right)$ могут быть параметризованы точками некоторого $(3 n–3+n)$-мерного комплексного многообразия, гомеоморфного клетке, – т. н. пространства Тейхмюллера $T\left(g ; k_1, \ldots, k_n\right)$ (Альфорс. 1961). При этом двум точкам пространства Тейхмюллера соответствует одна и та же (с точностью до сопряжённости в группе автоморфизмов круга) фуксова группа тогда и только тогда, когда эти точки эквивалентны относительно некоторой дискретной группы голоморфных преобразований пространства $T\left(g ; k_1, \ldots, k_n\right)$ – т. н. модулярной группы $\operatorname{Mod}\left(g ; k_1, \ldots, k_n\right)$. Имеется изоморфизм

$$T\left(g ; k_1, \ldots, k_n\right) \overset{\sim}{\rightarrow}(g ; \underbrace{\infty, \ldots, \infty}_n),$$при котором группа $\operatorname{Mod}(g ; k_1, \ldots, k_n)$ переходит в подгруппу конечного индекса группы $\operatorname{Mod}(g ; \infty, \ldots, \infty)$.

Если фуксова группа сигнатуры $\left(g ; k_1, \ldots, k_n\right)$ содержит подгруппу конечного индекса сигнатуры $\left(h ; l_1, \ldots, l_m\right)$, то пространство $T\left(g ; k_1, \ldots, k_n\right)$ естественным образом вкладывается в виде замкнутого подмножества в пространство $T\left(h ; l_1, \ldots, l_m\right)$. В некоторых исключительных случаях эти пространства совпадают (Singerman. 1972). Например, $T(2)=T(0 ; 2,2,2,2,2,2)$; это означает, что всякая компактная риманова поверхность рода $2$ допускает гиперэллиптическую инволюцию и, значит, является гиперэллиптической кривой.

Для фуксовых групп сигнатуры $(0 ; k_1, k_2, k_3)$, называемых треугольными группами, и только для них, пространство Тайхмюллера состоит из одной точки. Всякая треугольная группа является подгруппой индекса $2$ в группе, порождённой отражениями относительно сторон треугольника с углами $\frac{\pi}{k_1}, \frac{\pi}{k_2}, \frac{\pi}{k_3}$ (cм. Группа отражений). Примером треугольной группы служит модулярная группа Клейна; её сигнатура равна $(0 ; 2,3, \infty)$.

Всякая конечно порождённая фуксова группа 2-го рода топологически (как группа гомеоморфизмов круга) изоморфна конечно порождённой фуксовой группе 1-го рода и допускает аналогичное геометрическое описание, с той разницей, что некоторые пары сторон $c_i, c_i^{\prime}$ фундаментального многоугольника не имеют общих точек, даже бесконечно удалённых, а соответствующие образующие $\gamma_i$ являются гиперболическими преобразованиями. Компактифицированное факторпространство представляет собой риманову поверхность с краем.

Всякая бесконечно порождённая фуксова группа является свободным произведением циклических подгрупп. Её фундаментальная область может быть построена как предел фундаментальных областей конечно порождённых групп (Крушкаль. 1981).