Ортогона́льная гру́ппа, группа всех линейных преобразований
-мерного векторного пространства
над полем
, сохраняющих фиксированную невырожденную квадратичную форму
на
[т. е. таких линейных преобразований
, что
для любого
]. Ортогональная группа принадлежит к числу классических групп. Элементы ортогональной группы называются ортогональными (относительно
) преобразованиями
, a также автоморфизмами формы
. Пусть, далее,
(об ортогональной группе над полями характеристики
(Дьёдонне. 1974[1]; O'Meara. 1963[2]) и
– связанная с
невырожденная симметрическая билинейная форма на
, определённая формулой

.
Тогда ортогональная группа состоит в точности из тех линейных преобразований пространства
, которые сохраняют
, и обозначается через
или (когда ясно о каком поле
и форме
идёт речь) просто через
. Если
– матрица
в каком-либо базисе пространства
, то ортогональная группа может быть отождествлена с группой всех таких
-матриц
с коэффициентами в
, что
(
– транспонирование).
Описание алгебраического строения ортогональных групп составляет предмет классических исследований. Определитель любого элемента из
равен
или
. Элементы с определителем
называются вращениями; они образуют в ортогональной группе нормальный делитель
(или просто
) индекса
, называемый группой вращений. Элементы из
называются переворачиваниями. Всякое вращение (переворачивание) является произведением чётного (нечётного) числа отражений из
.
Пусть
– группа всех гомотетий
,
, пространства
. Тогда
– это центр
; он состоит из двух элементов:
и
. Если
нечётно, то
является прямым произведением своего центра и
. Центр
при
тривиален, если
нечётно, и совпадает с центром
, если
чётно. Если же
, то группа
коммутативна и изоморфна либо мультипликативной группе
поля
(в случае, когда индекс Витта
формы
равен
), либо группе элементов с нормой
в поле
, где
– дискриминант формы
(в случае, когда
). Коммутант группы
обозначается через
или просто
; он порождается квадратами элементов из
. При
коммутант группы
совпадает с
. Центр группы
имеет вид
.
Классическими группами, связанными с ортогональными группами, являются также канонические образы
и
в проективной группе; они обозначаются
и
(или просто
и
и изоморфны соответственно
и
.
Основные классические факты об алгебраической структуре ортогональной группы относятся к описанию последовательных факторов следующего ряда нормальных делителей в ортогональной группе

Группа
имеет порядок
. Всякий элемент в
имеет порядок
, ввиду чего строение этой группы полностью определяется кардинальным числом её элементов, которое может быть либо бесконечным, либо конечным вида
,
– целое. Описание остальных факторов существенно зависит от того, отличен ли от нуля индекс Витта
формы
.
Пусть сначала
. Тогда
при
. Этот изоморфизм определён спинорной нормой, которая задаёт эпиморфизм
на
с ядром
. Группа
нетривиальна (и состоит из преобразований
и
) тогда и только тогда, когда
чётно и
. Если
, то группа
проста. Случаи
рассматриваются отдельно. А именно,
изоморфна
(см. Специальная линейная группa) и также проста, если число элементов в
не равно
(группа
изоморфна проективной группе
). При
группа
изоморфна группе
и проста (в этом случае
), а при
группа
изоморфна
и не проста. В частном случае, когда
и
– форма сигнатуры
, группа
называется группой Лоренца.
В случае же, когда
(то есть
– анизотропная форма), многие из указанных результатов не верны. Например, если
, а
– положительно определённая форма, то
, хотя
состоит из двух элементов; при
,
, возможен случай, когда
, но
. Вообще при
структура ортогональных групп и связанных с ней групп существенно зависит от
. Например, если
, то
,
,
,
, проста (а
изоморфна прямому произведению
двух простых групп); если же
– поле
-адических чисел, то при
в
(и в
) существует бесконечный ряд нормальных делителей с абелевыми факторами. Наиболее изучены случаи локально компактного поля и поля алгебраических чисел. Если
– поле
-адических чисел, то случай
невозможен при
. Если же
– поле алгебраических чисел, то такого ограничения нет и один из основных результатов состоит в том, что
при
и
проста. В этом случае изучение ортогональных групп тесно связано с теорией эквивалентности квадратичных форм, которая основывается на рассмотрении форм, полученных из
при расширении
до локальных полей, определённых нормированиями
(принцип Хассе).
Если
– конечное поле
из
элементов, то ортогональная группа является конечной группой. Порядок
при нечётном
равен

a при
равен

где
при
и
в противном случае. Указанные формулы вместе с приведёнными общими фактами об ортогональной группе при
позволяют вычислить также и порядки
и
, так как
при
, а порядок
равен
. Группа
,
, является одной из классических простых конечных групп (см. также Группа Шевалле).
Один из основных результатов об автоморфизмах ортогональных групп состоит в следующем: если
, то всякий автоморфизм
группы
имеет вид
,
, где
– фиксированный гомоморфизм
в её центр, а
– фиксированное биективное полулинейное отображение
в себя, удовлетворяющее условию
для всех
, где
, а
– связанный c
автоморфизм
. Если
и
, то всякий автоморфизм
индуцирован автоморфизмом
(Дьедонне. 1974; Автоморфизмы классических групп. 1976[3]).
Так же, как и другие классические группы, ортогональная группа допускает (при некоторых предположениях) геометрическую характеризацию. А именно, пусть
– такая анизотропная формa, что
для любого
. В этом случае
пифагорово упорядочиваемое поле. При фиксированном упорядочении поля
-мерной цепью инцидентных полупространств в
называется любая последовательность
, построенная по линейно независимой системе векторов
, где
– множество всех линейных комбинаций вида
. Группа
обладает свойством свободной подвижности, то есть для любых двух
-мерных цепей полупространств существует единственное преобразование из
, переводящее первую цепь во вторую. Это свойство характеризует ортогональную группу: если
– любое упорядоченное тело и
– подгруппа в
, обладающая свойством свободной подвижности, то
является пифагоровым полем, а
, где
такая анизотропная симметрическая билинейная форма, что
для любого вектора
.
Пусть
– фиксированное алгебраическое замыкание поля
. Форма
естественно продолжается до невырожденной симметрической билинейной формы
на
, а ортогональная группа
является определённой над
линейной алгебраической группой с группой
-точек
. Определяемые таким образом (для разных
) линейные алгебраические группы изоморфны над
(но, вообще говоря, не над
); соответствующая линейная алгебраическая группа над
называется ортогональной алгебраической группой
. Её подгруппа
также является линейной алгебраической группой над
и называется собственно ортогональной, или специально ортогональной, алгебраической группой (обозначение:
); она является связной компонентой единицы группы
. Группа
– почти простая алгебраическая группа (то есть не содержащая ненульмерных алгебраических нормальных делителей) типа
при
,
, и типа
при
. Универсальной накрывающей группы
является спинорная группа.
Если
,
или
-адическое поле, то
естественно снабжается структурой вещественной, комплексной или
-адической аналитической группы. Группа Ли
определяется с точностью до изоморфизма сигнатурой формы
; если эта сигнатура имеет вид
, то
обозначается через
и называется псевдоортогональной группой. Её можно отождествить с группой Ли всех действительных
-матриц
, удовлетворяющих условию

(через
обозначена единичная
-матрица); алгебра Ли этой группы отождествляется с алгеброй Ли всех действительных
-матриц
, удовлетворяющих условию
. В частном случае
группа
обозначается через
и называется вещественной ортогональной группой; её алгебра Ли состоит из всех кососимметрических действительных
-матриц. Группа Ли
имеет четыре компоненты связности при
и две компоненты связности при
. Связной компонентой единицы является её коммутант, который при
совпадает с подгруппой
в
, состоящей из всех преобразований с определителем, равным
. Группа
компактна только при
. Инварианты
как топологические многообразия достаточно подробно изучены. Один из классических результатов в этом направлении – вычисление чисел Бетти многообразия
: его полином Пуанкаре имеет вид

при
и вид

при
. Фундаментальная группа многообразия
есть
. Вычисление высших гомотопических групп
имеет непосредственное отношение к классификации локально тривиальных главных
расслоений над сферами. Важную роль в топологической K-теории играет теорема периодичности, согласно которой при
имеют место изоморфизмы

если
;

если
, и

если
. Изучение топологии группы
по существу сводится к предыдущему случаю, так как связная компонента единицы группы
диффеоморфна произведению
на евклидово пространство.