Представление топологической группы
Представле́ние топологи́ческой гру́ппы, непрерывное отображение группы в топологическую группу гомеоморфизмов некоторого топологического пространства. Чаще всего под представлением топологической группы понимается линейное представление, более того – такое линейное представление топологической группы в топологическом векторном пространстве , что вектор-функция , , определяет при любом непрерывное отображение группы в пространство . В частности, всякое непрерывное представление группы является представлением топологической группы .
Теория представлений топологических групп тесно связана с теорией представлений различных топологических групповых алгебр. Среди них важнейшей является банахова симметричная алгебра мер группы (алгебра всех регулярных борелевских мер на с конечной полной вариацией, в которой умножение определяется как свёртка). Часто используется также топологическая алгебра всех регулярных борелевских мер на с конечной полной вариацией и с компактным носителем. Умножение в определяется как свёртка, а инволюция , , определяется формулой
Топология алгебры согласуется с двойственностью между этой алгеброй и алгеброй (всех непрерывных функций на ), рассматриваемой в компактно открытой топологии. Важную роль играют также различные подалгебры алгебр и . В частности, если – квазиполное бочечное или полное локально выпуклое пространство, а – непрерывное представление топологической группы в , то формула
определяет слабо непрерывный линейный оператор в и соответствие есть представление алгебры в пространстве , однозначно определяющее представление топологической группы. При этом представление топологической группы – (топологически) неприводимое представление, операторно неприводимое представление, вполне неприводимое представление, эквивалентно другому представлению топологической группы (и т. д.) тогда и только тогда, когда соответствующее представление алгебры обладает соответствующим свойством.
Пусть есть представление топологической группы в локально выпуклом пространстве ; пусть – сопряжённое к пространство. Функции на вида , , называются матричными элементами представления . Если – гильбертово пространство и , , то функции вида , , называются сферическими функциями, связанными с представлением .
Пусть суть локально выпуклые пространства в двойственности, есть представление топологической группы в локально выпуклом пространстве . Формула определяет представление топологической группы в , называемое сопряжённым, или контрградиентным, к . Пусть суть представления топологической группы в топологических векторных пространствах соответственно, – прямая сумма и , , – непрерывный линейный оператор в , определённый формулой
Отображение есть представление топологической группы в топологическом векторном пространстве , называемом прямой суммой представлений топологической группы и . В некоторых случаях (в частности, для унитарных представлений) могут быть определены тензорное произведение представлений топологической группы и прямая сумма бесконечного семейства представлений топологической группы. С помощью ограничения или расширения поля скаляров вводятся операции овеществления и комплексификации для представления топологической группы.
Представление топологической группы называется вполне приводимым, если любое замкнутое инвариантное подпространство имеет дополнительное замкнутое инвариантное подпространство. Представление топологической группы в топологическом векторном пространстве называется разложимым, если существуют такие замкнутые инвариантные подпространства в , что эквивалентно прямой сумме подпредставлений представления , отвечающих подпространствам соответственно; в противном случае называется неразложимым. Неразложимое приводимое представление определяется не только подпредставлением и факторпредставлением, соответствующими данному инвариантному подпространству, но и некоторым классом одномерных когомологий группы с коэффициентами в -модуле ограниченных линейных операторов из пространства факторпредставления в пространство представления.
Важнейшими общими задачами теории представлений топологических групп являются описание всех неразложимых представлений данной топологической группы и изучение возможности описания (разложения) произвольных представлений топологической группы с помощью неразложимых. В общем случае обе задачи далеки (1983) от полного решения, но полученные в этих направлениях результаты делают теорию представлений топологических групп основой абстрактного гармонического анализа, обобщающего теорию рядов и интегралов Фурье, спектральную теорию унитарных операторов, теорию жордановых нормальных форм и систем обыкновенных дифференциальных уравнений с постоянными коэффициентами, а также основой некоторых разделов эргодической теории, квантовой механики, статистической физики и теории поля.
Наиболее важным разделом общей теории представлений топологических групп является теория унитарных представлений, имеющих многочисленные приложения и обладающих рядом свойств, упрощающих их изучение. В частности, ортогональное дополнение к инвариантному подпространству унитарного представления инвариантно, поэтому всякое унитарное представление топологической группы вполне приводимо; для унитарных представлений условия полной неприводимости, (топологической) неприводимости и операторной неприводимости равносильны (но, вообще говоря, слабее условия алгебраической неприводимости).
Другой класс представлений топологических групп, имеющий многочисленные приложения, образуют конечномерные представления. Изучение представлений этого класса во многом облегчается относительным упрощением аналитической сложности задачи по сравнению с общим случаем; в частности, неприводимое конечномерное представление топологической группы вполне неприводимо. Однако теория конечномерных представлений топологической группы построена (1983) достаточно полно лишь для некоторых классов топологических групп (в частности, для полупростых групп Ли и для групп и ). Для несколько более широкого класса групп, содержащего класс групп Ли, существует полное описание неприводимых конечномерных представлений топологической группы.
Теория представлений топологических групп более разработана для локально компактных групп. Важнейшим свойством класса локально компактных групп является его совпадение с классом полных топологических групп, на которых существует ненулевая правоинвариантная регулярная борелевская мера (см. статью Мера Хаара). Этот факт позволяет включить в число групповых алгебр локально компактной группы банахову симметричную алгебру (относительно свёртки), которая играет решающую роль в теории ограниченных (т. е. имеющих ограниченный образ) представлений топологической группы в банаховых пространствах. Формула
устанавливает взаимно однозначное соответствие между ограниченными представлениями локально компактной группы и (непрерывными) представлениями алгебры , обладающими тем свойством, что плотно в пространстве представлений ; при этом унитарные представления топологической группы соответствуют симметричным представлениям алгебры . Другое свойство локально компактных групп состоит в том, что их представления в бочечных локально выпуклых пространствах суть непрерывные представления.
Наиболее развитая часть теории представлений топологической группы – теория унитарных представлений локально компактных групп. В связи с существованием меры Хаара на локально компактных группах оказывается возможным изучение регулярного представления группы в пространстве , приводящее, в частности, к аналогу формулы Планшереля для таких групп, а также к выделению основной, дополнительной и дискретной серий унитарных представлений топологической группы рассматриваемого класса (см. статью Дискретная серия представлений). Важнейшими общими задачами теории унитарных представлений топологической группы являются задачи построения неприводимых представлений и факторпредставлений, разложения представлений в прямой интеграл, изучения дуальных объектов и связанные с ними вопросы теории сферических функций, теории характеров и гармонического анализа, в том числе – изучения различных групповых алгебр.
Исключительно богатым приложениями подклассом класса локально компактных групп является класс групп Ли. Теория бесконечномерных представлений групп Ли, включающая теорию представлений классических групп, является одним из наиболее быстро развивающихся разделов общей теории представлений топологической группы. Мощным методом изучения представлений топологической группы Ли является метод орбит.
Другой важный подкласс класса локально компактных групп образуют компактные группы. Представления компактных групп – один из наиболее завершённых разделов общей теории представлений топологических групп, являющийся инструментом изучения представлений топологических групп, содержащих компактные подгруппы. Актуальным разделом теории представлений компактных групп является группа задач, связанных с вопросами разложения ограничения на подгруппу и тензорного произведения конкретных представлений компактных групп Ли. Разделом теории представлений компактных групп, имеющим многочисленные приложения в алгебре и анализе, является теория представлений конечных групп.
Не только упомянутая выше задача изучения неразложимых представлений топологических групп, но и более простая задача описания зацеплений вполне неприводимых представлений, связанная с соответствующей теорией когомологий, решена лишь для некоторых групп, несмотря на её важность в построении гармонического анализа на группах. Действительно, в терминах неразложимых представлений топологических групп (а именно, входящих в аналитическое продолжение соответствующей основной серии) для некоторых групп Ли (соответственно групп Шевалле) получен аналог теоремы Пэли – Винера, дающий описание образа групповой алгебры финитных бесконечно дифференцируемых (соответственно финитных локально постоянных) функций на группе при преобразовании Фурье (т. е. при отображении , , сопоставляющем функции на группе операторнозначную функцию на множестве представителей пространства классов эквивалентности представлений этой группы). Менее общая задача описания всех вполне неприводимых представлений данной группы решена лишь для локально компактных групп, факторгруппа которых по центру компактна (вполне неприводимые представления таких групп конечномерны, и набора этих представлений достаточно для получения аналога теоремы Пэли – Винера) и для некоторых линейных групп Ли (в том числе для комплексных полупростых). Как в теории унитарных, так и в теории неунитарных представлений топологических групп накоплен богатый фактический материал, относящийся к конкретным представлениям конкретных групп и к приложениям этих результатов к отдельным задачам гармонического анализа на таких группах.
Ряд вопросов теории представлений топологических групп связан с изучением представлений топологических групп в пространствах с индефинитной метрикой. Для некоторых полупростых групп Ли получено полное описание вполне неприводимых представлений в таких пространствах (к их числу относятся, в частности, неприводимые конечномерные представления таких групп) и найдено разложение тензорных произведений некоторых неприводимых представлений этого типа на неприводимые унитарные представления. Теория операторно неприводимых представлений полупростых групп Ли в пространствах с индефинитной метрикой и определение структуры их инвариантных подпространств тесно связаны с аналитическим продолжением основной серии представлений этих групп.
Успехи теории представлений топологических групп связаны с развитием теории проективных представлений, с распространением ряда методов теории представлений групп Ли (в частности, метода орбит) на локально компактные группы общего вида, а также с развитием теории представлений топологических групп, не являющихся локально компактными (групп гладких функций на многообразии со значениями в группе Ли, групп диффеоморфизмов гладких многообразий, бесконечномерных аналогов классических групп и некоторых других). Изучение представлений таких групп оказалось связанным с теорией вероятностей (в частности, теорией марковских процессов) и задачами статистической физики. С другой стороны, установлены глубокие связи теории представлений групп матриц 2-го порядка над локально компактными полями (и некоторых связанных с ними групп) с задачами теории чисел.