Минимальное множество топологической динамической системы
Минима́льное мно́жество топологи́ческой динами́ческой систе́мы , такое непустое замкнутое инвариантное (т. е. целиком состоящее из траекторий) подмножество фазового пространства системы, которое не имеет собственных замкнутых инвариантных подмножеств. Последнее эквивалентно тому, что каждая из лежащих в траекторий всюду плотна в . Понятие минимального множества ввёл Дж. Биркгоф (G. Birkhoff) применительно к случаю потока («время» пробегает действительные числа). Он доказал (Немыцкий. 2017), что если – компактное минимальное множество и , то для любой окрестности точки множество тех , для которых , относительно плотно (т. е. имеется такое , что в каждом «отрезке времени» длины содержится хоть одно с ); верно и обратное, если – полное метрическое пространство и точка обладает указанным выше свойством, то замыкание траектории – компактное минимальное множество [то же самое справедливо и для каскадов; о более общих группах преобразований см., например, (Gottschalk. 1955) или (Бронштейн. 1975)]. Сформулированное свойство точки (и её траектории) Дж. Биркгоф назвал реккурентностью этой точки (и траектории), употребителен также предложенный У. Готшалком и Г. Хедлундом (Gottschalk. 1955) другой вариант терминологии, в котором это свойство называется почти-периодичностью точки . Если , то саму динамическую систему называют минимальной.
Если некоторая траектория имеет компактное замыкание, то в нём содержится некоторое минимальное множество (для полугрупп непрерывных преобразований с неотрицательными действительными или целыми справедлив аналог этого результата, причём на преобразования уже обратимы). Однако исследование предельного поведения траекторий динамической системы не сводится к изучению одних только минимальных множеств последней. Очень просто устроено минимальное множество гладкого потока класса на двумерной замкнутой поверхности – это либо точка, либо замкнутая траектория, либо вся поверхность, которая в этом случае является тором [теорема Шварца; см. (Хартман. 1970)]. В общем случае строение минимального множества может быть весьма сложным [в связи с этим дополнительно к сказанному в (Немыцкий. 1949) (Gottschalk. 1955) (Бронштейн. 1975) надо указать, что минимальность динамической системы не накладывает никаких ограничений на её эргодические свойства по отношению к имеющимся у неё инвариантным мерам (Каток. 1975)]. Минимальное множество – основной объект изучения в топологической динамике.