Минимальное множество топологической динамической системы

Минима́льное мно́жество топологи́ческой динами́ческой систе́мы ${\displaystyle \left\{S_{t}\right\}}$, такое непустое замкнутое инвариантное (т. е. целиком состоящее из траекторий) подмножество ${\displaystyle F}$ фазового пространства ${\displaystyle W}$ системы, которое не имеет собственных замкнутых инвариантных подмножеств. Последнее эквивалентно тому, что каждая из лежащих в ${\displaystyle F}$ траекторий всюду плотна в ${\displaystyle F}$. Понятие минимального множества ввёл Дж. Биркгоф (G. Birkhoff) применительно к случаю потока («время» ${\displaystyle t}$ пробегает действительные числа). Он доказал (Немыцкий. 2017^[1]), что если ${\displaystyle F}$ – компактное минимальное множество и ${\displaystyle w\in F}$, то для любой окрестности ${\displaystyle U}$ точки ${\displaystyle w}$ множество тех ${\displaystyle t}$, для которых ${\displaystyle S_{t}w\in U}$, относительно плотно (т. е. имеется такое ${\displaystyle l}$, что в каждом «отрезке времени» ${\displaystyle [s,s+l]}$ длины ${\displaystyle l}$ содержится хоть одно ${\displaystyle t}$ с ${\displaystyle S_{t}w\in U}$); верно и обратное, если ${\displaystyle W}$ – полное метрическое пространство и точка ${\displaystyle w}$ обладает указанным выше свойством, то замыкание траектории ${\displaystyle \left\{S_{t}w\right\}}$ – компактное минимальное множество [то же самое справедливо и для каскадов; о более общих группах преобразований см., например, (Gottschalk. 1955^[2]) или (Бронштейн. 1975^[3])]. Сформулированное свойство точки ${\displaystyle w}$ (и её траектории) Дж. Биркгоф назвал реккурентностью этой точки (и траектории), употребителен также предложенный У. Готшалком и Г. Хедлундом (Gottschalk. 1955) другой вариант терминологии, в котором это свойство называется почти-периодичностью точки ${\displaystyle w}$. Если ${\displaystyle F=W}$, то саму динамическую систему называют минимальной.

Если некоторая траектория имеет компактное замыкание, то в нём содержится некоторое минимальное множество ${\displaystyle F}$ (для полугрупп непрерывных преобразований ${\displaystyle \left\{S_{t}\right\}}$ с неотрицательными действительными или целыми ${\displaystyle t}$ справедлив аналог этого результата, причём на ${\displaystyle F}$ преобразования ${\displaystyle S_{t}}$ уже обратимы). Однако исследование предельного поведения траекторий динамической системы не сводится к изучению одних только минимальных множеств последней. Очень просто устроено минимальное множество гладкого потока класса ${\displaystyle C^{2}}$ на двумерной замкнутой поверхности – это либо точка, либо замкнутая траектория, либо вся поверхность, которая в этом случае является тором [теорема Шварца; см. (Хартман. 1970^[4])]. В общем случае строение минимального множества может быть весьма сложным [в связи с этим дополнительно к сказанному в (Немыцкий. 1949) (Gottschalk. 1955) (Бронштейн. 1975) надо указать, что минимальность динамической системы не накладывает никаких ограничений на её эргодические свойства по отношению к имеющимся у неё инвариантным мерам (Каток. 1975)]. Минимальное множество – основной объект изучения в топологической динамике.