Предельное множество траекторий динамической системы

Преде́льное мно́жество траекто́рий ${\displaystyle \left\{f^{t}x\right\}}$ динамической системы ${\displaystyle f^{t}}$, множество ${\displaystyle A_{x}}$ всех ${\displaystyle \alpha }$-предельных точек (${\displaystyle \alpha }$-предельное множество) или множество ${\displaystyle \Omega _{x}}$ всех ${\displaystyle \omega }$-предельных точек (${\displaystyle \omega }$-предельное множество) этой траектории. Для траектории ${\displaystyle \left\{f^{t}x\right\}}$ системы [или, иначе, ${\displaystyle f(t,x)}$] ${\displaystyle \alpha }$-предельное множество (соответственно ${\displaystyle \omega }$-предельное множество) – то же, что ${\displaystyle \omega }$-предельное множество (соответственно ${\displaystyle \alpha }$-предельное множество) траектории ${\displaystyle \left\{f^{-t}x\right\}}$ динамической системы ${\displaystyle f^{-t}}$ (системы с обращением времени). Поэтому свойства ${\displaystyle \alpha }$-предельного множества аналогичны свойствам ${\displaystyle \omega }$-предельного множества.

Множество ${\displaystyle \Omega _{x}}$ – замкнутое инвариантное множество. Если ${\displaystyle \Omega _{x}=\varnothing }$, то траектория ${\displaystyle \left\{f^{t}x\right\}}$ называется уходящей в положительном направлении; если ${\displaystyle A_{x}=\varnothing }$, то траектория ${\displaystyle \left\{f^{t}x\right\}}$ называется уходящей в отрицательном направлении; если ${\displaystyle \Omega _{x}=A_{x}=\varnothing }$, то траектория называется уходящей. Если ${\displaystyle x\in \Omega _{x}}$, то точка ${\displaystyle x}$ называется положительно устойчивой по Пуассону; если ${\displaystyle x\in A_{x}}$, то точка ${\displaystyle x}$ называется отрицательно устойчивой по Пуассону; если ${\displaystyle x\in \Omega _{x}\cap A_{x}}$, то точка ${\displaystyle x}$ называется устойчивой по Пуассону. Если ${\displaystyle x\notin \Omega _{x}}$ и ${\displaystyle \Omega _{x}\neq \varnothing }$, то точка ${\displaystyle x}$ называется положительно асимптотической; если ${\displaystyle x\notin A_{x}}$ и ${\displaystyle A_{x}\neq \varnothing }$, то точка ${\displaystyle x}$ называется отрицательно асимптотической.

Если точка ${\displaystyle x}$ положительно устойчива по Лагранжу, то ${\displaystyle \Omega _{x}}$ – непустое связное множество,

${\displaystyle \lim _{t->+\infty }d\left(f^{t}x,\Omega _{x}\right)=0}$

(где ${\displaystyle d(z,Y)}$ – расстояние от точки ${\displaystyle z}$ до множества ${\displaystyle Y}$) и в ${\displaystyle \Omega _{x}}$ найдётся рекуррентная точка (траектория). Если ${\displaystyle x}$ – неподвижная точка, то ${\displaystyle \Omega _{x}=\{x\}}$. Если ${\displaystyle x}$ – периодическая точка, то

${\displaystyle \Omega _{x}=\left\{f^{t}x\right\}_{t\in \mathbb {R} }=\left\{f^{t}x\right\}_{t\in [0,T)}}$,

где ${\displaystyle T}$ – период. Если точка ${\displaystyle x}$ положительно устойчива по Пуассону, но не неподвижная и не периодическая, а метрическое пространство, на котором задана рассматриваемая динамическая система, полно, то в ${\displaystyle \Omega _{x}}$ всюду плотны точки, не принадлежащие траектории ${\displaystyle \left\{f^{t}x\right\}}$.

Если динамическая система задана на плоскости автономной системой дифференциальных уравнений

${\displaystyle {\dot {x}}=f(x),\quad x\in \mathbb {R} ^{2},\quad f\in C^{1}}$

(гладким векторным полем ${\displaystyle f(x)}$), точка ${\displaystyle x}$ положительно устойчива по Лагранжу, но не периодическая и ${\displaystyle f(x)}$ не обращается в нуль на множестве ${\displaystyle \Omega _{x}}$ (т. е. множество ${\displaystyle \Omega _{x}}$ не содержит неподвижных точек), то ${\displaystyle \Omega _{x}}$ – цикл, т. е. замкнутая кривая (траектория периодической точки), а траектория ${\displaystyle \left\{f^{t}x\right\}}$ при ${\displaystyle {\ce {t->+\infty }}}$ спиралевидно наматывается на этот цикл. У динамических систем, заданных на ${\displaystyle \mathbb {R} ^{n}}$, ${\displaystyle n>2}$, или на некоторых двумерных поверхностях, например на торе, ${\displaystyle \omega }$-предельные множества могут быть устроены иначе. Например, у иррациональной обмотки тора (система ${\displaystyle {\dot {\varphi }}=1}$, ${\displaystyle {\dot {\psi }}=\mu }$, где ${\displaystyle (\varphi ,\psi )({\bmod {\,}}1)}$ – циклические координаты на торе ${\displaystyle T^{2}}$, ${\displaystyle \mu }$ – иррациональное число) множество ${\displaystyle \Omega _{x}}$ для всякой точки ${\displaystyle x=(\varphi ,\psi )}$ совпадает со всем тором.