Предельное множество траекторий динамической системы
Преде́льное мно́жество траекто́рий динамической системы , множество всех -предельных точек (-предельное множество) или множество всех -предельных точек (-предельное множество) этой траектории. Для траектории системы [или, иначе, ] -предельное множество (соответственно -предельное множество) – то же, что -предельное множество (соответственно -предельное множество) траектории динамической системы (системы с обращением времени). Поэтому свойства -предельного множества аналогичны свойствам -предельного множества.
Множество – замкнутое инвариантное множество. Если , то траектория называется уходящей в положительном направлении; если , то траектория называется уходящей в отрицательном направлении; если , то траектория называется уходящей. Если , то точка называется положительно устойчивой по Пуассону; если , то точка называется отрицательно устойчивой по Пуассону; если , то точка называется устойчивой по Пуассону. Если и , то точка называется положительно асимптотической; если и , то точка называется отрицательно асимптотической.
Если точка положительно устойчива по Лагранжу, то – непустое связное множество,
(где – расстояние от точки до множества ) и в найдётся рекуррентная точка (траектория). Если – неподвижная точка, то . Если – периодическая точка, то
где – период. Если точка положительно устойчива по Пуассону, но не неподвижная и не периодическая, а метрическое пространство, на котором задана рассматриваемая динамическая система, полно, то в всюду плотны точки, не принадлежащие траектории .
Если динамическая система задана на плоскости автономной системой дифференциальных уравнений
(гладким векторным полем ), точка положительно устойчива по Лагранжу, но не периодическая и не обращается в нуль на множестве (т. е. множество не содержит неподвижных точек), то – цикл, т. е. замкнутая кривая (траектория периодической точки), а траектория при спиралевидно наматывается на этот цикл. У динамических систем, заданных на , , или на некоторых двумерных поверхностях, например на торе, -предельные множества могут быть устроены иначе. Например, у иррациональной обмотки тора (система , , где – циклические координаты на торе , – иррациональное число) множество для всякой точки совпадает со всем тором.