Инвариа́нтное мно́жество фазового пространства $R$ динамической системы $f(p,t)$ – множество $M$, заполненное целыми траекториями, т. е. множество, удовлетворяющее условию$$f (M , t) = M ,\quad t \in \mathbb R ,$$где $f (M , t)$ – образ множества $M$ при преобразовании группы $f(p,t)$, соответствующем данному $t$.

Как множество метрического пространства $R$ инвариантное множество $M$ может иметь определённую топологическую структуру: быть, например, топологическим или гладким многообразием, поверхностью, замкнутой жордановой кривой, отдельной точкой. Об инвариантном множестве $M$ говорят тогда как об инвариантном многообразии, инвариантной поверхности, инвариантной кривой или инвариантной точке.

Инвариантную точку называют обычно точкой покоя динамической системы, поскольку для этой точки движение сводится к покою: $f(p,t) = p$ для всех значений $t$. Замкнутая инвариантная кривая, не содержащая точек покоя динамической системы, всегда образована траекторией периодического движения, т. е. движения, удовлетворяющего условию$$f (p , t + T) = f (p , t)$$для всех $t \in \mathbb R$ и некоторого $T > 0$, и называется в силу этого периодической траекторией. Примерами инвариантных многообразий могут служить сфера, тор, диск; инвариантных поверхностей – конус, лист Мёбиуса, сфера с ручками; инвариантных множеств – множество всех точек покоя, множества $\Omega _ {p}$ и $A _ {p}$ всех, соответственно, $\omega$- и $\alpha$-предельных точек движения $f(p,t)$, а также множество всех блуждающих $W$ или неблуждающих $R \setminus W$ точек.

Инвариантная точка динамической системы на плоскости$$\tag{1} \frac{dx}{dt} = f (x , y) ,\ \ \frac{dy}{dt} = g (x , y)$$по характеру поведения траекторий в её окрестности принадлежит к одному из $4$ типов: узел, фокус, седло, центр. Узел и фокус бывают асимптотически устойчивыми или неустойчивыми, седловина – неустойчива, центр – устойчив. Индекс Пуанкаре узла, центра и фокуса равен $+1$, седла $-1$.

В случае, когда матрица Якоби$$J (x , y) = \ \left (\begin{array}{cc} \frac{\partial f (x , y) }{\partial x } & \frac{\partial f (x , y) }{\partial y } \\ \frac{\partial g (x , y) }{\partial x } & \frac{\partial g (x , y) }{\partial y } \\ \end{array} \right)$$правой части системы $(1)$ в точке покоя $x = x _ {0}$ , $y = y _ {0}$ имеет собственные значения $\lambda _ {1}$, $\lambda _ {2}$ с ненулевой действительной частью, инвариантная точка является: узлом, если значения $\lambda _ {1}$, $\lambda _ {2}$ действительны и одного знака; седлом, если значения $\lambda _ {1}$, $\lambda _ {2}$ действительны и разных знаков; фокусом, если значения $\lambda _ {1}$, $\lambda _ {2}$ комплексно сопряжённые.

Во всех этих случаях тип особой точки системы $(1)$ такой же, как у линейной системы, получаемой из $(1)$ разложением её правой части в ряд Тейлора в точке $x = x _ {0}$, $y = y _ {0}$, т. е. как тип точки $x _ {1} = 0$, $y _ {1} = 0$ системы$$\tag{2} \frac{d x _ {1} }{dt} = a x _ {1} + b y _ {1} ,\ \ \frac{d y _ {1} }{dt} = c x _ {1} + d y _ {1} ,$$матрица $(_ {c} ^ {a} {} _ {d} ^ {b})$ которой равна $J (x _ {0} , y _ {0})$. Между траекториями системы $(1)$ в окрестности особой точки рассматриваемых типов и траекториями системы $(2)$ существует более глубокая, чем отмечено выше, связь. Именно, всякий раз, когда в окрестности инвариантной точки $x = x _ {0} = 0$, $y = y _ {0} = 0$ функции $f$ и $g$ голоморфны и матрица $J (x _ {0} , y _ {0})$ имеет ненулевые действительные части собственных значений, существует непрерывно дифференцируемая в некоторой окрестности $U$ точки $x=0$, $y = 0$ замена переменных$$\begin{array}{c} x _ {1} = x + F _ {1} (x , y) ,\ \quad y _ {1} = y + F _ {2} (x , y) ,\\ \\ F _ {i} (0 , 0) = \frac{\displaystyle\partial F _ {i} (0 , 0) }{\displaystyle\partial x } = \frac{\displaystyle\partial F _ {i} (0 , 0) }{\displaystyle\partial y } = 0 ,\quad i = 1 , 2 , \end{array}$$приводящая систему уравнений $(1)$ к системе $(2)$.

Если значения $\lambda _ {1}$, $\lambda _ {2}$ мнимые, то инвариантная точка $x_0$, $y_0$ может быть либо фокусом, либо центром. Вопрос выяснения типа особой точки в этом случае представляет собой отдельную и трудную проблему – проблему центра и фокуса – и требует для отличения центра от фокуса привлечения более тонких критериев. Аналогичные трудности возникают при определении типа особой точки и в случае, когда матрица $J(x_0, y_0)$ вырождена.