Динами́ческая систе́ма, в первоначальном значении термина – механическая система с конечным числом степеней свободы. Состояние такой системы обычно характеризуется её расположением (конфигурацией) и скоростью изменения последнего, а закон движения указывает, с какой скоростью изменяется состояние системы.

В простейших случаях состояние можно охарактеризовать посредством величин $w_1, \ldots, w_m$, которые могут принимать произвольные (действительные) значения, причём двум различным наборам величин $w_1, \ldots, w_m$ и $w_1^{\prime}, \ldots, w_m^{\prime}$ отвечают различные состояния, и обратно, а близость всех $w^{\prime}_i$ к $w_i$ означает близость соответствующих состояний системы. Закон движения тогда записывается в виде автономной системы обыкновенных дифференциальных уравнений:

$$\tag{1} \dot{w}_i=f_i\left(w_1, \ldots, w_m\right), \quad i=1, \ldots, m.$$Рассматривая значения $w_1, \ldots, w_m$ как координаты точки $w$ в $m$-мерном пространстве, можно геометрически представить соответствующее состояние динамической системы посредством этой точки $w$. Последнюю называют фазовой (иногда также изображающей, или представляющей) точкой, a пространство – фазовым пространством системы. (Прилагательное «фазовый» связано с тем, что в прошлом состояния системы нередко называли её фазами.) Изменение состояния со временем изображается как движение фазовой точки по некоторой линии (т. н. фазовой траектории; часто, впрочем, её называют просто траекторией) в фазовом пространстве. В последнем определено векторное поле, сопоставляющее каждой точке $w$ выходящий из неё вектор $f(w)$ с компонентами

$$\tag{2} (f_1(w_1, \ldots, w_m), \ldots, f_m(w_1, \ldots, w_m)).$$Дифференциальные уравнения $(1)$, которые с помощью введённых обозначений можно сокращённо записать в виде

$$\tag{3} \dot{w}=f(w),$$означают, что в каждый момент времени векторная скорость движения фазовой точки (или, как часто говорят, вектор фазовой скорости; не путать с употреблением того же термина в оптике и вообще при рассмотрении различных волновых процессов) равна вектору $f(w)$, исходящему из той точки $w$ фазового пространства, где в данный момент находится движущаяся фазовая точка. В этом состоит т. н. кинематическая интерпретация системы дифференциальных уравнений $(1)$.

Например, состояние частицы без внутренних степеней свободы (как говорят в механике, материальной точки), движущейся в потенциальном поле с потенциалом $U\left(x_1, x_2, x_3\right)$, характеризуется её положением $x=\left(x_1, x_2, x_3\right)$ и скоростью $x$; вместо последней можно использовать импульс $p=m \dot{x}$, где $m$ – масса частицы. Закон движения можно записать в виде

$$\tag{4} \dot{x}=\frac{1}{m} p, \quad \dot{p}=-\operatorname{grad} U(x).$$Формулы $(4)$ представляют собой сокращённую запись системы шести обыкновенных дифференциальных уравнений $1$-го порядка. Фазовым пространством здесь служит $6$-мерное евклидово пространство, $6$ компонент вектора фазовой скорости суть компоненты обычной скорости и силы, а проекция фазовой траектории на пространство $x_i$ (параллельно пространству импульсов) есть траектория частицы в обычном смысле слова.

В ряде случаев оказывается, что невозможно установить такое соответствие между всеми состояниями динамической системы и точками евклидова пространства, которое обладало бы желаемыми свойствами, однако такое соответствие можно установить локально, т. е. для состояний, которые достаточно близки друг к другу. Сохраняя термин «фазовое пространство» для совокупности всех состояний динамической системы, можно сказать, что в общем случае фазовое пространство является не евклидовым пространством, а некоторым дифференцируемым многообразием $W^m$. Локально, т. е. в любой карте (локальной системе координат) многообразия $W^m$, движение динамической системы описывается системой дифференциальных уравнений вида $(1)$. Глобальное же (т. е. пригодное для всех состояний динамической системы) и инвариантное (т. е. не зависящее от выбора карты) описание движения даётся уравнением $(3)$, в котором $f$ является заданным на $W^m$ векторным полем, сопоставляющим каждой точке $w$ вектор $f(w)$, лежащий в касательном пространстве к многообразию в этой точке; уравнение $(3)$ означает, что в процессе движения фазовая точка, совпадающая в данный момент времени с точкой $w \in W^m$, имеет в этот момент скорость $f(w)$. В локальных координатах вектор $f(w)$ представляется посредством своих компонент $(2)$, и $(3)$ сводится к $(1)$.

Даже во многих случаях, когда фазовое пространство является евклидовым, часть движений рассматриваемой динамической системы может описываться посредством векторного поля на некотором инвариантном многообразии $W$, т. е. подмногообразии фазового пространства, обладающем тем свойством, что траектория, проходящая через какую-нибудь точку $w \in W$, целиком лежит в $W$. Так, уже в предыдущем примере, если ограничиться движениями с определённым значением энергии $E$, нужно рассматривать систему $(4)$ не во всём $6$-мерном евклидовом пространстве переменных $(x, p)$, а на его $5$-мерном подмногообразии, выделяемом уравнением

$$\frac{p^2}{2 m}+U(x)=E,$$где $p^2=p_1^2+p_2^2+p_3^2$. Инвариантность этого многообразия отражает тот факт, что при движении частицы в потенциальном поле её энергия сохраняется, т. е. $p^2 / 2 m+U(x)$ является первым интегралом системы $(4)$ (т. н. интеграл энергии). Много аналогичных примеров связано с циклическими координатами.

Примером динамической системы с неевклидовым фазовым пространством является твёрдое тело с неподвижной точкой $O$. Если ввести две ортогональные системы координат с началом в $O$ – одну неподвижную, а другую жёстко связанную с телом, то очевидно, что положение твёрдого тела будет характеризоваться расположением второй системы координат относительно первой, т. е. ортогональной матрицей $3$-го порядка с определителем $1$ (или каким-нибудь эквивалентным способом, см. в статьях Эйлеровы углы, Параметры Кэли – Клейна). Поэтому совокупность всевозможных положений данной механической системы (или, как говорят, её конфигурационное пространствo) есть специальная ортогональная группа $3$-го порядка $SO$ $(3)$. Фазовым же пространством $W^6$ является касательное расслоение группы $SO$ $(3)$, ибо скорость изменения положения характеризуется касательным вектором к $SO$ $(3)$. В качестве локальных координат в $SO$ $(3)$ (выбор таковых автоматически определяет и некоторые локальные координаты в $W^6$) обычно принимаются углы Эйлера, тогда уравнения движения записываются как уравнения Эйлера (движения твёрдого тела).

Изложенная выше кинематическая интерпретация автономной системы обыкновенных дифференциальных уравнений $(1)$ [или картина движения фазовых точек в фазовом многообразии согласно уравнению $(3)$] никак не связана с тем, описывают ли эти уравнения какую-либо механическую систему. Поэтому термин «динамическая система» стал применяться в более широком смысле, означая произвольную физическую (скажем, радиотехническую) систему, описываемую дифференциальными уравнениями вида $(1)$ или $(3)$, а затем – и просто систему дифференциальных уравнений такого вида, безотносительно к её происхождению. Среди всех динамических систем в этом расширенном смысле слова динамические системы механики выделяются некоторыми специфическими свойствами; большинство из них относится к специальному классу гамильтоновых систем. (Однако в механике рассматриваются и системы, не входящие в этот класс, – таково, например, большинство неголономных систем. В то же время гамильтоновы системы встречаются и в ряде вопросов физики.)

В этом смысле понятие динамической системы эквивалентно понятию автономной системы дифференциальных уравнений вида $(1)$ или $(3)$. Однако практически о динамической системе говорят тогда, когда речь идёт о качественной картине поведения всех траекторий во всём фазовом пространстве (глобальная теория) или по крайней мере в некоторой его части (локальная теория); в теории динамической системы особенно большое внимание уделяется поведению фазовых траекторий при неограниченном возрастании времени. Из отдельных же траекторий в теории динамической системы интересуются обычно теми, свойства которых могут в значительной степени влиять на качественную картину, хотя бы локальную. Сюда относятся положения равновесия (или особые точки), периодические траектории (см. также Предельный цикл), сепаратрисы.

Для системы двух уравнений вида $(1)$ $(m=2)$ кинематическая интерпретация даёт весьма наглядный и эффективный способ исследования, поскольку векторное поле $f(w)$ и фазовые траектории могут быть практически изображены на фазовой плоскости. Уже в случае трёх уравнений $(m=3)$ пришлось бы производить соответствующие построения в $3$-мерном пространстве, что довольно затруднительно, а при $m>3$ подобные практические возможности вообще отпадают. Поэтому при $m \geqslant 3$ (а в ряде случаев и при $m=2$) роль кинематической интерпретации состоит в использовании при исследовании дифференциальных уравнений геометрических понятий, методов и языка, в той или иной степени обобщающих привычные из повседневной жизни геометрические представления.

Уже сравнительно слабые предположения о векторном поле $f(w)$ (например, его дифференцируемость) гарантируют то, что для каждой точки $w_0 \in W^m$ существует ровно одно решение $w(t)$ уравнения $(3)$, имеющее $w_0$ своим начальным значением: $w(0)=w_0$. Физически это соответствует тому, что при заданном законе движения $(3)$ состояние системы в любой момент времени полностью определяется её начальным состоянием. Вообще говоря, это решение может быть определено не для всех $t$, а лишь на некотором отрезке времени. В глобальной теории динамической системы делается дополнительное предположение, что при любом начальном значении соответствующее решение определено при всех $t$, тогда как в локальных вопросах обычно нецелесообразно делать какие-либо предположения о дальнейшем поведении тех траекторий, которые покидают рассматриваемую область фазового пространствa.

При выполнении указанного предположения, если каждому $w_0 \in W^m$ сопоставить то состояние, куда перейдёт за время $t$ фазовая точка, движущаяся согласно $(3)$ и вышедшая при $t=0$ из $w_0$, то получится некоторое отображение $S_t$ фазового пространства $W^m$ в себя:

$$S_t w_0=w(t),$$где $w(t)$ – решение $(3)$ и $w(0)=w_0$. Отображения $S_t$ образуют непрерывную однопараметрическую группу диффеоморфизмов фазового многообразия $W^m$ [групповое свойство $S_t S_s=S_{t+s}$ является следствием автономности системы $(3)$]. В порядке иллюстрации в литературе нередко проводят аналогию с известным из повседневной жизни и ранее всего изученным в науке примером, где возникает подобное семейство преобразований пространства, – стационарным течением жидкости или газа: за время $t$ частица жидкости перетекает из точки $w_0$ в $S_t w_0$. (Впрочем, эта аналогия довольно поверхностна, ибо воображаемая «фазовая жидкость», «текущая» в фазовом пространстве, отличается от реальных сплошных сред отсутствием взаимодействия между соседними частицами.) В связи с этим в качестве синонима термина «динамическая система» употребляется термин «поток».

В физической литературе принято говорить об ансамбле динамических систем. Это означает, что каждому из возможных состояний данной физической системы (т. е. каждой точке фазового пространства) мысленно сопоставляется некоторая физическая система, описываемая уравнением $(3)$ и находящаяся в этом состоянии; полученную совокупность однотипных систем (никак не взаимодействующих друг с другом), различающихся только состояниями, которыми они обладают в данный момент, и называют «ансамблем». На этом языке преобразованиям $S_t$ фазового пространства соответствует эволюция «ансамбля», заключающаяся в изменении состояния входящих в него систем.

При разработке глобальных аспектов теории динамической системы понятие динамической системы подверглось дальнейшему обобщению. В наиболее широком смысле под динамической системой понимают произвольное действие группы (или даже полугруппы) $G$ на некотором множестве $W$, именуемом фазовым пространством. Это значит, что для любого $g \in G$ определено отображение $S_g: W \rightarrow W$, причём $S_{g_1} S_{g_2}=S_{g_1 g_2}$, и если $e$ – единица $G$, то $S_e$ – тождественное преобразование [т. е. $S_e(w)=w$ для всех $w$]. Совокупность точек $S_g\left(w_0\right)$, где $w_0$ фиксировано, а $g$ пробегает $G$, называется траекторией (или орбитой), проходящей через точку $w_0$, или, короче, траекторией этой точки. Группа $G$ обычно считается топологической группой, фазовое пространство – топологическим пространством, или пространством с мерой, а отображение

$$\tag{5} G \times W \longrightarrow W, \quad(g, w) \longrightarrow S_g(w)$$предполагается, соответственно, непрерывным или измеримым, причём в последнем случае обычно предполагается, что отображения $S_g$ сохраняют меру (т. е. прообраз измеримого подмножества фазового пространства измерим и имеет ту же меру). Соответствующие направления в теории динамической системы называются топологической динамикой (Gottschalk. 1955; Сибирский. 1970) и эргодической теорией (Халмош. 1959; Аrnоld. 1967; Cинай. 1996). Если $G$ – группа Ли, $W$ – гладкое многообразие, а отображение $(5)$ гладкое, то говорят о гладкой динамической системе.

Впрочем, во всех трёх направлениях основными являются случаи, когда $G$ – либо группа $\mathbb{R}$ действительных чисел, и тогда динамическая система называется потоком (хотя иногда этот термин употребляют как синоним термина «динамическая система» в наиболее общем его значении), либо $G$ – группа $\mathbb{Z}$ целых чисел (вариант: аддитивная полугруппа неотрицательных целых чисел), и тогда для таких динамических систем был предложен термин «каскад» (говорят также о динамической системе с дискретным временем, но этот термин может означать также и только то, что в $G$ берётся дискретная топология). Гладкий поток, для которого отображение $(5)$ – класса $C^2$, определяется гладким векторным полем

$$f(w)=\left.\frac{d}{d t} S_t(w)\right|_{t=0}$$– при изменении $t$ точка $w=S_t\left(w_0\right)$ движется согласно $(3)$. В случае каскада отображения $S_n$ получаются итерированием преобразования $S_1$ и обратного к нему (вариант: итерированием одного только отображения $S_1$); для гладкого каскада все $S_h$ суть диффеоморфизмы (вариант: непрерывно дифференцируемые отображения).

Среди названных трёх направлений в теории динамической системы топологическая динамика имеет ярко выраженный теоретико-множественный характер, а её роль вначале была как бы вспомогательной. Дело в том, что обсуждение ряда понятий (неблуждающая точка, предельное множество траекторий, минимальное множество, почти периодичность, дистальность, устойчивость по Лагранжу, устойчивость по Пуассону и др.) и связей между ними, важных для трактовки более конкретных объектов – гладких динамических систем, – целесообразно провести в более абстрактной обстановке, отвлекаясь от задания динамической системы при помощи диффеоморфизма или уравнения $(3)$. Это и делается в топологической динамике. Позднее она получила значительное развитие, главным образом, в направлении изучения некоторых минимальных множеств и их расширений (см. Бронштейн. 1975; Veech. 1977; а также Дистальная динамическая система).

Зарождение эргодической теории связано с классической (доквантовой) статистической физикой. При обосновании последней возник вопрос, можно ли, не решая гамильтонову систему дифференциальных уравнений, которая описывает движение частиц, образующих рассматриваемое макроскопическое тело, и даже не зная начальные значения для её решения (что означало бы задание мгновенных положений и скоростей всех этих частиц), указать свойства статистического характера, проявляющиеся в поведении при $t \rightarrow \infty$ всех или почти всех её фазовых траекторий. Например, существует ли при почти всех $w$ предел переменного среднего

$$\tag{6} \lim _{T \rightarrow \infty} \frac{1}{T} \int_0^T g\left(S_t w\right)\,d t,$$где $g(w)$ есть функция, заданная на фазовом пространстве, и зависит ли этот предел от $w$? Приведённое выше определение динамической системы, принятое в эргодической теории, является результатом абстрагирования от конкретного происхождения систем статистической физики, в частности от их гамильтоновой структуры; от последней удерживается лишь одно из её следствий – сохранение меры при преобразованиях $S_t$. В данном случае такое абстрагирование служит не только для логического анализа понятий, но и приводит к значительному увеличению общности теории, позволяя включить в неё разнообразный материал, связанный с теорией вероятностей, функциональным анализом, теорией чисел, топологической алгеброй. Наличие связей с рядом разделов математики делает содержание эргодической теории достаточно богатым, чтобы обеспечить её успешное развитие в качестве самостоятельной научной дисциплины. Наряду с изучением статистики решений при $t \rightarrow \infty$, включающим как доказательство существования предела $(6)$ при почти всех $w$ и вывод условий, необходимых при его независимости от $w$, так и ряд других свойств (например, перемешивание), большую роль в эргодической теории играет проблема изоморфизма динамической системы, исследование которой привело к построению ряда инвариантов динамической системы и выделению некоторых классов динамической системы с интересными свойствами.

Теория гладких динамических систем (Аrnоld. 1967; Смейл. 1970; Нитецки. 1975) в значительной степени сливается с качественной теорией дифференциальных уравнений, в особенности когда речь идёт о конкретно заданной системе $(1)$ или когда (независимо от способа задания изучаемой динамической системы) существенно используются соображения, относящиеся к выписанным в более или менее явном виде дифференциальным уравнениям. Гладкие динамические системы исследуются и локально, и глобально. К числу локальных свойств относятся: исследование положений равновесия и других упомянутых выше специальных типов траекторий для потоков и их аналогов для каскадов, квазипериодических движений и инвариантных многообразий для тех и других, а также и некоторых классов инвариантных множеств. Исследование этих объектов включает в себя их обнаружение и локализацию, а также изучение в их окрестности поведения других траекторий динамической системы. При исследовании неподвижных точек каскадов, положений равновесия и периодических решений потоков применяются как аналитические, так и топологические методы (Коддингтон. 1958; Лефшец. 1961; Хартман. 1970); для других объектов – только аналитические. Многие из этих методов связаны со следующей постановкой вопроса (или в равной степени применимы при ней): что происходит с потоком или каскадом, имеющим определённые свойства (локальные или глобальные) при малом изменении определяющего его векторного поля или диффеоморфизма? К такому подходу примыкают также и некоторые из результатов и понятий глобальной теории, в особенности связанные со стремлением выделить такие свойства или классы динамической системы, которые были бы в некотором смысле «типичными» (см. в статье Грубая система). Другие результаты глобального характера относятся к определённым классам динамической системы, зачастую возникшим из смежных дисциплин.

В специальном случае потоков на двумерных поверхностях можно получить более или менее удовлетворительную информацию о могущих здесь представиться различных вариантах поведения фазовых траекторий; это особенно относится к системам $(1)$ с $m=2$ (два уравнения) (теория Пуанкаре – Бендиксона, см. Немыцкий. 1949; Коддингтон. 1958; Лефшец. 1961; Хартман. 1970) и потокам без неподвижных точек на торе (см. Коддингтон. 1958, Хартман. 1970, Нитецки. 1975). Однако при этом остаётся открытым вопрос, как именно ведут себя траектории той или иной конкретной системы. Большое число работ посвящено исследованию последнего вопроса для различных классов уравнений. Особое положение потоков на двумерных поверхностях связано с тем, что в этом случае траектория локально разбивает фазовое пространство. Поэтому естественное многомерное обобщение соответствующей теории относится не к динамической системе, а к слоениям коразмерности $1$.