Ме́тод вне́шних форм Карта́на, дифференциально-алгебраический метод исследования систем дифференциальных уравнений и многообразий с различными структурами. Алгебраическую основу метода составляет алгебра Грассмана. Пусть $V$ есть $2^n$-мерное векторное пространство над произвольным полем $K$ с базисными векторами $e^0, e^i, e^{ij}, e^{ijk},\dots, e^{1 2\dots n}$, $i<j<k$. Кроме векторов базиса для произвольного натурального числа $q$, определяются векторы $e^{i_1 i_2 \dots i_q}$, $i_1, i_2,\dots, i_q = 1,2,\dots, n$, по следующему закону: если среди натуральных чисел $i_1,i_2,\dots,i_q$ есть хотя бы одна пара одинаковых, то $e^{i_1\dots i_q}=0$; если все числа $i_1,\dots,i_q$ попарно различны и числа $j_1<j_2<\dots<j_q$ являются перестановкой чисел $i_1,i_2,\dots,i_q$, то $e^{i_1\dots i_q}=e^{j_1\dots j_q}$, когда подстановка $(i_k)+(j)_k$ – чётная, и $e^{i_1\dots i_q}=-e^{j_1\dots j_q}$, когда эта подстановка нечётная. В векторном пространстве $V$ вводится внешнее умножение: $e^{i_1 i_2 \dots i_p}\wedge e^{k_1 k_2 \dots k_q} = e^{i_1\dots i_p k_1\dots k_q}$, при этом требуется выполнение обычных для гиперкомплексной системы (алгебры) законов. Построенная алгебра ранга $2^n$ называется алгеброй Грассмана. Вектор$$\lambda e^{i_1i_2\dots i_p} = \lambda e^{i_1}\wedge e^{i_2}\wedge \dots\wedge e^{i_p}$$называется мономом степени $p$, $\lambda\in K$. Сумма мономов одинаковой степени $p > 1$ называется внешней формой степени $p$; сумма мономов первой степени называется линейной формой. Элементы поля $K$ являются по определению формами нулевой степени. Векторы $e^i$ и любые $n$ их линейно независимых комбинаций$$\omega^j = a_i^j e^i,\quad {\rm det}\,\big(a_i^j\big)\ne 0,\quad a_i^j \in K,$$образуют линейный базис алгебры Грассмана. Здесь и в дальнейшем по одинаковым индексам, встречающимся один раз снизу и один раз сверху, производится суммирование в соответствующих пределах.

Алгебраической производной $1$-го порядка от внешней формы$$\Omega_p = a_{i_1\dots i_p}e^{i_1}\wedge\dots\wedge e^{i_p}$$степени $p$ по символу $e^i$называется форма $\Omega_{p-1}=\frac{\partial \Omega_p}{\partial e^i}$ степени $p-1$, которая получается из формы $\Omega_p$ заменой нулём всех мономов, не содержащих символа $e^i$, и заменой единицей символа $е^i$ в остальных мономах после перенесения символа $e^i$ на первое место с соблюдением закона антикоммутативности при каждой последовательной перестановке. Ассоциированной системой линейных форм внешней формы $\Omega_p$ называется совокупность всех ненулевых алгебраических производных $(p-1)$-го порядка от формы $\Omega_p$. Рангом внешней формы $\Omega_p$ называется ранг её ассоциированной системы. Он совпадает с минимальным числом линейных форм, через которые, используя операцию внешнего умножения, можно выразить форму $\Omega_p$. Для исследования системы дифференциальных уравнений в $\mathbb R^n$ используется дифференциальная алгебра Грассмана, когда в качестве $K$ рассматривается множество аналитических функций от $n$ действительных переменных $x^i$, определённых в некоторой области пространства $\mathbb{R}^n$, а векторы $e^i$ обозначаются символами $dx^i$. Линейные формы в ней называются $1$-формами, или формами Пфаффа. В них символы $dx^i$ являются дифференциалами переменных $x^i$. Внешние формы степени $1$ называются $p$-формами, или внешними дифференциальными формами степени $p$. Внешним дифференциалом $p$-формы$$\Omega_p = a_{i_1\dots i_p} dx^{i_1}\wedge\dots\wedge dx^{i_p}$$называется $(p+1)$-форма$$D\Omega_p = da_{i_1\dots i_p}\wedge dx^{i_1}\wedge \dots\wedge dx^{i_p}.$$Внешнее дифференцирование обладает следующими свойствами:$$\begin{gathered} D(\Omega_p\pm \Omega_p^*) = D\Omega_p\pm D\Omega_p^*,\\ D(\Omega_p\wedge\Omega_q) = D\Omega_p\wedge\Omega_q +(-1)^p \Omega_p\wedge D\Omega_q,\\ D(D\Omega_p)\equiv 0, \end{gathered}$$где $\Omega_p$, $\Omega_p^*$ – произвольные $p$-формы, a $\Omega_q$ – произвольная $q$-форма.

Форма Пфаффа $\omega =a_i dx^i$ тогда и только тогда является полным дифференциалом некоторой функции $f$, когда её внешний дифференциал равен нулю. Пусть$$\theta^\alpha \equiv b_a^\alpha (x^b, z^p) dx^a + c_\xi^\alpha (x^b, z^p) dz^\xi - dz^\alpha = 0,\tag{1}$$$$\alpha, \beta = 1,\dots,s; \quad a,b = 1,\dots, m;\quad \xi,\eta = s+1,\dots, r;\quad p,q=1,\dots, r,$$– произвольная система линейно независимых уравнений Пфаффа c $m$ независимыми переменными $x^a$ и $r$ неизвестными функциями $z^p$. Система $D\theta^\alpha = 0$ называется замыканием системы $(1)$. Замыкание называется чистым замыканием (обозначается $\overline{D\theta^\alpha}=0$), если в нём алгебраически учтена исходная система $(1)$, т. е. если в квадратичные формы $D\theta^\alpha$ подставлены значения $dz^\alpha$ из уравнений $(1)$. Система $\theta^\alpha=0$, $D\theta^\alpha =0$ или эквивалентная ей система $\theta^\alpha=0$, $\overline{D\theta^\alpha}=0$ называется замкнутой системой. Система $(1)$ тогда и только тогда вполне интегрируема, когда $\overline{D\theta^\alpha} = 0$. Приравнивая нулю алгебраические производные от $\overline{D\theta^\alpha}$ по $dx^a$ и $dz^\xi$, $a = 1,\dots, m$, $\xi = s+1,\dots,r$, и присоединяя уравнения Пфаффа к исходной системе (1), получают вполне интегрируемую систему уравнений, которая называется характеристической системой системы $(1)$. Множество её независимых первых интегралов образует наименьшую совокупность переменных, через которые можно выразить все уравнения системы $(1)$. Пусть $m^\alpha_{\xi,h}$ – результат подстановки в алгебраическую производную $\overline{\partial D\theta^\alpha}/\partial dz^\xi$ вместо $dx^a$, $dz^\xi$ произвольных переменных $X^a_h$, $z^\xi_h$, $h=1,2,\dots, m-1$. С системой $(1)$ ассоциируется последовательность матриц$$M_h = \begin{pmatrix} m^\alpha_{\xi, 1}\\ \dots \\ m^\alpha_{\xi, h}\end{pmatrix}.$$Числа$$\begin{gathered} s_1 = {\rm rang}\ M_1,\\ s_2 = {\rm rang}\ M_2 - {\rm rang}\ M_1,\\ \dots\\ s_{m-1} = {\rm rang}\ M_{m-1}-{\rm rang}\ M_{m-2},\\ s_m = r-s-{\rm rang}\ M_{m-1} \end{gathered}$$называются характерами, число$$Q = s_1+ 2s_2+\dots+ms_m$$называется числом Картана системы $(1)$. Присоединяя к замкнутой системе $\theta^\alpha=0$, $\overline{D\theta^\alpha} = 0$ уравнения $dz^\xi = b_a^\xi dx^a$, где $b_a^\xi$ – новые неизвестные функции, получают первое продолжение системы $(1)$. Пусть $N$ – число функционально независимых функций из $b_a^\xi$; всегда $N\le Q$. Если $N=Q$, то система $(1)$ – в инволюции и её общее решение зависит от $s_m$ произвольных функций $m$ аргументов, $s_{m-1}$ функций $m-1$ аргумента и т. д., $s_1$ функций одного аргумента и $s$произвольных постоянных. Если же $N<Q$, то систему $(1)$ надо продолжать, причём в результате конечного числа продолжений получается либо система в инволюции, либо противоречивая система.

Пусть, например, имеется система$$dz_1 = udx+x^2 dy,\quad dz_2 = udy+y^2 dx$$с независимыми переменными $x$, $y$ и неизвестными функциями $u$, $z_1$, $z_2$ ($s = 2$, $m = 2$, $r = 3$). Чистое замыкание её имеет вид:$$du\wedge dx+2x dx\wedge dy = 0,\quad du\wedge dy + 2y dy\wedge dx = 0.$$Для этой системы:$$M_1 = \begin{pmatrix} X_1\\ Y_1\end{pmatrix},\quad s_1 = {\rm rang}\ M_1 = 1,\quad s_2=0,\quad Q = 1,\quad N=0.$$Система не находится в инволюции. Продолженная система$$dz_1 = udx+x^2dy,\quad dz_2=udy+y^2dx,\quad du = 2(ydx+xdy)$$вполне интегрируема, и её общее решение имеет вид:$$u = 2xy+c_1,\quad z_1 = x(xy+c_1)+c_2,\quad z_2 = y(xy+c_1)+c_3,$$где $c_1$, $c_2$, $c_3$ – произвольные постоянные.

Использование метода внешних форм Картана значительно упрощает формулировки и доказательства многих теорем математики и теоретической механики. Например, теорема Остроградского записывается формулой$$\oint_\Gamma \Omega = \int_M D\Omega,$$где $M$ – аналитическое ориентируемое $(m+1)$-мерное многообразие, $\Gamma$ – его $m$-мерная гладкая граница, $\Omega$ – $m$-форма, а $D\Omega$ – её внешний дифференциал. Формула замены переменных в кратном интеграле$$J = \int\dots\int_D f(x^1,\dots,x^n)\, dx^1\wedge dx^2\wedge\dots\wedge dx^n$$при отображении $p:\Delta\to D$, определённом формулами $x^i = \varphi^i(u^1,u^2,\dots, u^n)$, где $D$, $\Delta\subset \mathbb R^n$, получается непосредственной заменой переменных $x^i$ и их дифференциалов $dx^i = \frac{\partial\varphi^i}{\partial u^j} du^j$. Т. к.$$dx^1\wedge\dots\wedge dx^n = \frac{\partial(\varphi^1,\dots,\varphi^n)}{\partial (u^1,\dots, u^n)} du^1\wedge\dots\wedge du^n,$$то$$J = \int\dots\int_\Delta \frac{\partial (\varphi^1,\dots,\varphi^n)}{\partial(u^1,\dots,u^n)}du^1\wedge\dots\wedge du^n.$$Метод внешних форм Картана широко применяется при исследовании многообразий с различными структурами. Пусть $M$ – дифференцируемое многообразие класса $C^\infty$, $F = C^\infty(M)$ – множество дифференцируемых функций на $M$, $D^1$ – множество всех векторных полей на $M$, $\mathfrak A_s$ – множество кососимметричных $F$-полилинейных отображений модуля $D^1\times\dots\times D^1$ ($s$ раз, $s\ge 1$ – натуральное число).

Пусть $\mathfrak A_0 = F$, а через $\mathfrak A$ обозначена прямая сумма $F$-модулей $\mathfrak A_s$:$$\mathfrak A = \sum_{s=0}^\infty \mathfrak A_s.$$Элементы модуля $\mathfrak A$ называются внешними дифференциальными формами на $M$; элементы модуля $\mathfrak A_s$ называются $s$-формами. Пусть$$f,g \in C^\infty(M); \quad \theta\in\mathfrak A_r,\quad \Omega\in\mathfrak A_s,\quad X_i \in D^1.$$Тогда внешнее умножение $\wedge$ определится формулами:$$\begin{gathered} f\wedge g = fg,\quad (f\wedge\theta)(X_1,\dots,X_r) = f\theta(X_1,\dots,X_r),\\ (\Omega\wedge g)(X_1,\dots, X_s) = g\Omega(X_1,\dots, X_s),\\ (\theta\wedge\Omega)(X_1,\dots,X_{r+s}) = \frac{1}{(r+s)!} \sum_{\sigma\in S_{r+s}}\varepsilon(\sigma) \theta(X_{\sigma(1)},\dots,X_{\sigma(r)})\times\Omega(X_{\sigma(r+1)},\dots,X_{\sigma(r+s)}), \end{gathered}$$где $S_{r+s}$ – группа подстановок множества $1,2,\dots,r+s$, а $\varepsilon(\sigma)=1$ или $-1$, в зависимости от того, чётной или нечётной подстановкой является $\sigma$. Модуль $\mathfrak A$ кососимметрических $F$-полилинейных функций с внешним умножением называется алгеброй Грассмана над многообразием $M$. Если $M$ совпадает с $\mathbb R^n$, то получается рассмотренная выше дифференциальная алгебра Грассмана. Внешним дифференцированием называется $R$-линейное отображение $D:\mathfrak A\to\mathfrak A$, обладающее следующими свойствами: $D\mathfrak A_s\subset\mathfrak A_{s+1}$ для каждого $s\ge 0$, если $f\in\mathfrak A_0 = C^\infty(M)$, то $Df$ есть $1$-форма, определённая равенством $Df(X)=X(f)$, где $X\in D^1$; $D\cdot D = 0$, $D(\theta\wedge\Omega)=D\theta\wedge\Omega + (-1)^r \theta\wedge D\Omega$, если $\theta\in\mathfrak A_r$, $\Omega\in\mathfrak A$. Пусть, например, $M$ – многообразие с заданной аффинной связностью. Аффинная связность на многообразии $M$ – это правило $\nabla$, которое сопоставляет каждому $X\in D^1$ линейное отображение $\nabla_x$ векторного пространства $D^1$ в себя, удовлетворяющее следующим двум условиям:$$\nabla_{fX+gY} = f\nabla_X+g\nabla_Y;\quad \nabla_X(fY) = f\nabla_X(Y)+(Xf)Y$$для $f, g\in C^\infty(M)$, $X, Y\in D^1$. Оператор $\nabla_x$ называется ковариантной производной относительно $X$. Пусть $\Phi$ – диффеоморфизм многообразия $M$, $\nabla$ – аффинная связность на $M$. Формула $$\nabla_x'(Y) = (\nabla_X \Phi(Y^\Phi))^{\Phi-1},$$где $X, Y\in D^1$, определяет на $M$ новую аффинную связность. Аффинная связность $\nabla$ называется инвариантной относительно $\Phi$, если $\nabla' = \nabla$. В этом случае $\Phi$ называется аффинным преобразованием многообразия $M$. Пусть$$\begin{gathered} [X,Y]=XY-YX,\\ T(X,Y) = \nabla_X(Y) - \nabla_Y(X) - [X,Y],\\ R(X,Y) = \nabla_X\nabla_Y - \nabla_Y \nabla_X-\nabla_{[X,Y]} \end{gathered}$$для всех $X, Y\in D^1$, и пусть $D_1$ – модуль, двойственный $F$-модулю $D^1$. $F$-полилинейное отображение $(\omega, X, Y)\to \omega(T(X,Y))$, где $\omega\in D_1$ – форма Пфаффа, называется тензорным полем кручения и обозначается через $T$; $F$-полилинейное отображение $(\omega, Z, X, Y)\to \omega(R(X,Y)\cdot Z)$ называется тензорным полем кривизны и обозначается через $R$. Пусть $p\in M$ и $X_1,\dots, X_n$ – базис для векторных полей в некоторой окрестности $U_p$ точки $p$. Функции $\Gamma^K_{IJ}$, $T^K_{IJ}$, $R^K_{LIJ}$ определяются на $U_p$ формулами:$$\begin{gathered} \nabla_{X_J}(X_J) = \Gamma^K_{IJ} X_K,\quad T(X_I, X_J) = T^K_{IJ} X_K,\\ R(X_I, X_J) \cdot X_L = R^K_{LIJ} X_K,\quad I,J,K = 1,\dots, n. \end{gathered}$$Для $1$-форм $\omega^I$, $\omega^K_J$, определённых на $U_p$ формулами$$\omega^I(X_J) = \delta^I_J,\quad \omega^J_I = \Gamma^J_{KI}\omega^K,$$справедливы структурные уравнения Каpтана:$$\begin{gathered} D\omega^J = \omega^K\wedge \omega^J_K + \frac{1}{2} T^I_{JK}\omega^J\wedge \omega^K,\\ D\omega^J_I = \omega^K_I\wedge\omega^J_K + \frac{1}{2}R^J_{IKL}\omega^K\wedge\omega^L. \end{gathered}$$Система уравнений Пфаффа$$\omega^a = \lambda^a_i \omega^i,\quad i,j,k = 1,\dots, m; \quad a, b = m+1,\dots, n,$$задаёт $m$-мерное подмногообразие $\mathfrak M_m\subset M$. Продолжая эту систему с использованием структурных уравнений Картана, получают последовательность фундаментальных геометрических объектов подмногообразия$$\mathfrak M_m: \{\lambda^a_i\},\quad \{\lambda^a_i, \lambda^a_{ij}\},$$первого, второго и так далее порядков. В общем случае существует фундаментальный геометрический объект$$\{\lambda^a_i,\dots,\lambda^a_{i_1,\dots,i_k}\}$$конечного порядка $k$, определяющий подмногообразие с точностью до постоянных. При исследовании подмногообразий многообразия $M$ метод внешних форм Картана обычно используется совместно с методом подвижного репера (см., например, Картан. 1960).

Метод назван по имени Э. Картана, который широко использовал внешние формы с 1899 г.