Интегра́льная геоме́трия, теория инвариантных (относительно непрерывных групп отображений пространства на себя) мер на множествах, состоящих из подмногообразий пространства (например, прямых, плоскостей, геодезических, выпуклых поверхностей и тому подобных многообразий, сохраняющих свой тип при рассматриваемых преобразованиях). Интегральная геометрия строится для различных пространств, прежде всего для евклидовых, проективных, однородных.

Интегральная геометрия занимается введением инвариантных мер, их связями и геометрическими применениями. Возникла в связи с уточнением постановки задач о геометрических вероятностях.

Для введения инвариантной меры предварительно ищут такую функцию от координат точки в пространстве, интеграл от которой по некоторой области пространства не изменялся бы после непрерывного преобразования координат пространства, составляющих определённую группу Ли. Это требует отыскания интегрального инварианта заданной группы Ли. Последний находится как решение системы дифференциальных уравнений в частных производных

$$\tag{1} \sum _ { i= 1} ^ { n } \frac \partial {\partial x _ {i} }   [ \xi _ {h} ^ {i} (x) F (x) ] = 0 ,\quad h = 1, \dots, r ,$$где $F(x)$ – искомый интегральный инвариант, $x$ – точка $n$-мерного пространства, $\xi _ {h} ^ {i}$ – коэффициент инфинитезимального преобразования группы, $r$ – количество параметров преобразования. Важное значение в интегральной геометрии имеют измеримые группы Ли, т. е. такие группы, которые допускают существование одного и только одного (с точностью до постоянного множителя) инварианта. Последними, в частности, являются простые транзитивные группы.

Следующая задача интегральной геометрии состоит в установлении меры множества многообразий, которые сохраняют свой тип после некоторой группы непрерывных преобразований. Мера устанавливается равной интегралу

$$\tag{2} \int\limits _ {A _ \alpha } | F (\alpha ^ {1}, \dots, \alpha ^ {q}) | \ d \alpha ^ {1} \wedge \dots \wedge d \alpha ^ {q} ,$$где $A _ \alpha$ – множество точек в пространстве параметров группы Ли, $F$ – интегральный инвариант группы, определяемый уравнением $(1)$, или плотность меры. Подынтегральное выражение в $(2)$ называется также элементарной мерой множества многообразий. Определённый выбор этой меры полностью устанавливает соответствие с основной задачей учения о геометрических вероятностях. Фактически под геометрической вероятностью множества многообразий со свойством $A_1$ понимается относительная доля этого множества, рассматриваемого как подмножество многообразий множества многообразий, имеющих более общее свойство $A$. Задача сводится к установлению мер множества многообразий со свойством $A$, подмножества со свойством $A_1$ и их отношения. Последнее и есть геометрическая вероятность.

В случае однородного многомерного пространства мера множества многообразий $($например, точек, прямых, гиперплоскостей, пар гиперплоскостей, гиперсфер, гиперповерхностей $2$-го порядка$)$ однозначно (с точностью до постоянного множителя) определяется интегралом$$\tag{3} \int\limits _ { X } d H = [ \omega _ {1}, \omega_2, \dots, \omega _ {h} ] ,$$где $\{ \omega _ {i} \}$ суть относительные компоненты $(i=1,\dots, h)$ заданной транзитивной группы Ли $G_2$. Линейные комбинации с постоянными коэффициентами этих относительных компонент представляют собой левые части уравнений системы Пфаффа, соответствующей рассматриваемому множеству многообразий. Мера $(3)$ называется кинематической мерой в однородном пространстве с заданной в нём группой преобразований. Она представляет собой обобщение т. н. кинематической меры Пуанкаре (далее все меры указываются с точностью до постоянного множителя).

Интегральная геометрия на евклидовой плоскости $E^2$ обычно рассматривает лишь одно непрерывное преобразование – группу движений (без отражений). Для множества точек интегральный инвариант – единица, для множества прямых – тоже единица, если в качестве параметров прямых выбраны параметры её нормального уравнения $p$ и $\varphi$. Длина произвольной кривой равна $\displaystyle\frac{1}{2} \int n\, d p\, d \varphi$, где $n$ – число пересечений прямых с кривой, а интегрирование ведётся по множеству прямых, пересекающих кривую. Мера множества прямых, пересекающих две выпуклые фигуры (овалы), равна разности длин перекрёстно охватывающей овалы кривой и внешней охватывающей кривой (см. рис. 1). Мера множества прямых, разделяющих два овала, равна длине перекрёстно охватывающей кривой без суммы длин контуров овалов.

Рис. 1.Рис. 1.Мера множества пар точек определяется как$$\int\limits | t _ {2} — t _ {1} | d p \wedge d \varphi \wedge d t _ {1} \wedge d t _ {2} ,$$где $p$, $\varphi$ – параметры нормального уравнения прямой, проходящей через точки, a $t_1$ и $t_2$ суть расстояния по этой прямой от точек до точки пересечения прямой и перпендикуляра к прямой, проведённого из начала координат (см. рис. 2).

Рис. 2.Рис. 2.Мера множества пар прямых равна$$\int\limits | \sin (\alpha _ {1} — \alpha _ {2}) | \ d x \wedge d y \wedge d \alpha _ {1} \wedge d \alpha _ {2} ,$$где $x$ и $y$ – координаты точки пересечения пары прямых, а $\alpha_1$ и $\alpha_2$ – углы, которые составляют эти прямые с одной из координатных осей (см. рис. 3).

Рис. 3.Рис. 3.Мера множества пар кривых, пересекающих овал, равна половине квадрата длины кривой, ограничивающей овал, без площади овала, умноженной на $\pi$ (формула Крофтона). Применение кинематической меры к множеству конгруэнтных овалов, пересекающих заданный овал, позволяет получить одно из изопериметрических неравенств, а именно классическое неравенство Боннезена. Если$$I _ {n} = \int\limits _ { G } \sigma ^ {n} d p \ d \varphi ,\quad J _ {n} = \ \int\limits _ { H } r ^ {n} | t _ {2}-t _ {1} | d p \wedge d \varphi \wedge d t _ {1} \wedge d t _ {2} ,$$где $\sigma$ – длина хорды овала $H$, $G$ – множество пересекающих овал прямых, $r$ – расстояние между двумя точками внутренней области овала, то$$J _ {n} = \ \frac{2 I _ {n+ 3} }{(n + 2) (n + 3) }  ,$$что позволяет просто определить среднее расстояние между двумя точками внутри овала. Кинематическая мера множества фигур есть мера множества фигур, конгруэнтных данной. Она равна$$\int\limits _ { X } d x \wedge d y \wedge d \varphi ,$$где $X$ – множество точек фигуры, $x$, $y$ – координаты её фиксированной точки, $\varphi$ – угол, определяющий поворот фигуры. Кинематическая мера может трактоваться как мера множества подвижных систем координат. Если неподвижную систему координат сделать подвижной, а подвижную – неподвижной, то для одного и того же множества преобразований кинематическая мера останется неизменной (симметричность кинематической меры). Если с каждым элементом множества конгруэнтных фигур связать иную подвижную систему, то кинематическая мера также сохраняется. Мера множества конгруэнтных конечных дуг произвольной кривой, пересекающих заданную дугу некоторой кривой, равна учетверённому произведению длин дуг (формула Пуанкаре). Количество отрезков прямой данной длины $l$, пересекающих овал, равно $2\pi F_0+2lL_0$, где $F_0$ и $L_0$ – площадь овала и длина ограничивающей его кривой. Если заменить овал незамкнутой кривой, то $F_0=0$ и число пересечений будет равно $2lL_0$. Мера множеств овалов, пересекающих данный овал, равна $2\pi(F_0+F)+L_0L$, где $F_0$, $F$ суть соответствующие площади, a $L_0$ и $L$ – длины кривых, ограничивающих овалы.

Интегральная геометрия в евклидовом пространстве $E^3$ строится по аналогии с интегральной геометрией в $E^2$. Для множеств точек интегральный инвариант также равен единице. Если множество прямых задано множеством их уравнений в двух проектирующих плоскостях:$$x = k z + a ,\quad y = h z + b ,$$то интегральный инвариант для совокупности параллельного переноса и поворота осей равен $(k ^ {2} + h ^ {2} + 1) ^ {-2}$. В частности, мера множеств прямых, пересекающих выпуклую замкнутую поверхность (поверхность овалоида), равна половине поверхности овалоида.

Введение по аналогии с $E^2$ меры множества пар точек позволяет вычислить среднее значение $4$-й степени длин хорд овалоида, которое равно $12 V / \pi S$, где $V$ и $S$ – его объём и поверхность. Для пар пересекающихся прямых, заданных уравнениями в двух проектирующих плоскостях:$$x = k _ {1} z + a-k _ {1} c ; \quad y = h _ {1} z + b-h _ {1} c$$и$$x = k _ {2} z + a-k _ {2} c ; \quad y = h _ {2} z + b-h _ {2} c ,$$где $a$, $b$ и $c$ – координаты точек пересечения прямых, она равна$$[ (k _ {1} ^ {2} + h _ {1} ^ {2} + 1) (k _ {2} ^ {2} + h _ {2} ^ {2} + 1) ]  ^ {-\frac32} .$$Меры множества пересечений двух заданных подвижных овалоидов относятся как их объёмы. Для плоскости, заданной уравнением в отрезках, интегральный инвариант равен$$(a ^ {- 2} + b ^ {- 2} + c ^ {- 2}) ^ {- 2} ,$$где $a$, $b$ и $c$ – длины отрезков. Мера множества плоскостей, пересекающих поверхность площади $S$, равна $\pi^ {2} S/2$, а среднее значение длин кривых, по которым овалоид пересекается множеством плоскостей, равно $\pi S ^ {2} /2 \overline{H}$, где $\overline{H}$ – интегральная средняя кривизна.

Для пар плоскостей интегральный инвариант равен произведению интегральных инвариантов множеств плоскостей. Кинематическая мера в $E^3$ равна произведению меры множества по различному ориентированных плоскостей и элементарной кинематической меры в ориентирующей плоскости. Интегральный инвариант для вращений пространственной фигуры, имеющей одну неподвижную точку, равен$$1 + l _ {1} ^ {2} + l _ {2} ^ {2} + l _ {3} ^ {2} ,$$где $l _ {i} = \alpha _ {i} \mathop{\rm tg} (\varphi / 2)$, а $\alpha_i$, $i=1,2,3$, суть направляющие косинусы оси вращения, $\varphi$ – угол поворота вокруг этой оси. Мера множеств тел, имеющих общую точку и отличающихся поворотом в пространстве, равна $\pi ^ {2}$.

Интегральная геометрия на поверхности строится введением меры множества геодезических как интеграла от внешней дифференциальной формы поверхности по всему множеству. Таким образом, внешняя дифференциальная форма есть плотность множества геодезических, т. к. она инвариантна относительно выбора системы криволинейных координат на поверхности и относительно выбора параметра, определяющего положение точки на геодезической. В геодезических полярных координатах плотность имеет вид$$d G = \ \left (   \frac{\partial \sqrt {g (\rho , \theta) } }{\partial \rho }   \right) [ d \theta \, d \rho ] ,$$в частности для сферы $d G = \cos \rho [ d \theta \, d \rho ]$, а для псевдосферы $d G = \ch \rho [ d \theta \, d \rho ]$. Для множества геодезических, пересекающих гладкую или кусочно гладкую кривую, плотность равна $d G = | \sin \varphi | [ d \varphi \, d s ]$, где $\varphi$ – угол пересечения, $s$ – длина кривой. Плотность кинематической меры (кинематическая плотность) равна $d K = [ d P\, d V ]$, где $dP$ – элемент площади поверхности, $V$ – угол между геодезической и полярным радиусом. Многие результаты интегральной геометрии на $E^2$ обобщаются на случай однородной поверхности. Плотность меры множества представляет собой кинематическую плотность, что позволяет получить обобщение формулы Пуанкаре для $E^2$. Меры множества пар геодезических и пар точек строятся так же, как для $E^2$.

На основе т. н. полиметрической геометрии П. К. Рашевского (Рашевский. 1941) результаты интегральной геометрии на произвольной однородной поверхности обобщаются на более широкий класс поверхностей. Обобщение производится путём использования биметрической системы Рашевского. Сначала двумя способами вводится мера в двупараметрическом множестве кривых плоскости. Затем все выводы, справедливые в случае плоскости (рассматриваемой как множество линейных элементов), обобщаются на случай линий постоянной геодезической кривизны произвольной поверхности.

Интегральная геометрия на проективной плоскости $P^2$. Для полной группы проективных преобразований на $P^2$
$$\tag{4} x ^ \prime  = \ \frac{a _ {1} x + b _ {1} y + c _ {1} }{a _ {3} x + b _ {3} y + 1 }  ;\quad y ^ \prime  = \ \frac{a _ {2} x + b _ {2} y + c _ {2} }{a _ {3} x + b _ {3} y + 1 }$$интегральный инвариант существует лишь для совокупности трёх точек и равен кубу обратной величины площади треугольника, вершинами которого являются эти точки. Для пар точек и группы аффинных унимодулярных преобразований$$\tag{5} x ^ \prime  = a _ {1} x + b _ {1} y + c _ {1} , \quad y ^ \prime  = a _ {2} x + b _ {2} y + c _ {2} , \quad a _ {1} b _ {2} - a _ {2} b _ {1} = 1$$интегральный инвариант равен единице, а для группы аффинных преобразований интегральный инвариант множества пар точек равен $(x _ {1} y _ {2}-x _ {2} y _ {1}) ^ {-2}$, где $x _ {1} , y _ {1}$ и $x _ {2} , y _ {2}$ суть координаты точек.

Множество прямых проективной плоскости неизмеримо, но для пар точка – прямая и полной группы проективных преобразований $(4)$ интегральный инвариант равен $(x _ {0} \alpha + y _ {0} \beta + 1) ^ {- 3}$, где $x _ {0}$, $y _ {0}$ суть координаты точки, а прямая задаётся уравнением $\alpha x + \beta y + 1 = 0$. Множество параллелограммов, заданных уравнениями$$\alpha _ {i} x + \beta _ {i} y + 1 = 0, \quad \gamma _ {i} (\alpha _ {i} x + \beta _ {i} y) + 1 = 0, \quad \ i = 1 , 2 ,$$причём $\alpha _ {1} \beta _ {2}-\alpha _ {2} \beta _ {1} \neq 0$, имеет плотность меры$$[ (\gamma _ {1}-1) ^ {2}(\gamma _ {2}-1) ^ {2} (\alpha _ {1} \beta _ {2}-\alpha _ {2} \beta _ {1}) ^ {2} ] ^ {-1}$$для группы аффинных преобразований$$\tag{6}   x ^ \prime  = a _ {1} x + b _ {1} y + c _ {1} , \quad y ^ \prime  = a _ {2} x + b _ {2} y + c _ {2} , \quad a _ {1} b _ {2}-a _ {2} b _ {1} \neq 0.$$Для множества окружностей на $P^2$, заданных уравнением$$x ^ {2} + y ^ {2}-2 \alpha x-2 \beta y + \gamma = 0 ,$$максимальной группой преобразований является группа преобразований подобия$$x = a x ^ \prime + b y ^ \prime + c ,\quad y = b x ^ \prime + a y ^ \prime + d .$$Плотность меры для неё равна $(\gamma - \alpha ^ {2} - \beta ^ {2}) ^ {- 2}$. На её основе вычисляется мера множеств окружностей (центры которых находятся в некоторой области), пересекающихся с заданной кривой. Мера множества окружностей на $P^2$ равна кинематической мере совокупности групп трансляции и гомотетии.

Множество конических сечений $($инвариант $\Delta \neq 0)$ имеет в качестве максимальной группы инвариантности проективную группу:$$x = \ \frac{\alpha _ {11} x ^ \prime + \alpha _ {12} y ^ \prime + \alpha _ {13} }{\alpha _ {31} x ^ \prime + \alpha _ {32} y ^ \prime + 1 }  ,\quad y = \ \frac{\alpha _ {21} x ^ \prime + \alpha _ {22} y ^ \prime + \alpha _ {23} }{\alpha _ {31} x ^ \prime + \alpha _ {32} y ^ \prime + 1 }  ,$$причём $\mathop{\rm det} | \alpha _ {ij} | \neq 0$, $i , j = 1 , 2 , 3$. Плотность меры для него равна $\Delta ^ {-2}$. Для множества гипербол максимальная группа инвариантности есть аффинная группа $(6)$. Плотность меры их множества равна $a ^ {-1} \Delta ^ {-2}\sqrt {b ^ {2}-a c }$, где $a$, $b$, $c$ суть коэффициенты общего уравнения гиперболы. Аналогично измерима максимальная группа инвариантности эллипсов, а для парабол она неизмерима. Для парабол измеримы лишь её подгруппы: группы унимодулярных аффинных и центроаффинных преобразований. Элементарная кинематическая мера группы проективных преобразований $(4)$ равна $\Delta^{-3}$, где $\Delta$ – определитель преобразования.

Множество прямых центроаффинной плоскости измеримо. Плотность меры их множества равна $p^{-3}$, где $p$ – свободный член нормального уравнения прямой. Кинематическая мера группы преобразований $(5)$ не центроаффинной плоскости равна $a_1^{-1}$. Если $\Delta=\Delta(\varphi)$ есть ширина овала, то $\Delta^{-2}$ есть его плотность меры для аффинного унимодулярного преобразования.

Интегральная геометрия в проективном пространстве $P^3$. Группа движений в проективном пространстве $P^3$ с прямоугольной декартовой системой координат является измеримой лишь для совокупности четырёх точек, и плотность меры равна при этом $\Delta^{-4}$, где $\Delta$ есть объём тетраэдра, вершинами которого являются эти точки. Для совокупностей двух и трёх точек измерима лишь группа аффинных унимодулярных преобразований. Плотность её меры равна единице. Для трёх точек также измерима группа центроаффинных преобразований (при условии, что точки не лежат на одной прямой). Множество прямых в $P^3$ имеет в качестве максимальной группы инвариантности полную группу движений, но она для них неизмерима (измерима лишь некоторая её подгруппа). Измерима полная группа преобразований для пар прямых. Множество плоскостей относительно полной группы преобразований в $P^3$ не допускает меры; для множества плоскостей измерима лишь её подгруппа ортогональных преобразований. Пары плоскостей допускают меру для группы центроаффинных унимодулярных преобразований. Параллелепипеды допускают меру частной группы аффинных преобразований, множество пар плоскость – точка допускает меру полной группы преобразований в $P^3$. Множество сфер в $P^3$ допускает меру группы преобразований подобия, причём плотность меры равна $R^{-4}$, где $R$ – радиус сферы. Множество поверхностей $2$-го порядка допускает меру полной группы преобразований в $P^3$, причём плотность меры равна $\Delta^{-5}$, где $\Delta$ есть инвариант поверхности. Множество окружностей в $P^3$ допускает меру группы преобразований подобия, причём плотность меры равна $R^{-4}$, где $R$ – радиус окружности. Кинематическая мера в $P^3$ полной группы преобразований равна $\Delta^{-4}$, где $\Delta$ есть её определитель. Плотность меры множества точек в центроаффинном унимодулярном пространстве трёх измерений равна единице. Измеримо и множество плоскостей в этом пространстве с плотностью $p^{-4}$, где $p$ есть параметр нормального уравнения плоскости.

Интегральная геометрия на поверхности постоянной кривизны $V^2$. Семейству кривых в $V^2$ с постоянной положительной кривизной соответствует максимальная группа инвариантности $G_3^+(x)$. Семейства специального вида (трёх-, двух- и однопараметрические) допускают плотности меры максимальной группы инвариантности $[$инфинитезимальных преобразований группы $G_3^+(x)]$, а в случае одного параметра – группы $G_1(x)$.

То же справедливо для $V^2$ с отрицательной постоянной кривизной. Трёхпараметрические кривые специального вида допускают плотность меры максимальной группы инвариантности преобразований $G_3^-(x)$, равную единице. Меры существуют у группы и в случае специальных видов двух- и однопараметрических семейств. В обоих случаях условие допущения семейством кривых $F _ {q} (x)$ меры максимальной группы инвариантности $G _ {2} (x)$ состоит в пространственной транзитивности (измеримости) присоединённой группы $H _ {2} (\alpha)$.

Обобщение интегральной геометрии. Вышеприведённое изложение относится к традиционному пониманию содержания интегральной геометрии как теории инвариантной меры множества геометрических объектов в различных пространствах, в основном в однородных. При понимании интегральной геометрии как теории преобразования функций, заданных на множестве одних геометрических объектов в некотором пространстве, в функции, заданные на множестве иных геометрических объектов того же пространства, в качестве основной ставится задача, обратная интегрированию некоторой функции точек пространства по некоторому геометрическому объекту этого же пространства. Например, если вводится интегральное преобразование функции $f(x)$ в $n$-мерном аффинном пространстве (преобразование Радона) как интегрирование её по гиперплоскости, то в качестве обратной ставится задача восстановления $f(x)$ по её интегралам по гиперплоскостям, т. е. задача нахождения обратного преобразования Радона. Аналогично ставятся и решаются задачи о восстановлении функции на линейчатых поверхностях $2$-го порядка в $4$-мерном комплексном пространстве, когда известны её интегралы по прямым, составляющим эту поверхность, а также о восстановлении функции по её интегралам, взятым по орисферам в действительном и мнимом пространствах Лобачевского.