Аналити́ческое мно́жество, подмножество полного сепарабельного метрического пространства, являющееся непрерывным образом пространства иррациональных чисел. Понятие аналитического множества введено Н. Н. Лузиным (Lusin. 1917). Это классическое определение аналитического множества обобщается на случай общих метрических и топологических пространств.

1) Аналитическое множество в произвольном топологическом пространстве
$X$ – подмножество этого пространства, являющееся образом замкнутого подмножества пространства иррациональных чисел при полунепрерывном сверху многозначном отображении с компактными образами точек и замкнутым графиком (Frolík. 1969).
Если $X$ – хаусдорфово, то последнее условие выполняется автоматически. Если $X$ метризуемо, то это определение эквивалентно классическому.

2) В полном сепарабельном метрическом пространстве классические аналитические множества тождественны с ${\mathcal A}$-множествами. Этот факт кладётся в основу второго определения аналитических множеств (как ${\mathcal A}$-множеств) в общих метрических и топологических пространствах (см. Sierpiński. 1956, Куратовский. 1970, Stone. 1972). В классе вполне регулярных пространств аналитические множества в смысле 1) суть абсолютные аналитические множества в смысле 2). В классе несепарабельных метризуемых пространств используется определение 2), так как 1) дает сепарабельные аналитические множества.

3) Аналитическое множество в хаусдорфовом пространстве (см. Шнейдер. 1949, Choquet. 1953) – непрерывный образ подмножества компакта типа $F _ {\sigma \delta }$.

4) Аналитическое множество – непрерывный образ множества, принадлежащего семейству $K _ {\sigma \delta }$, где $K$ – семейство всех замкнутых компактных подмножеств некоторого топологического пространства. Множество, аналитическое в смысле 3), является аналитическим в смысле 4), а это последнее является аналитическим в смысле 1).

5) В другом направлении дано обобщение в (Stone. 1972): $k$-аналитические множества получаются из замкнутых множеств топологического пространства с помощью обобщённой ${\mathcal A}$-операции (пространство Бэра счётного веса заменяется на пространство Бэра веса $k$) и являются обобщением аналитического множества в смысле определения 2).

6) Аналитическое множество в теории аналитических функций – множество, определяемое локально как множество общих нулей конечного числа голоморфных функций.

Если $S$ – аналитическое множество в открытом подмножестве $U$ пространства $n$ комплексных переменных $\mathbb C ^ {n}$, то это означает, что для каждой точки $a \in U$ найдется окрестность $V \subset U$ и конечный набор голоморфных в $V$ функций $f _ {1},~ \dots, f _ {r}$ таких, что $S \cap V = \{ {z \in V } : { {f _ {1} } (z) = \dots = f _ {r} (z) = 0 } \}$. Если функции $f _ {i}$ можно выбрать (в какой-либо окрестности $V$) так, что ранг матрицы Якоби ($\partial f _ {i} / \partial z _ {j}$) в точке $a$ равен $r$, то $a$ называется регулярной точкой аналитического множества $S$; число $n - r$ называется (комплексной) размерностью $S$ в точке $a$ и обозначается ${ \mathop{\rm dim} _ {a} } S$. Множество $S ^ {*}$ всех регулярных точек аналитического множества $S$ является открытым всюду плотным подмножеством $S$ (в индуцированной топологии $S$ как подмножества $U$). Его дополнение $S \setminus S ^ {*}$ – множество особых точек $S$ – есть аналитическое множество в $U$, нигде не плотное на $S$.

По определению $$\mathop{\rm dim}\nolimits_{a} S = \varlimsup_{z \in S ^ {*} ,~ z \rightarrow a} \mathop{\rm dim}\nolimits_{z} S,~~ a \in S ;$$размерностью аналитического множества $S$ называется число $$\mathop{\rm dim} S = \sup _ {a \in S } \mathop{\rm dim}\nolimits_{a} S .$$Аналитическое множество $S$ называется однородным $k$-мерным, если ${ \mathop{\rm dim} _ {a} } S = k$ для всех $a \in S$. Для каждого $k$, $0 \leqslant k \leqslant \mathop{\rm dim} S$, множество $S _ {k} = \{ {a \in S } : { \mathop{\rm dim} _ {a} S = k } \}$ является однородным $k$-мерным аналитическим множеством в $U \setminus \cup _ {j > k } S _ {j}$. Таким образом, всякое аналитическое множество в $U$ представляется в виде конечного объединения однородных аналитических множеств $S = \cup {S _ {k} }$. В особых точках ${ \mathop{\rm dim} _ {a} } ( S \setminus {S ^ {*} } ) < { \mathop{\rm dim} _ {a} } S$, и поэтому размерность аналитического множества особых точек однородного $k$-мерного аналитического множества в $U$ строго меньше $k$. Связные компоненты $S ^ {*}$ являются комплексными многообразиями. Так как это справедливо и для аналитического множества $S \setminus S ^ {*}$, то получается разложение$$S = S ^ {*} \cup ( S \setminus S ^ {*} ) ^ {*} \cup \dots$$аналитического множества на комплексные многообразия. Более удобно разложение $$S = S _ {d} ^ {*} \cup ( S \setminus S _ {d} ^ {*} ) _ {d-1} ^ {*} \cup \dots$$(размерности слагаемых строго убывают, $d = \mathop{\rm dim} S$), которое называется стратификацией аналитического множества $S$; связные компоненты $k$-го слагаемого этой суммы называются $k$-мерными стратами аналитического множества $S$.

Аналитическое множество $S$ называют приводимым (в $U$), если оно является объединением каких-либо двух отличных от него аналитических множеств в $U$; в противном случае $S$ неприводимо (в $U$). Всякое неприводимое аналитическое множество в $U$ связно и однородно. Аналитическое множество $S$ в $U$ неприводимо тогда и только тогда, когда множество $S ^ {*}$ его регулярных точек связно. Замыкание каждой связной компоненты множества $S ^ {*}$ – неприводимое аналитическое множество в $U$; такие аналитические множества называются неприводимыми компонентами аналитического множества $S$. Всякое аналитическое множество в $U$ является локально конечным объединением своих неприводимых компонент. Если аналитические множества не имеют общих неприводимых компонент, то размерность их пересечения строго меньше размерности каждого из них. Если пересечение двух неприводимых аналитических множеств в $U$ содержит множество, открытое на каждом из них, то эти аналитические множества совпадают (теорема единственности).

Аналитическое множество $S$ в $U$ называется неприводимым в точке $a \in S$, если существует фундаментальная система окрестностей $V _ {i}$ точки $a$ в $U$ такая, что все аналитические множества $S \cap V _ {i}$ в $V _ {i}$ неприводимы; при этом $a$ называется точкой неприводимости аналитического множества $S$. В окрестности каждой точки неприводимости аналитическое множество устроено как аналитическое накрытие, т. е. для каждой такой точки $a \in S$, ${ \mathop{\rm dim} _ {a} } S = k$, найдутся связная окрестность $V \subset U$, линейное отображение $\lambda : \mathbb C ^ {n} \rightarrow \mathbb C ^ {k}$ и аналитическое множество $\sigma \in \lambda ( V )$ такие, что сужение $\lambda$ на $S \cap V$ есть собственное отображение на $\lambda ( V )$, а сужение $\lambda$ на $( S \cap V ) \setminus {\lambda ^ {-1} } ( \sigma )$ есть конечнократное локально биголоморфное накрытие над $\lambda ( V ) \setminus \sigma$. Для неприводимых одномерных аналитических множеств отсюда вытекает (после подходящей линейной замены координат) локальное параметрическое представление вида$$\begin{equation*} z _ {1} = \zeta ^ {m} ,\ z _ {2} = f _ {2} ( \zeta ) , ~ \dots, z _ {n} = f _ {n} ( \zeta ) , \end{equation*}$$где $\zeta \in \mathbb C,~ | \zeta | < r,$ $m$ – целое положительное число и функции $f _ {i}$ голоморфны в круге $| \zeta | < r$. Таким образом, в окрестности каждой точки неприводимости одномерное аналитическое множество является топологическим многообразием. Для аналитического множества большей размерности это в общем неверно.

Объединение конечного числа и пересечение любого семейства аналитических множеств в $U$ суть снова аналитическое множество в $U$. Всякое аналитическое в $U$ множество замкнуто в $U$. Всякое компактное аналитическое множество в $U \subset \mathbb C ^ {n}$ состоит из конечного числа точек. Если $U$ связно и аналитическое множество $S \neq U$, то $U \setminus S$ открыто, всюду плотно в $U$ и тоже связно. Множество всех изолированных точек аналитического множества $S$ в $U$ не имеет в $U$ предельных точек. Более того, всякое аналитическое множество локально связно. Связное аналитическое множество линейно связно.

Всякое аналитическое множество в $U$ размерности $d$ локально в $U$ имеет конечную
$2d$-мерную меру Хаусдорфа $\mathop{\rm mes} _ {2d}$. Если ${ \mathop{\rm dim} _ {a} } S = k$, то существуют положительные константы, $c$ и $C$ (зависящие от $a$ и $S$) такие, что $$cr ^ {2k} \leqslant \mathop{\rm mes}\nolimits_{2k} ( S \cap \{ | z - a | < r \} ) \leqslant Cr ^ {2k}$$для всех достаточно малых $r > 0$.

Семейство аналитических множеств инвариантно относительно биголоморфных отображений. Более того, если $S$ – аналитическое множество в $U$ и $f: U \rightarrow U^ \prime$ – собственное голоморфное отображение, то $f(S)$ – аналитическое множество в $U ^\prime$.

Определение аналитического множества на комплексных многообразиях аналогично определению для $\mathbb C ^ {n}$; при этом сохраняются все перечисленные свойства, за исключением одного: в общем случае существуют компактные, но не дискретные аналитические множества. В конкретном многообразии аналитические множества могут обладать некоторыми дополнительными свойствами. Например, в комплексном $n$-мерном проективном пространстве всякое аналитическое множество является алгебраическим, т. е. совпадает с множеством общих нулей некоторого конечного набора однородных многочленов.

Действительные аналитические множества в открытых подмножествах $\mathbb R ^ {n}$ определяются так же, только вместо голоморфных надо брать действительные аналитические функции. Каждое действительное аналитическое множество является пересечением некоторого аналитического множества (в некотором открытом подмножестве $\mathbb C ^ {n}$) с действительным подпространством $\mathbb R ^ {n} \subset \mathbb C ^ {n}$.