Тео́рия мно́жеств, раздел математики, в котором изучаются свойства множеств, преимущественно бесконечных. Понятие множества, или совокупности, принадлежит к числу исходных математических понятий; оно формально не определяется, но может быть пояснено при помощи примеров. Так, можно говорить о множестве всех книг, составляющих данную библиотеку, множестве всех точек данной линии, множестве всех решений данного уравнения. Книги данной библиотеки, точки данной линии, решения данного уравнения являются элементами соответствующего множества. Чтобы определить множество, достаточно указать характеристическое свойство его элементов, т. е. такое свойство, которым обладают все элементы этого множества, и только они. Может случиться, что данным свойством не обладает вообще ни один объект; тогда говорят, что это свойство определяет пустое множество. То, что данный объект $x$ есть элемент множества $M$, записывают как $x∈M$.

Если каждый элемент множества $A$ является в то же время элементом множества $B$, то множество $A$ называется подмножеством множества $B$. Это записывают как $A⊂B$ или $B⊃A$. Подмножеством данного множества $B$ является и само множество $B$. Если $A⊂B$ и $A⊃B$, то множества $А$ и $B$ называют равными и пишут $A=B$. Пустое множество, по определению, считают подмножеством любого множества. Всякое непустое подмножество $A$ данного множества $B$, отличное от всего множества $B$, называют правильной частью последнего (вместо символа включения $⊂$ иногда используют символ включения $⊆$; в этом случае запись $A⊂B$ означает, что $A$ есть правильная часть $B$).

Мощность множеств

Первым вопросом, возникшим в применении к бесконечным множествам, был вопрос о возможности их сравнения между собой. Ответ на этот и близкие вопросы дал в конце 1870-х гг. Г. Кантор, основавший теорию множеств как математическую науку. Возможность сравнительной оценки множеств опирается на понятие взаимно однозначного соответствия между двумя множествами. Пусть каждому элементу множества $A$ поставлен в соответствие с помощью какого-либо правила или закона некоторый определённый элемент множества $B$; если при этом каждый элемент множества $B$ оказывается поставленным в соответствие одному и только одному элементу множества $A$, то говорят, что между множествами $A$ и $B$ установлено взаимно однозначное соответствие. Между двумя конечными множествами можно установить взаимно однозначное соответствие тогда и только тогда, когда оба множества состоят из одинакового числа элементов. Обобщая этот факт, определяют эквивалентность или равномощность двух бесконечных множеств как возможность установить между ними взаимно однозначное соответствие.

Ещё до создания теории множеств Б. Больцано владел, с одной стороны, вполне точно сформулированным понятием взаимно однозначного соответствия, с другой стороны, считал несомненным существование бесконечностей различных ступеней; однако он не только не сделал взаимно однозначное соответствие основой установления равносильности множеств, но решительно возражал против этого. Больцано останавливало то, что бесконечное множество может находиться во взаимно однозначном соответствии со своей правильной частью. Например, если каждому натуральному числу $n$ поставить в соответствие натуральное число $2n$, то получается взаимно однозначное соответствие между множеством всех натуральных и множеством всех чётных чисел. Вместо того чтобы в применении к бесконечным множествам отказаться от положения, состоящего в том, что часть меньше целого, Больцано отказался от взаимной однозначности как критерия равномощности. В каждом бесконечном множестве $M$ имеется правильная часть, равномощная всему множеству $M$, тогда как ни в одном конечном множестве такой правильной части не существует. Поэтому наличие правильной части, равномощной целому, можно принять за определение бесконечного множества.

Для двух бесконечных множеств $A$ и $B$ возможны следующие 3 случая: либо в $A$ есть правильная часть, равномощная $B$, но в $B$ нет правильной части, равномощной $A$; либо, наоборот, в $B$ есть правильная часть, равномощная $A$, а в $A$ нет правильной части, равномощной $B$; либо, наконец, в $A$ есть правильная часть, равномощная $B$, и в $B$ есть правильная часть, равномощная $A$. Доказывается, что в 3-м случае множества $A$ и $B$ равномощны (теорема Кантора – Бернштейна). В 1-м случае говорят, что мощность множества $A$ больше мощности множества $B$, во 2-м – что мощность множества $B$ больше мощности множества $A$. Формально возможный 4-й случай – в $A$ нет правильной части, равномощной $B$, а в $B$ нет правильной части, равномощной $A$, – в действительности для бесконечных множеств осуществиться не может.

Ценность понятия мощности множества связана с существованием неравномощных бесконечных множеств. Например, множество всех подмножеств данного множества $M$ имеет мощность бо́льшую, чем множество $M$. Множество, равномощное множеству всех натуральных чисел, называется счётным множеством. Мощность счётных множеств есть наименьшая мощность, которую может иметь бесконечное множество; всякое бесконечное множество содержит счётную правильную часть. Кантор доказал, что множество всех рациональных и даже всех алгебраических чисел счётно, тогда как множество всех действительных чисел несчётно. Из этого следует, в частности, доказательство существования т. н. трансцендентных чисел, т. е. действительных чисел, не являющихся корнями никакого алгебраического уравнения с целыми коэффициентами (и даже несчётность множества таких чисел). Мощность множества всех действительных чисел называется мощностью континуума. Множеству всех действительных чисел равномощны множество всех подмножеств счётного множества, множество всех комплексных чисел и, следовательно, множество всех точек плоскости, а также множество всех точек $n$-мерного пространства при любом $n$. Кантор высказал гипотезу о том, что всякое множество, состоящее из действительных чисел, либо конечно, либо счётно, либо равномощно множеству всех действительных чисел; с этим связаны континуум-гипотеза и проблема континуума.

Отображения множеств

В теории множеств понятие функции, геометрическое понятие отображения или преобразования фигуры приводят к общему понятию отображения одного множества в другое. Пусть даны два множества $X$ и $Y$ и каждому элементу $x∈X$ поставлен в соответствие некоторый определённый элемент $y=f(x)$ множества $Y$; тогда говорят, что имеется отображение множества $X$ в множество $Y$ или что имеется функция, аргумент $x$ которой пробегает множество $X$, а значения $y$ принадлежат множеству $Y$; при этом для каждого данного $x∈X$ элемент $y=f(x)$ множества $Y$ называется образом элемента $x$ при данном отображении или значением данной функции для данного значения $x$ её аргумента.

Примеры:

1. Пусть в плоскости с данной на ней прямоугольной системой координат задан квадрат с вершинами $(0; 0)$, $(0; 1)$, $(1; 0)$, $(1; 1)$ и этот квадрат спроектирован, например, на ось абсцисс; эта проекция есть отображение множества $X$ всех точек квадрата в множество $Y$ всех точек его основания; точке с координатами $(x; y)$ соответствует точка $(x; 0)$.

2. Пусть $X$ – множество всех действительных чисел; если для каждого действительного числа $x∈X$ положить $y=f(x)=x^3$, то тем самым будет установлено отображение множества $X$ в себя.

3. Пусть $X$ – множество всех действительных чисел; если для каждого $x∈X$ положить $y=f(x)=\text {arctg}\, x$, то этим будет установлено отображение множества $X$ в интервал $(-π/2, π/2)$.

Взаимно однозначное соответствие между двумя множествами $X$ и $Y$ есть такое отображение множества $X$ в множество $Y$, при котором каждый элемент множества $Y$ является образом одного и только одного элемента множества $X$. Отображения примеров 2 и 3 взаимно однозначны, примера 1 – нет.

Операции над множествами

Суммой, или объединением, конечного или бесконечного множества множеств называется множество всех тех элементов, каждый из которых есть элемент хотя бы одного из данных множеств-слагаемых. Объединение множеств $A$ и $B$ обозначается $A∪B$. Пересечением любого конечного или бесконечного множества множеств называется множество всех элементов, принадлежащих всем данным множествам. Пересечение множеств $A$ и $B$ обозначается $A∩B$. Пересечение непустых множеств может быть пустым. Разностью между множеством $B$ и множеством $A$ называется множество всех элементов из $B$, не являющихся элементами из $A$; эта разность обозначается $BA$; разность между множеством $B$ и его частью $A$ называется дополнением множества $A$ в множестве $B$ и обозначается $B \setminus A$.

Операции сложения и пересечения множеств обладают ассоциативностью и коммутативностью. Операция пересечения, кроме того, обладает дистрибутивностью по отношению к сложению и вычитанию. Если эти операции производить над множествами, являющимися подмножествами одного и того же множества $M$, то и результат будет подмножеством множества $M$. Указанным свойством не обладает т. н. внешнее умножение множеств, внешним произведением множеств $X$ и $Y$ или прямым произведением множеств $X$ и $Y$ называется множество $X×Y$ всевозможных пар $(x, y)$, где $x∈X$, $y∈Y$. Другим в этом смысле внешним действием является возведение в степень: степенью $Y^X$ называется множество всех отображений множества $X$ в множество $Y$. Можно определить внешнее умножение любого множества множеств так, что в случае совпадения множителей оно перейдёт в возведение в степень. Если $ξ$ и $η$ суть мощности множеств $X$ и $Y$, то $ξ·η$ и $η^ξ$ определяются соответственно как мощности множеств $X×Y$ и $Y^X$, что в случае конечных множеств согласуется с умножением и возведением в степень натуральных чисел. Аналогично определяется сумма мощностей как мощность суммы попарно непересекающихся множеств с заданными мощностями.

Упорядоченные множества

В данном множестве $X$ можно установить порядок, т. е. определить для некоторых пар $x', x''$ элементов этого множества какое-либо правило предшествования (следования), выражаемое словами «элемент $x'$ предшествует элементу $x''$» (или, что то же, «элемент $x''$ следует за элементом $x'$»), что записывается $x'≺x''$; при этом предполагается, что для данного отношения порядка выполнено условие транзитивности, т. е. если $x≺x'$ и $x'≺x''$, то $x≺x''$. Множество, рассматриваемое вместе с каким-либо установленным в нём порядком, называется частично упорядоченным множеством; иногда – упорядоченным множеством. Однако чаще упорядоченным множеством называется частично упорядоченное множество, в котором порядок удовлетворяет следующим дополнительным требованиям (линейного порядка): 1) никакой элемент не предшествует самому себе; 2) из всяких двух различных элементов $x, x'$ один предшествует другому, т. е. если $x≠x'$, то или $x≺x'$, или $x''≺x$.

Примеры:

1. Любое множество, элементами которого являются некоторые множества $x$, является частично упорядоченным по включению, если считать, что $x≺x'$, если $x⊂x'$.

2. Любое множество функций $f$, определённых на числовой прямой, становится частично упорядоченным, если считать, что $f_1≺f_2$, тогда и только тогда, когда для каждого действительного числа $x$ справедливо неравенство $f_1(x)⩽f_2(x)$.

3. Любое множество действительных чисел линейно упорядочено, если считать, что меньшее из двух чисел предшествует большему.

Два упорядоченных множества называются подобными, или имеющими один и тот же порядковый тип, если между ними можно установить взаимно однозначное соответствие, сохраняющее порядок. Элемент упорядоченного множества называется первым, если он предшествует всем остальным элементам; аналогично определяется и последний элемент. Например, в упорядоченном множестве всех действительных чисел нет ни первого, ни последнего элемента; в упорядоченном множестве всех неотрицательных чисел нуль есть первый элемент, а последнего элемента нет; в упорядоченном множестве всех действительных чисел $x$, удовлетворяющих неравенствам $a⩽x⩽b$, число $a$ есть первый элемент, $b$ – последний.

Упорядоченное множество называется вполне упорядоченным, если оно само и всякое его правильное подмножество имеют первый элемент. Порядковые типы вполне упорядоченных множеств называются порядковыми, или ординальными, числами. Если вполне упорядоченное множество конечно, то его порядковое число есть натуральное число. Порядковый тип бесконечного вполне упорядоченного множества называется трансфинитным числом.

Точечные множества

Теория точечных множеств, т. е. множеств, элементами которых являются действительные числа (точки числовой прямой), а также точки многомерных пространств, основана Г. Кантором, который ввёл понятие предельной точки множества и связанные с ним понятия замкнутого множества и др. Развитие теории точечных множеств привело к понятиям метрического пространства и топологического пространства, изучением которых занимается общая топология. Самостоятельно существует дескриптивная теория множеств, основанная французскими математиками Р. Бэром и А. Лебегом в связи с классификацией разрывных функций (1905). Дескриптивная теория множеств началась с изучения и классификации т. н. борелевских множеств ($B$-множеств). Борелевские множества определяются как множества, которые могут быть построены из замкнутых множеств применением операций объединения и пересечения в любых комбинациях, но каждый раз к конечному или к счётному множеству множеств. Дальнейшее развитие дескриптивной теории множеств осуществлялось преимущественно русскими и польскими математиками, особенно московской математической школой, созданной Н. Н. Лузиным (П. С. Александров, А. Н. Колмогоров, М. А. Лаврентьев, П. С. Новиков, М. Я. Суслин). Александров доказал (1916), что всякое бесконечное несчётное борелевское множество имеет мощность континуума. Аппарат этого доказательства был применён Суслиным для построения теории т. н. $A$-множеств, охватывающих как частный случай борелевские или $B$-множества, считавшиеся до того единственными множествами, которые могут встретиться в математическом анализе. Суслин показал, что множество, дополнительное к $A$-множеству $M$, является само $A$-множеством только в том случае, когда множество $M$ – борелевское (дополнение к борелевскому множеству всегда есть борелевское множество). При этом оказалось, что $A$-множества совпадают с непрерывными образами множества всех иррациональных чисел. Теория $A$-множеств в течение нескольких лет оставалась в центре внимания дескриптивной теории множеств до того, как Лузин пришёл к общему определению проективных множеств, которые могут быть получены из множества всех иррациональных чисел при помощи повторного применения операций вычитания и непрерывного отображения. К теории $A$-множеств и проективных множеств относятся также работы Новикова и др. Дескриптивная теория множеств тесно связана с исследованиями по основаниям математики (с вопросами эффективной определимости математических объектов и разрешимости математических проблем).

Роль теории множеств в развитии математики

Влияние теории множеств на развитие современной математики очень велико. Прежде всего теория множеств явилась фундаментом ряда математических дисциплин, например теории функций действительного переменного, общей топологии, общей алгебры, функционального анализа. Теоретико-множественные методы применяются и в классических разделах математики. Например, они широко применяются в качественной теории дифференциальных уравнений, вариационном исчислении, теории вероятностей. Теория множеств оказала глубокое влияние на понимание самого предмета математики, в частности таких её разделов, как геометрия. Только теория множеств позволила отчётливо сформулировать понятие изоморфизма систем объектов, заданных вместе со связывающими их отношениями, и привела к пониманию того, что каждая математическая теория в её чистой абстрактной форме изучает ту или иную систему объектов лишь с точностью до изоморфизма, т. е. может быть без всяких изменений перенесена на любую систему объектов, изоморфную той, для изучения которой теория была первоначально создана. В вопросах обоснования математики, т. е. создания строгого, логически безупречного построения математических теорий, следует иметь в виду, что сама теория множеств нуждается в обосновании применяемых в ней методов рассуждения. Более того, все логические трудности, связанные с понятием бесконечности, при переходе на точку зрения общей теории множеств приобретают бо́льшую отчётливость.