Катего́рия, понятие, выделяющее ряд алгебраических свойств совокупностей морфизмов однотипных математических объектов (множеств, топологических пространств, групп и т. п.) друг в друга при условии, что эти совокупности содержат тождественные отображения и замкнуты относительно последовательного выполнения (суперпозиции или умножения) отображений. Категория $\mathfrak{K}$ состоит из класса $\operatorname{Ob} \mathfrak{K}$, элементы которого называются объектами категории, и класса $\operatorname{Mor}\mathfrak{K}$, элементы которого называются морфизмами категории. Эти классы должны удовлетворять следующим условиям:

1) Каждой упорядоченной паре объектов $A$, $B$ сопоставлено множество $H_{\mathfrak{K} }(A, B)$ [обозначаемое также $\operatorname{Hom}(A, B)$ или $H(A, B)$] из $\operatorname{Mor}$; если $\alpha \in H(A, B)$, то говорят, что $A$ – начало, или область определения, морфизма $\alpha$, а $B$ – конец, или область значений, $\alpha$; часто вместо $\alpha \in H(A, B)$ пишут $\alpha \colon A \rightarrow B$ или $A \stackrel{\alpha}{\rightarrow} B$.

2) Каждый морфизм категории принадлежит одному и только одному множеству $H_{\mathfrak{K}}(A, B)$.

3) В классе $\operatorname{Mor}\mathfrak{K}$ задан частичный закон умножения: произведение морфизмов $\alpha \colon A \rightarrow B$ и $\beta \colon C \rightarrow D$ определено тогда и только тогда, когда $B=C$ и принадлежит множеству $H(A, D)$, произведение $\alpha$ и $\beta$ обозначается $\alpha \beta$ или $\beta \alpha$.

4) Для любых морфизмов $\alpha \colon A \rightarrow B$, $\beta \colon B \rightarrow C$ и $\gamma \colon C \rightarrow D$ справедлив закон ассоциативности:$$(\alpha \beta) \gamma=\alpha(\beta \gamma).$$5) В каждом множестве $H_{\mathfrak{K} }(A, A)$ содержится такой морфизм $1_A$, что $\alpha \cdot 1_A=\alpha$ и $1_A \cdot \beta=\beta$ для любых морфизмов $\alpha \colon X \rightarrow A$ и $\beta \colon A \rightarrow Y$; морфизмы $1_A$ называются единичными, тождественными или единицами.

Входящее в определение категории понятие класс предполагает использование такой аксиоматики теории множеств, которая различает множества и классы. Наиболее употребительной является аксиоматика Гёделя – Бёрнсайда – Неймана.

Иногда в определении категории не требуют, чтобы классы $H(A, B)$ являлись множествами. Иногда вместо использования классов предполагается существование универсального множества и требуется принадлежность классов $\operatorname{Ob} \mathfrak{K}$ и $\operatorname{Mor \mathfrak{K}}$ фиксированному универсальному множеству.

Поскольку между единицами категории $\mathfrak{K}$ и классом $\operatorname{Ob}\mathfrak{K}$ имеется биективное соответствие, категорию можно определить как класс морфизмов с частичным умножением, удовлетворяющим дополнительным требованиям (Цаленко. 1974, Freyd. 1964).

Понятие категории было введено в 1945 г. (Eilenberg. 1945). Своим происхождением и первоначальными стимулами развития теория категорий обязана алгебраической топологии. Последующие исследования выявили объединяющую и унифицирующую роль понятия категории и связанного с ним понятия функтора для многих разделов математики.

Примеры категорий:

1) Категория множеств $\operatorname{Ens}$; класс $\operatorname{Ob} \operatorname{Ens}$ состоит из всевозможных множеств, класс $\operatorname{Mor} \operatorname{Ens}$ – из всевозможных отображений множеств друг в друга, а умножение совпадает с последовательным выполнением отображений (см. в статье Категория множества).

2) Категория топологических пространств $\operatorname{Top}$ (или $\mathfrak{T}$); класс $\operatorname{Ob} \operatorname{Top}$ состоит из всевозможных топологических пространств, класс $\operatorname{Mor} \operatorname{Top}$ – из всех непрерывных отображений топологических пространств, а умножение снова совпадает с последовательным выполнением отображений.

3) Категория групп $\operatorname{Gr}$ (или $\mathfrak{G}$); класс $\operatorname{Ob} \operatorname{Gr}$ состоит из всевозможных групп, класс $\operatorname{Mor} \operatorname{Gr}$ – из всех гомоморфизмов групп, а умножение опять совпадает с последовательным выполнением гомоморфизмов (см. в статье Категория групп). По аналогии с этими примерами можно ввести категории векторных пространств над некоторым телом, категорию колец и т. п.

4) Категория бинарных отношений множеств $\operatorname{Rel}\operatorname{Ens}$ [или $R(\mathfrak{S})$]; класс объектов этой категории совпадает с классом $\operatorname{Ob}\operatorname{Ens}$, a морфизмами множества $A$ в множество $B$ служат бинарные отношения этих множеств, т. е. всевозможные подмножества декартова произведения $A \times B$; умножение совпадает с умножением бинарных отношений.

5) Полугруппа с единицей является категорией с одним объектом, и наоборот: каждая категория, состоящая из одного объекта, есть полугруппа с единицей.

6) Предупорядоченное множество $N$ можно рассматривать как категорию $\mathfrak{N}$, для которой $\operatorname{Ob}\mathfrak{N} =N$ и $\operatorname{Mor}\mathfrak{N}=\{(a, b) \mid a, b \in N, а \leqslant b\}$, а умножение определяется равенством $(a, b)(b, c)=(a, c)$.

Все перечисленные выше категории допускают изоморфное вложение в категории множеств. Категории, обладающие указанным свойством, называются конкретными категориями. Не всякая категория конкретна; например, такова категория, объектами которой являются все топологические пространства, а морфизмами – классы гомотопных отображений (Freyd. 1970).

Запас примеров категорий можно значительно расширить при помощи различных конструкций, и прежде всего при помощи категории функторов или категории диаграмм.

Отображение $F \colon \mathfrak{K} \rightarrow \mathfrak{K}^\prime$ категории $\mathfrak{K}$ в категорию $\mathfrak{K}^\prime$ называется ковариантным функтором, если для каждого объекта $A \in\operatorname{Ob}\mathfrak{K}$ объект $F(A) \in\operatorname{Ob}\mathfrak{K}^\prime$, для каждого морфизма $\alpha \in H_{\mathfrak{K}}(A, B)$ образ $F(\alpha) \in H_{\mathfrak{K}^{\prime}}(F(A), F(B))$, причём $F\left(1_A\right)=1_{F(A)}$ и $F(\alpha \beta)=F(\alpha) \times F(\beta)$ всякий раз, когда определено произведение $\alpha \beta$. Если объекты категории $\mathfrak{K}$ составляют множество, то можно построить категорию диаграмм $\operatorname{Funct}(\mathfrak{K}, \,)$ или $F(\mathfrak{K}, \mathfrak{K}^{\prime})$, объектами которой являются всевозможные ковариантные функторы из $\mathfrak{K}$ в $\mathfrak{K}$, а морфизмами – всевозможные естественные преобразования этих функторов.

Каждой категории $\mathfrak{K}$ может быть сопоставлена двойственная, или дуальная, категория $\mathfrak{K}^*$, или $\mathfrak{K}^T$, для которой $\operatorname{Ob}\mathfrak{K}^*=\operatorname{Ob}\mathfrak{K}$ и $H_{\mathfrak{K}^*}(A, B)=H_{\mathfrak{K}}(B, A)$ для любых $A, B \in \operatorname{Ob} \mathfrak{K}$. Ковариантный функтор из $\mathfrak{K}^*$ в $\mathfrak{K}^{\prime}$ называется контравариантным функтором из $\mathfrak{K}$ в $\mathfrak{K}$. Наряду с функторами одного аргумента можно рассматривать многоместные функторы, или функторы от многих аргументов.

Для каждого предложения теории категорий существует двойственное (дуальное) предложение, которое получается формальным «обращением стрелок». При этом справедлив т. н. принцип двойственности: предложение $p$ истинно в теории категории тогда и только тогда, когда в этой теории истинно двойственное предложение $p^*$.

Многие понятия и результаты в математике оказались двойственными друг другу с категорной точки зрения: инъективность и проективность, нильпотентность и категория топологического пространства в смысле Люстерника – Шнирельмана, многообразия и радикалы в алгебре и т. д.

Теоретико-категорный анализ основ теории гомологий привёл к выделению в середине 50-х гг. 20 в. т. н. абелевых категорий, в рамках которых оказалось возможным осуществить основные построения гомологической алгебры (Гротендик. 1961). В 60-е гг. 20 в. определился возрастающий интерес к неабелевым категориям, вызванный задачами логики, общей алгебры, топологии и алгебраической геометрии. Интенсивное развитие универсальной алгебры и аксиоматического построения теории гомотопий положили начало различным направлениям исследований: категорному изучению многообразий универсальных алгебр, теории изоморфизмов прямых разложений, теории сопряжённых функторов и теории двойственности функторов. Последующее развитие обнаружило существенные взаимосвязи между этими исследованиями. Благодаря возникшей в последние годы теории относительных категорий, широко использующей технику сопряжённых функторов и замкнутых категорий, была установлена двойственность между теорией гомотопий и теорией универсальных алгебр, основанная на интерпретации категорных определений моноида и комоноида в подходящих категориях функторов (Bunge. 1969). Наряду с развитием общей теории относительных категорий, шло выделение специальных классов таких категорий: $2$-категории, или формальные категории, категории с инволюцией, или $1$-категории, включающие, в частности, категорию бинарных отношений, и т. д. В частности, $2$-категорией является категория малых категорий, которая может быть положена в основу аксиоматического построения математики.

Перечисленные классы категорий характеризуются тем, что их множества морфизмов $H(A, B)$ обладают дополнительной структурой. Другой способ введения дополнительных структур в категории связан с заданием в категории топологии и построении категории пучков над топологизированной категорией (т. н. топосы).