Тео́рия катего́рий, раздел математики, изучающий такие свойства математических объектов, которые зависят от их отношений друг к другу. Теория категорий занимает важное место в современной математике, она также находит применение в информатике и теоретической физике.

Категория – понятие, выделяющее ряд алгебраических свойств совокупностей морфизмов (отображений) однотипных математических объектов (множеств, топологических пространств, групп и т. п.) друг в друга при условии, что эти совокупности содержат тождественные отображения и замкнуты относительно последовательного выполнения (композиции или умножения) отображений. Категория $\mathscr{A}$ состоит из класса $\operatorname{Ob}\mathscr{A}$, элементы которого называются объектами категории, и класса $\operatorname{Mor}\mathscr{A}$, элементы которого называются морфизмами категории и обозначаются обычно $\operatorname{Mor}_\mathscr{A}(A,B),A,B \in \operatorname{ Ob}\mathscr{A}$. Входящее в определение категории понятие класса предполагает использование такой аксиоматики теории множеств, в которой различаются понятия множества и класса. Наиболее употребительной является аксиоматика фон Неймана – Бернайса – Гёделя.

Основным в теории категорий является понятие функтора – отображения из категории $\mathscr{A}$ в категорию $\mathscr{B}$, сопоставляющее объектам и морфизмам в $\mathscr{A}$ объекты и морфизмы в $\mathscr{B}$. Каждой категории$\mathscr{A}$ может быть сопоставлена двойственная, или дуальная, категория $\mathscr{A^*}$, для которой $\operatorname{Ob}\mathscr{A^*}= \operatorname{Ob}\mathscr{A}$ и $\operatorname{Mor}_\mathscr{A^*}(A,B)= \operatorname{Mor}_\mathscr{A}(B,A)$ для любых $A,B \in\operatorname{Ob}\mathscr{A}$. Для каждого предложения теории категорий существует двойственное (дуальное) предложение, при этом справедлив т. н. принцип двойственности: предложение $p$ истинно в теории категорий тогда и только тогда, когда в этой теории истинно двойственное предложение $p^*$.

Примеры категорий. 1) Категория множеств $\operatorname{Ens}$: класс $\operatorname{Ob}\operatorname{Ens}$ состоит из всевозможных множеств, класс $\operatorname{Mor}\operatorname{Ens}$ – из всевозможных отображений множеств друг в друга, а композиция совпадает с последовательным выполнением отображений. 2) Категория групп $\operatorname{Gr}$: класс $\operatorname{Ob}\operatorname{Gr}$ состоит из всевозможных групп, класс $\operatorname{Mor}\operatorname{Gr}$ – из всех гомоморфизмов групп, а композиция совпадает с последовательным выполнением гомоморфизмов. 3) Полугруппа с единицей является категорией с одним объектом, и наоборот, каждая категория, состоящая из одного объекта, есть полугруппа с единицей.

Все перечисленные категории допускают изоморфное вложение в категорию множеств. Категории, обладающие этим свойством, называются конкретными категориями. Число примеров категорий можно значительно увеличить при помощи различных конструкций, и прежде всего при помощи категорий функторов или категорий диаграмм (отображение некоторого ориентированного графа в категорию).

Понятие категории было введено американским учёными С. Эйленбергом и С. Маклейном (1945). Своим происхождением и первоначальными стимулами развития теория категорий обязана алгебраической топологии. Последующие исследования выявили объединяющую и унифицирующую роль понятия категории и связанного с ним понятия функтора для многих разделов математики. Теоретико-категорный анализ основ теории гомологий привёл к выделению в середине 1950-х гг. т. н. абелевых категорий, в рамках которых оказалось возможным осуществить основные построения гомологической алгебры. В 1960-е гг. определился возрастающий интерес к неабелевым категориям, вызванный задачами логики, общей алгебры, топологии и алгебраической геометрии. Интенсивное развитие универсальной алгебры и аксиоматического построения теории гомотопий положили начало различным направлениям исследований: категорному изучению многообразий универсальных алгебр, теории изоморфизмов прямых разложений, теории сопряжённых функторов и теории двойственности функторов. В дальнейшем обнаружились существенные взаимосвязи между этими исследованиями. Например, была установлена двойственность между теорией гомотопий и теорией универсальных алгебр. В алгебраической геометрии существенно используются т. н. произвольные категории.