Вырожде́ние в квантовой теории, свойство квантовой системы (элементарной частицы, атомного ядра, атома, молекулы и т. п.), состоящее в возможности существования множества её различных состояний, в которых некоторая характеризующая систему измеримая физическая величина (наблюдаемая) принимает одинаковые значения. В пространстве векторов состояний системы каждая наблюдаемая имеет множество собственных векторов, отвечающих её возможным значениям, при этом заданному собственному значению может соответствовать один собственный вектор (состояние не вырождено), конечное или бесконечное число различных собственных векторов, которое называется кратностью вырождения. Вырождение собственных значений наблюдаемых является важной физической характеристикой системы. Например, вырождение уровней энергии атомов и молекул определяет статистические свойства систем большого числа частиц.

Вырождение, как правило, связано со свойствами симметрии системы. Так, с бесконечной кратностью вырождены собственные значения оператора энергии (гамильтониана) свободной частицы по всевозможным направлениям её импульса. Здесь проявляется симметрия свободного движения частицы относительно различных направлений в пространстве. По этой же причине вырождены уровни энергии частиц, движущихся в произвольном сферически симметричном поле; при этом состояния, отвечающие одной и той же энергии, отличаются значениями проекции орбитального момента на некоторое направление в пространстве. Для электронов в кулоновском поле ядер дополнительно имеет место т. н. случайное вырождение уровней энергии по значениям абсолютной величины орбитального момента. Оно обусловлено скрытой симметрией движения в кулоновском поле. В атомах имеет место также двукратное вырождение энергии электронов по проекции спина. Полные кратности вырождения уровней энергии атома равны 2, 8, 18, …; они определяют структуру периодической системы химических элементов (см. Атом).

Если симметрия системы нарушена некоторым дополнительным (малым) взаимодействием (возмущением), то вырождение может полностью или частично сниматься. Так, случайное вырождение уровней энергии атомов снимается при учёте экранировки электрического поля ядра электронами внутренних заполненных оболочек, а также при учёте спин-орбитального взаимодействия. При помещении атомов во внешнее электрическое или магнитное поле также происходит частичное снятие вырождения, благодаря чему их уровни энергии расщепляются (см. Эффект Штарка и Эффект Зеемана). Это связано с тем, что центральная симметрия гамильтониана атома нарушается до осевой симметрии относительно направления внешнего поля.

Основное состояние (состояние с минимальной энергией) квантовой системы, как правило, имеет симметрию гамильтониана. Если потенциальная энергия имеет минимум в некоторой области, симметрия которой ниже симметрии гамильтониана, то основное состояние оказывается вырожденным. Подобные модели со спонтанным нарушением симметрии широко применяются в современной квантовой теории поля (см. Вырождение вакуума). Рассматривается также возможная (гипотетическая) симметрия между бозонами и фермионами – частицами с целым и полуцелым спином – суперсимметрия, которая также приводит к вырождению уровней энергии.