Магнитоо́птика, раздел оптики, изучающий явления взаимодействия оптического излучения с веществом, находящимся во внешнем магнитном поле или намагниченным вследствие иных причин (например, спонтанно или под действием оптической накачки). Намагниченность среды проявляется не только в изменении её спектров поглощения и показателей преломления, но и в появлении (или изменении) её оптической анизотропии. Наводимая магнитным полем циркулярная (круговая) анизотропия среды связана с неэквивалентностью направлений вращения в плоскости, перпендикулярной полю. Это определяется характерными симметрийными свойствами аксиального вектора напряжённости магнитного поля.

Большинство магнитооптических эффектов, наблюдаемых во внешнем магнитном поле, является прямым или косвенным следствием магнитного расщепления уровней энергии системы, непосредственно проявляющегося в эффекте Зеемана – расщеплении спектральных линий оптических переходов в магнитном поле. В магнитоупорядоченных средах магнитное расщепление уровней энергии происходит за счёт внутреннего эффективного поля (поля Вейса). В отсутствие магнитных полей магнитооптические эффекты, как правило, являются результатом поляризационной неэквивалентности энергетически вырожденных оптических переходов.

Основные явления магнитооптики можно классифицировать по признаку взаимной ориентации волнового вектора светового излучения $\boldsymbol{K}$ и вектора напряжённости магнитного поля $\boldsymbol{H}$ (или вектора намагниченности среды $\boldsymbol{M}$). При коллинеарном расположении этих векторов (т. н. геометрия Фарадея) в среде возникает циркулярная анизотропия и, соответственно, появляются различные свойства для света левой и правой круговой поляризации. При распространении света поперёк поля (геометрия Фойгта) свойства среды оказываются различными для света, линейно поляризованного вдоль и поперёк поля, т. е. среда становится линейно анизотропной.

В области поглощения оптическая анизотропия намагниченной среды проявляется в первую очередь в виде дихроизма – различия коэффициентов поглощения среды для двух ортогональных поляризаций. В геометрии Фойгта – это магнитный линейный дихроизм, а в геометрии Фарадея – магнитный циркулярный (круговой) дихроизм. В области прозрачности среды аналогичные эффекты магнитоиндуцированной анизотропии проявляются в виде магнитного линейного и магнитного циркулярного двупреломления в геометрии Фойгта и Фарадея (соответственно эффект Коттона – Мутона и эффект Фарадея).

Оптическая анизотропия намагниченной среды проявляется и при отражении света от её поверхности. Характер изменения поляризационного состояния света при отражении зависит от взаимного расположения поверхности, плоскости поляризации света и вектора намагниченности. Этот эффект наблюдается в первую очередь в магнитоупорядоченных средах (металлах и диэлектриках) и называется магнитооптическим эффектом Керра.

Внешнее магнитное поле влияет также на пространственные, поляризационные и временны́е характеристики вторичного свечения веществ (люминесценцию, комбинационное рассеяние, оптические гармоники и т. д.). Один из таких магнитооптических эффектов состоит в изменении диаграммы направленности и уменьшении степени поляризации резонансной люминесценции атомных паров в слабых магнитных полях вследствие изменения соотношения между периодом прецессии момента атома во внешнем поле и временем жизни возбуждённого состояния (эффект Ханле).

Специфические магнитооптические свойства возникают в полупроводниковых кристаллах, энергетическая структура которых формируется делокализованными зонными и экситонными состояниями. Плотность зонных состояний полупроводника во внешнем магнитном поле приобретает осциллирующий, квазидискретный характер вследствие расщепления зон на системы подзон Ландау, отстоящих друг от друга на величину кванта ${ℏω}_{Н}$, где ${ω}_{Н}$ – циклотронная частота, ${ℏ}$ – постоянная Планка. Возникающие при этом осцилляции магнитопоглощения используются для точного определения параметров зонной структуры полупроводника и характеристик носителей заряда. Эффективность применения магнитооптических методов к исследованиям магнитоупорядоченных кристаллов определяется тем, что внешнее магнитное поле, конкурируя с внутренним обменным полем, способно повлиять на магнитное состояние системы. Магнитооптические исследования обменных взаимодействий, магнитных фазовых переходов и магнитной структуры упорядоченных кристаллов, требующие полей, сопоставимых по величине с эффективным внутренним полем (напряжённостью порядка 10⁷ А/м), часто проводятся с использованием мощных сверхпроводящих и импульсных магнитов.

Выразительные магнитооптические эффекты наблюдаются в жидких кристаллах, состоящих, как правило, из диамагнитных молекул и обладающих сильной анизотропией магнитной восприимчивости и электрической поляризуемости. Магнитная восприимчивость молекул жидких кристаллов невелика, но из-за кооперативного характера отклика кристалла на внешнее магнитное поле энергия магнитного взаимодействия может оказаться достаточной для изменения его ориентационной упорядоченности. В свою очередь, изменение ориентационной структуры жидкого кристалла вследствие сильной оптической анизотропии молекул приводит к магнитоиндуцированным изменениям величины и характера двойного лучепреломления. Магнитоиндуцированная оптическая анизотропия проявляется и в изотропной фазе жидких кристаллов в виде аномального роста кристаллов при приближении к точке фазового перехода.

Среди эффектов светоиндуцированного изменения намагниченности среды наибольший интерес представляет явление оптической ориентации. Поглощение атомами циркулярно поляризованных фотонов приводит к возникновению или изменению намагниченности системы. Оптическая ориентация может возникать под действием излучения сколь угодно малой интенсивности при достаточно малых скоростях релаксации намагниченности.

Феноменологически близкий эффект может наблюдаться при воздействии мощного циркулярно поляризованного излучения на прозрачную диэлектрическую среду. В этом случае намагниченность среды создаётся вращающимся переменным электрическим полем, действующим подобно эффективному магнитному полю: знак намагниченности определяется знаком циркулярной поляризации света. В некотором смысле этот эффект обратен эффекту вращения плоскости поляризации в магнитном поле, и поэтому его называют обратным эффектом Фарадея. Он наблюдается лишь при таких амплитудах электромагнитного поля, когда заметна роль нелинейной поляризуемости среды. Экспериментально этот эффект наблюдался в кристаллах с примесными парамагнитными центрами, а также в парáх металлов.

Один из фундаментальных магнитооптических эффектов – магнитное двупреломление вакуума – обусловлен виртуальным рождением электрон-позитронных пар под действием света и может рассматриваться как эффект рассеяния света на магнитном поле. Эффект предсказан теоретически, но экспериментально не наблюдался в силу своей малой величины.

Оптическая регистрация изменений намагниченности парамагнетика под действием резонансного СВЧ-поля используется как метод детектирования эффекта электронного парамагнитного резонанса (ЭПР). Оптическая регистрация ЭПР в возбуждённом электронном состоянии осуществляется, как правило, детектированием изменений поляризационных, пространственных или спектральных характеристик люминесценции, сопровождающей дезактивацию этого состояния.

Исследование оптического отклика вещества на приложенное переменное магнитное поле позволяет получать информацию о магнитной восприимчивости среды, которая, в свою очередь, содержит сведения о динамике парамагнитной релаксации системы; об энергетической структуре основных электронных состояний магнетика; о взаимодействии парамагнитных центров друг с другом и со своим окружением в диапазоне энергий зеемановского расщепления.

Магнитооптические эффекты используются в устройствах записи и хранения информации, в системах управления лазерным излучением (для создания дефлекторов, оптических затворов, для модуляции света и др.), при создании прецизионных магнитометров, при конструировании невзаимных оптических элементов, лазерных гироскопов, элементов интегральной оптики и др.