Опти́ческая бистаби́льность, одно из проявлений самовоздействия света в нелинейных системах с обратной связью, при котором определённой интенсивности и поляризации падающего излучения соответствуют два возможных устойчивых стационарных состояния поля прошедшей волны, различающихся амплитудой и/или параметрами поляризации. Передаточные характеристики таких систем, определяющие зависимость стационарных значений интенсивности ${I}_{пр}$, степени эллиптичности ${ \varepsilon}_{пр}$ и угла наклона ${ \varphi}_{пр}$ главной оси эллипса поляризации прошедшего излучения от соответствующих характеристик входного излучения (${I}_{вх}$, ${ \varepsilon}_{вх}$, ${ \varphi}_{вх}$), неоднозначны и обладают ярко выраженными гистерезисными свойствами. Причиной возникновения неоднозначности передаточных характеристик в нелинейных системах является обратная связь. Если фиксированным значениям ${I}_{вх}$, ${ \varepsilon}_{вх}$, ${ \varphi}_{вх}$ соответствуют два устойчивых стационарных состояния поля прошедшего излучения, то в оптической системе реализуется оптическая бистабильность, если больше двух – оптическая мультистабильность.

В качестве оптически бистабильных устройств широко используются: пассивные оптические резонаторы (ОР) с нелинейной средой, в которых обратная связь возникает за счёт отражения от зеркал; системы с распределённой обратной связью; оптоэлектронные гибридные системы, в которых обратная связь осуществляется за счёт управления параметрами оптической среды электрическим сигналом с детектора прошедшего светового потока, и др.

В 1964 г. немецкий физик Г. Лашер предложил первый бистабильный инжекционный лазер на арсениде галлия. Первые эксперименты по оптическому гистерезису и оптической бистабильности в газовом лазере с нелинейно поглощающей ячейкой были выполнены В. Н. Лисицыным и В. П.Чеботаевым в 1968 г. Теоретически оптическая бистабильность в пассивных системах впервые рассмотрена В. Н. Луговым в 1969 г. при исследовании распространения света через ОР, в котором находилась среда с нелинейностью рамановского типа.

Оптическая бистабильность в кольцевом оптическом резонаторе с нелинейной средой при неизменной поляризации распространяющейся волны.Оптическая бистабильность в кольцевом оптическом резонаторе с нелинейной средой при неизменной поляризации распространяющейся волны.В приближении неизменности поляризации излучения, распространяющегося в ОР с нелинейной средой, возможно возникновение неоднозначной зависимости интенсивности проходящей волны ${I}_{пр}$ от интенсивности входящей ${I}_{вх}$ (см. рисунок). В этом случае оптическая бистабильность возникает при ${I}_{1}<{I}_{вх}<{I}_{2}$. При определённых значениях параметров ОР и нелинейной среды в этом диапазоне существуют две устойчивые ветви зависимости ${I}_{пр}({I}_{вх})$. При плавном увеличении ${I}_{вх}$ от нуля до ${I}_{2}$ интенсивность излучения на выходе ОР задаётся нижней ветвью зависимости ${I}_{пр}({I}_{вх})$. В точке ${I}_{2}$ происходит переход на верхнюю ветвь, и при дальнейшем увеличении ${I}_{вх}$ зависимость ${I}_{пр}({I}_{вх})$ становится однозначной. Если плавно уменьшать ${I}_{вх}$ от больших значений до ${I}_{1}$, то интенсивность на выходе ОР будет определяться верхней ветвью зависимости ${I}_{пр}({I}_{вх})$, а в точке ${I}_{1}$ произойдёт переход на нижнюю ветвь, после которого зависимость ${I}_{пр}({I}_{вх})$ становится однозначной. В результате циклического плавного изменения ${I}_{вх}$ от нуля до ${I}_{2}$ и обратно передаточная характеристика принимает вид петли гистерезиса, и если ${I}_{1}<{I}_{вх}<{I}_{2}$, то интенсивность ${I}_{пр}$ может быть либо большой, либо малой в зависимости от того, увеличивается или уменьшается ${I}_{вх}$. Такое бистабильное поведение лежит в основе двоичных переключающих устройств, которые можно применять в качестве миниатюрных низкоэнергетических оптических логических элементов, работающих при комнатной температуре.

В общем случае распространение интенсивного излучения в нелинейной среде сопровождается изменением его поляризации. Это происходит даже при распространении вдоль оптической оси, когда для излучения малой интенсивности поляризация не меняется в отсутствие гиротропии. При распространении вдоль оптической оси высокоинтенсивного плоскополяризованного излучения часто возникает поляризационная неустойчивость. Если среда помещена в ОР, то флуктуации поляризации могут нарастать во времени. В стационарном режиме прошедшее через ОР излучение оказывается в одном из двух симметричных состояний, различающихся знаком угла поворота эллипса поляризации относительно исходного направления и направлением вращения вектора напряжённости электрического поля. Эффекты поляризационного самовоздействия значительно усложняют изображённую на рисунке зависимость ${I}_{пр}({I}_{вх})$. Для каждого ${I}_{вх}$ имеется не два, а несколько значений ${I}_{пр}$ и, следовательно, несколько состояний поляризации прошедшего ОР излучения. Границы областей устойчивости стационарных состояний поля весьма чувствительны к изменению параметров падающего излучения, ОР и нелинейной среды. При этом в области неустойчивости могут возникать периодические и хаотические режимы изменения интенсивности и поляризации прошедшего излучения.