Гига́нтская опти́ческая нелине́йность жи́дких криста́ллов, изменение показателя преломления нематического жидкого кристалла в поле световой волны; характеризуется коэффициентом нелинейности, превышающим на 9 порядков соответствующие значения для керровской нелинейности обычных жидкостей.

Гигантская оптическая нелинейность жидких кристаллов проявляется за счёт изменения ориентации нематического жидкого кристалла (НЖК). Директор НЖК стремится ориентироваться вдоль вектора напряжённости необыкновенной компоненты световой волны. Ориентационное действие света на НЖК обусловлено анизотропией диэлектрической проницаемости на световой частоте и, тем самым, схоже с действием низкочастотных полей. Направление директора совпадает с направлением главной оптической оси НЖК, обычно являющегося оптически одноосной средой. Таким образом, под действием света происходит поворот эллипсоида показателей преломления с сохранением длин его полуосей. Типичные времена нелинейно-оптического отклика связаны с вязкоупругими свойствами НЖК и обычно составляют порядка 1 с.

Рис. 1. Типичная аберрационная картина, формирующаяся при прохождении светового пучка через НЖК. Угловой размер картины составляет 0,1 рад.Рис. 1. Типичная аберрационная картина, формирующаяся при прохождении светового пучка через НЖК. Угловой размер картины составляет 0,1 рад.При воздействии светового пучка с гауссовым профилем интенсивности в его поперечном сечении происходит колоколообразная модуляция показателя преломления НЖК. Увеличение показателя преломления приводит к эффекту самофокусировки светового пучка. Если индуцированный светом набег фазы в НЖК превышает $2\pi$, наблюдается эффект аберрационного самовоздействия светового пучка. Сильное искажение волнового фронта приводит к интерференции его центральной и периферийной областей, вследствие этого в дальней зоне дифракции формируется аберрационная картина в виде системы концентрических колец (рис. 1).

При нормальном падении на гомеотропно ориентированную плёнку НЖК воздействие светового пучка имеет пороговый характер (светоиндуцированный переход Фредерикса), т. е. изменение ширины пучка и последующее формирование аберрационных колец наблюдается при превышении порогового значения световой мощности (рис. 2, кривая 1). Рис. 2. Зависимость числа аберрационных колец от мощности сфокусированного (фокусное расстояние 270 мм) светового пучка аргонового лазера при нормальном (1) и наклонном, под углом 30° (2), падении на гомеотропно ориентированную ячейку НЖК толщиной 120 мкм. Репродукция из статьи: Переход Федерикса в кристалле МББА, вызванный полем световой волны / А. С. Золотько, В. Ф. Китаева, Н. Кроо [и др.] // Письма в ЖТЭФ. 1981. Т. 34, вып. 5. С. 263–267.Рис. 2. Зависимость числа аберрационных колец от мощности сфокусированного (фокусное расстояние 270 мм) светового пучка аргонового лазера при нормальном (1) и наклонном, под углом 30° (2), падении на гомеотропно ориентированную ячейку НЖК толщиной 120 мкм. Репродукция из статьи: Переход Федерикса в кристалле МББА, вызванный полем световой волны / А. С. Золотько, В. Ф. Китаева, Н. Кроо [и др.] // Письма в ЖТЭФ. 1981. Т. 34, вып. 5. С. 263–267.Наклонное падение светового пучка приводит к «размыванию» порога (рис. 2, кривая 2).

Гигантская оптическая нелинейность жидких кристаллов позволяет наблюдать и исследовать многие нелинейно-оптические эффекты, такие как обращение волнового фронта, формирование оптических солитонов и др., под действием маломощного излучения непрерывных лазеров. Гигантская оптическая нелинейность жидких кристаллов может использоваться для создания опто-оптических модуляторов, в качестве нелинейных фурье-фильтров и ограничителей интенсивности света.