Нелине́йные опти́ческие материа́лы, материальные среды, в которых поляризация среды (или её диэлектрическая восприимчивость), наводимая внешним оптическим излучением высокой интенсивности, является нелинейной функцией напряжённости электрического поля падающей волны. Нелинейная поляризация среды и нелинейные восприимчивости приводят к возникновению нелинейных оптических эффектов, характерным проявлением которых является обогащение спектрального (частотного и углового) состава излучения, прошедшего через такую среду.

Причинами нелинейности среды могут быть различные физические механизмы взаимодействия мощного (лазерного) излучения с веществом. Это может быть деформация внешних электронных оболочек атомов под действием внешнего поля, ангармонизм электронного или электронно-колебательного перехода для атомов и молекул, непараболичность энергетических зон для полупроводников, изменение плотности среды за счёт электрострикции или нагрева и др. При взаимодействии лазерного излучения с нелинейными оптическими материалами наиболее часто возникают такие явления, как генерация высших оптических гармоник, параметрическое усиление и генерация света, оптическое «выпрямление» света, вынужденное рассеяние света, самомодуляция импульсов и самовоздействие световых пучков, многофотонное поглощение света, возникающее в исходно прозрачной среде. Практически все эти явления используются в прикладных и научных целях.

Эффекты параметрического взаимодействия, описываемые квадратичной по полю нелинейной восприимчивостью нелинейного оптического материала, применяются для генерации гармоник лазерного излучения и для создания источников когерентного излучения с перестраиваемой длиной волны. Например, в сверхмощных лазерных установках, предназначенных для управляемого термоядерного синтеза (УТС), используются нелинейно-оптические кристаллы для преобразования исходной волны во 2-ю или 3-ю гармоники, частоты которых лежат в видимом диапазоне или УФ-диапазоне, поскольку в этом диапазоне существенно проще осуществить нагрев дейтерий-тритиевой мишени для запуска реакции. Нелинейная восприимчивость 3-го порядка ответственна за процессы вынужденного рассеяния света, самовоздействия и многофотонного поглощения.

В первом лазерном эксперименте, продемонстрировавшем нелинейный отклик материальной среды, в качестве нелинейного оптического материала использовался кристаллический кварц. В эксперименте наблюдалась генерация 2-й гармоники рубинового лазера, обусловленная квадратичной нелинейной восприимчивостью среды. Эффективность преобразования в этом эксперименте была очень низкой (около 10⁻¹²), т. к. кристаллический кварц, хотя и обладает квадратичной нелинейностью, не имеет фазового (волнового) синхронизма для этого процесса. Впоследствии были обнаружены другие кристаллические материалы, обладающие фазовым синхронизмом, т. е. определённым направлением, в котором эффект генерации гармоники накапливался по длине нелинейного оптического материала. Наиболее известным и широко распространённым нелинейным оптическим материалом является кристалл ${KDP}$ (${KH_2PO_4}$). Это двулучепреломляющий отрицательный кристалл, прозрачный в диапазоне длин волн 0,2–1,2 мкм. Величина его нелинейности почти такая же, как у кристаллического кварца, но вследствие наличия фазового синхронизма эффективность преобразования близка к единице. Этот кристалл выращивается из водного раствора при температуре, близкой к комнатной, и из него могут быть изготовлены уникальные преобразователи частоты с апертурой до 500 × 500 мм при толщине 1–1,5 см. Именно такие элементы преобразования применяются в сверхмощных лазерных комплексах для УТС.

Одними из новых нелинейных оптических материалов являются кристаллы группы боратов, например триборат лития (${LiB_3O_5}$). Этот кристалл прозрачен в видимом диапазоне и ближнем ИК-диапазоне, обладает вдвое большей величиной нелинейности, чем ${KDP}$, и во столько же раз большей стойкостью к лазерному излучению (лучевой прочностью). Кристалл трибората лития выращивается из расплава при температуре около 1000 °C, и его максимальный размер составляет около 100 мм в поперечнике. Он используется для генерации оптических гармоник и в оптических параметрических преобразователях частоты. Широкое применение находят такие нелинейные оптические материалы, как кристаллы ${KTP}$ (${KTiOPO_4}$) и ниобата лития (${LiNbO_3}$).

Нелинейными оптическими материалами, обладающими нелинейностью 3-го порядка, являются практически все прозрачные оптические материалы. В нелинейной оптике эту нелинейность принято характеризовать нелинейной добавкой $n_2$ к показателю преломления $n$ среды. При этом показатель преломления $n=n_0+n_2I$, где $n_0$ – линейный показатель преломления среды, $I$ – интенсивность световой волны. Величина $n_0$ для всех материалов, прозрачных в оптическом и ближнем ИК-диапазонах, меняется от около 1 (газы при атмосферном давлении) до около 5 (теллур), а нелинейная добавка $n_2$ меняется на 12 порядков. В качестве нелинейных оптических материалов могут быть также использованы метаматериалы.

Для исследования процессов вынужденного комбинационного рассеяния света применяют такие нелинейные оптические материалы, как нитробензол, водород, кристаллы нитратов и молибдатов. Использование нелинейных оптических материалов позволяет расширить число источников когерентного оптического излучения, создать источники света с перестраиваемой частотой, а также преобразовать когерентный свет в свет с сугубо квантовыми (неклассическими) свойствами.