Фрустра́ция (в физике), геометрическая фрустрация, широкий класс явлений, связанных с возникновением в кристаллической решётке конкурирующих межатомных взаимодействий, каждое из которых «предпочитает» разные простые структуры, что приводит к возникновению сложных или даже неупорядоченных структур. Фрустрация может приводить к сильному вырождению основного состояния, в котором система будет обладать ненулевой энтропией даже при нулевой температуре. Примеры фрустрированных систем – аморфные материалы, стёкла, некоторые магнитные сплавы и разбавленные магнетики. В применении к магнитным системам термин «фрустрация» был введён Ж. Тулузом (1977).

Треугольная решётка спинов с антиферромагнитными взаимодействиями (АФ).Треугольная решётка спинов с антиферромагнитными взаимодействиями (АФ).Физическую систему обычно называют фрустрированной, если не все вклады в её потенциальную энергию могут быть одновременно минимизированы. Эта ситуация часто реализуется для систем магнитных моментов, в которых минимизация энергий всех обменных взаимодействий накладывает несовместимые ограничения на конфигурацию системы. Простейший пример такой фрустрации дают изинговские спины на треугольнике с антиферромагнитными взаимодействиями между ними (рис.). Здесь энергетически выгодно, чтобы каждый спин был направлен противоположно направлению спинов своих соседей. Однако, как только первые два спина выстраиваются антипараллельно, третий – фрустрируется, т. к. две его возможные ориентации (вверх и вниз) дают одинаковую энергию. Поскольку этот эффект имеет место для каждого спина, основное состояние шестикратно вырождено. Таким образом, обменные взаимодействия оказываются фрустрированы на решётках, в которых при обходе спинов можно выделить петли нечётной длины в единицах расстояния между ними, например на двумерных – треугольной решётке и решётке кагоме, трёхмерных – объёмноцентрированной кубической (ОЦК), гранецентрированной кубической (ГЦК) и гексагональной плотно упакованной (ГПУ) решётках и решётке пирохлора.

Кроме геометрии кристаллической решётки, фрустрация может быть обусловлена сложным характером обменных взаимодействий, приводящих к т. н. обменной фрустрации. Последняя возникает в магнетиках с конкурирующими взаимодействиями, где присутствуют как ферромагнитные, так и антиферромагнитные связи между магнитными моментами, причём тип взаимодействия зависит от расстояния между ними. В спиновых стёклах фрустрация усиливается стохастическим беспорядком во взаимодействиях, который экспериментально наблюдается в нестехиометрических магнитных сплавах.

Фрустрация противодействует тенденции к нарушению симметрии при уменьшении температуры, что приводит к понижению температуры упорядочения. В частности, для антиферромагнитных фрустрированных систем характерны низкие температуры Нееля $T_N$ и большие значения т. н. параметра фрустрации $|θ|/T_N$, где $θ$ – температура Кюри – Вейса, определяющая величину обменных взаимодействий. Кроме того, подавление фаз с простым порядком может вести к конкуренции необычных фаз (например, с экзотическим топологическим порядком) и к сложным фазовым диаграммам. Фрустрированные магнитные системы способны и вовсе не упорядочиваться, что может означать формирование необычных фаз типа спиновой жидкости. Это имеет место, например, для решёток кагоме и пирохлора. Напротив, в случае треугольной решётки с изотропными гейзенберговскими взаимодействиями ближайших соседей формируется упорядочение в 120-градусную магнитную структуру.

В 2020-е гг. обсуждаются т. н. компасные (или китаевские) фрустрированные системы, в которых благодаря сильному спин-орбитальному взаимодействию разные спиновые компоненты взаимодействуют вдоль направлений различных межатомных связей. В такой ситуации может возникнуть ряд нетривиальных магнитных фаз. Также активно исследуются экзотические квантовые топологические состояния в соединениях с решётками кагоме. Существенные эффекты фрустрации имеют место в некоторых редкоземельных и актинидных соединениях, в том числе в системах с тяжёлыми фермионами.