Мюо́нный ката́лиз, синтез (слияние) ядер изотопов водорода (протия $p,$ дейтерия $d$ и трития $t$), обусловленный их взаимодействием с отрицательно заряженными мюонами $μ^-.$ Без мюонов скорость слияния изотопов водорода ($d^+ d → ^3He^+ n, t^+ d → ^He^+ n$ и др.) при комнатной температуре очень мала, поскольку для таких реакций изотопы необходимо сблизить до расстояний ~10^–11 см, что возможно только при нагревании до температуры в несколько миллионов градусов. В смеси изотопов водорода $(H_2, D_2, T_2)$ мюоны $μ^-$ образуют с их ядрами мюонные атомы (p$μ$, d$μ$, t$μ$) и мюонные молекулы (p$μ$p, p$μ$d, p$μ$t, d$μ$d, d$μ$t, t$μ$t), в которых ядра сближены до расстояний ~5·10^–11 см. Поэтому скорость ядерных реакций синтеза в изотопах водорода составляет 10⁶–10¹² с^–1, что больше скорости распада мюона (5·10⁵ с^–1). Скорости образования мюонных молекул (~10⁶–10⁸ с^–1) также превышают скорость распада $μ^–,$ поэтому в смеси $H_2 + D_2$ становится возможной последовательность реакций $$μ^- + H_2 + D_2 → pμ + dμ → pμd → ^3He + γ + μ^-,$$в которой μ^– освобождается в конце цепочки и может принять участие ещё в нескольких циклах мюонного катализа.

Возможность мюонного катализа впервые предположил английский физик Ч. Франк в 1947 г. при анализе опытов, в которых был открыт $π$-мезон. В 1954 и 1957 гг. Я. Б. Зельдович и А. Д. Сахаров выполнили первые расчёты этого процесса, а в 1957 г. Л. Альварес обнаружил его экспериментально. В 1966 г. В. П. Джелепов, наблюдая цикл мюонного катализа в дейтерии $(μ^- + D_2 → dμ → dμd → ^3He + n + μ^-),$ установил, что этот цикл зависит от температуры среды. Теоретический анализ этого явления (С. С. Герштейн, Э. А. Весман) показал, что оно объясняется процессом резонансного образования мюонных молекул, в частности существованием слабосвязанного состояния мюонной молекулы d$μ$d с энергией связи около 2 эВ. В 1977 г. Герштейн и Л. И. Пономарёв теоретически предсказали, что в мюонной молекуле d$μ$t существует слабосвязанный уровень с энергией связи 0,64 эВ, благодаря которому скорость образования этих молекул возрастает до ∼10⁸ с^–1, т. е. почти в 200 раз превышает скорость распада $μ^-.$ В 1978 г. это предсказание было подтверждено экспериментально.

Схема цикла мюонного катализа в смеси дейтерия и трития

$$μ^- + D_2 + T_2 → dμ + tμ → dμt →^ 4He + n + μ^-$$представлена на рисунке. В реакции синтеза часть мюонов «прилипает» к ядру гелия (d$μ$t → $μ^4He$ + n) и выбывает из дальнейших циклов мюонного катализа (происходит «отравление» катализатора). Вероятность $w_s$ прилипания мюона к ядру гелия в мюонном катализе в смеси дейтерия и трития составляет 10^–2. Максимальное число циклов, которое один $μ^–$ может осуществить в жидкой смеси $D_2 + T_2,$ равно 117. Этот результат позволил рассмотреть возможность практического использования мюонного катализа для производства энергии и нейтронов. В каждом цикле мюонного катализа в смеси $D_2 + T_2$ выделяется энергия 17,6 МэВ, из которых 14,1 МэВ уносит нейтрон. При использовании мюонно-каталитического гибридного реактора можно увеличить энерговыделение путём дальнейшего размножения нейтронов в урановом бланкете при делении ядер урана $^{238}U$ и образования ядер плутония $^{239}Pu.$ В этом случае каждый нейтрон синтеза суммарно освобождает около 1 ГэВ энергии, что примерно в 60 раз превышает энергию чистого синтеза (17,6 МэВ). Такая гибридная система может быть экономически выгодной в ядерной энергетике будущего.

Интенсивный нейтронный источник на основе мюонного катализа может обеспечить монохроматический поток нейтронов (с энергией 14 МэВ) около 10¹⁷ нейтрон/с, с плотностью ∼10¹⁴ нейтрон/(см²·с). Явление мюонного катализа открывает новые возможности для изучения ядерных реакций синтеза.