Ма́трица рассе́яния в ква́нтовой тео́рии ($S$-матрица), унитарная (бесконечномерная) матрица, составленная из амплитуд вероятностей перехода квантовой системы из одного асимптотического состояния в гильбертовом пространстве в другое в результате акта взаимодействия с другой системой. Впервые введена Дж. Уилером в 1937 г. для описания резонансной структуры лёгких ядер и независимо В. Гейзенбергом в 1943 г. для описания общих свойств рассеяния в квантовой теории поля (КТП).

Матрица рассеяния является оператором эволюции, который переводит начальное состояние $|i〉$ системы свободных частиц, характеризуемое совокупностью квантовых чисел $i$ и заданное в момент времени $t=-∞$, в конечное состояние $|f〉$, характеризуемое совокупностью квантовых чисел$f$ и заданное в момент времени $t=+∞$. Этот перевод записывается как $|f〉=S|i〉$. Совокупность амплитуд вероятности процессов перехода образует матрицу $S_{if}$ ($i$ – номер строки, $f$ – номер столбца); каждая амплитуда является элементом этой матрицы (матричным элементом). Наборы квантовых чисел $i$, $f$ могут содержать как непрерывные величины (энергию, угол рассеяния и др.), так и дискретные (орбитальное квантовое число, спин, изотопический спин и др.). Квадрат модуля матричного элемента $S$-матрицы $|S_{if}|^2$ определяет вероятность соответствующего процесса. В КТП $S$-матрица представляет собой упорядоченную по времени экспоненту от гамильтониана взаимодействия системы: $S=T\textrm{exp}\left [ \int_{-\infty }^{+\infty }H_{ВЗ}(t)dt \right ]=T\textrm{exp}\left [ \int_{-\infty }^{+\infty }H_{ВЗ}(t,\boldsymbol x)dtd\boldsymbol x \right ]$, где символ $T$ означает упорядочение по времени, $H_{вз}$ – гамильтониан взаимодействия системы, $\boldsymbol x$ – пространственная координата. Матрица рассеяния может быть выражена также через интеграл по путям Фейнмана. В обоих случаях вычисление элементов матрицы рассеяния в виде разложения по малому параметру – константе взаимодействия – осуществляется с использованием диаграмм Фейнмана. В общем случае матрица рассеяния содержит элементы, определяющие как упругое рассеяние, так и процессы превращения и рождения частиц.

Нахождение матрицы рассеяния – основная задача квантовой механики и КТП. Матрица рассеяния содержит всю информацию о поведении системы, если известны не только численные значения, но и аналитические свойства её элементов; в частности, полюсы $S$-матрицы в комплексной плоскости энергии частиц идентифицируются со связанными состояниями или с резонансами, а точки ветвления – с открытием новых каналов рассеяния.

Из основных принципов квантовой теории следует важнейшее свойство матрицы рассеяния – её унитарность. Оно выражается в виде соотношения $SS^+=1$ [$S^+$ – матрица, эрмитово-сопряжённая $S$, т. е. $(S^+)_{fi}=S^*_{if}$, где знак $^*$ означает комплексное сопряжение], или $\sum_{f}S_{if}S^*_{fj}=\left\{\begin{matrix} 0 &при \: i\neq j\\ 1&при \: i\neq j \end{matrix}\right.$

и отражает тот факт, что сумма вероятностей рассеяния по всем возможным каналам реакции должна равняться единице. Элементы матрицы рассеяния отличны от нуля, только если выполняется закон сохранения энергии-импульса.

Из общих принципов квантовой теории (условия микропричинности, релятивистской инвариантности и др.) следует, что матричные элементы $S$-матрицы являются аналитическими функциями в некоторых областях комплексных переменных. Аналитические свойства матричных элементов $S$-матрицы позволяют получить ряд соотношений между определяемыми из эксперимента величинами – дисперсионные соотношения, которые выражают мнимую часть амплитуды одного процесса через амплитуды других процессов, а также связать между собой полные сечения рассеяния частиц и античастиц. Таким образом удаётся установить взаимосвязь между различными физическими процессами.