Ма́трица пло́тности (оператор плотности, статистический оператор), обобщает понятие волновой функции и позволяет вычислить среднее значение любой наблюдаемой физической величины для квантовомеханического объекта. Введена одновременно и независимо Л. Д. Ландау и Дж. фон Нейманом в 1927 г.

В квантовой механике различают 2 типа квантовых состояний – чистые и смешанные. Чистые состояния описываются волновыми функциями, или векторами состояния $ψ_i,$ где $i$ – номер состояния (квантовое число). Смешанные состояния описываются линейной комбинацией $\sum p_i\psi _i,$ где числа $p_i$ имеют смысл вероятностей появления состояний $ψ_i$ в данной «смеси» и удовлетворяют соотношениям $p_i ⩾ 0,\:\sum p_i=1 .$ Именно для описания смешанных состояний и вводится матрица плотности.

В общем случае смешанного состояния вычисление среднего значения $〈\widehat{A}〉$ для любого оператора физической наблюдаемой $\widehat{A}$ включает в себя двойное усреднение – не только по одному из чистых состояний $ψ_i,$ но по всей их совокупности $\{ψ_i\}$ с соответствующими весовыми множителями $p_i.$ Формально эта операция может быть записана в виде $〈\widehat{A}〉= Sp(\widehat{A}\widehat{\rho })= Sp(\widehat{\rho } \widehat{A}),$ т. е. вычисляется след $(Sp)$ (сумма диагональных матричных элементов) от произведения оператора $\widehat{A}$ и матрицы плотности $\widehat{\rho }=\sum_{i}p_i\widehat{P_i};$ здесь $\widehat{P_i}=|ψ_i〉〈ψ_i|$ – оператор проектирования (проектор) на состояние $ψ_i,$ действующий в гильбертовом пространстве состояний $\{ψ_i\}.$

Указанные состояния $\{ψ_i\}$ могут, вообще говоря, не являться собственными состояниями гамильтониана $\widehat{H}$ или какого-либо другого эрмитова оператора системы, но в соответствии с общими принципами квантовой механики они всегда могут быть разложены по полным ортонормированным наборам собственных функций этих операторов. При этом результат применения матрицы плотности для вычисления средних не изменяется, поскольку матрица плотности определена с точностью до произвольного унитарного преобразования. Для матрицы плотности возможны различные представления – координатное, импульсное, а также смешанное, представляемое функцией Вигнера.

В случае чистого состояния $ψ_i$ матрица плотности $ρ$ сводится к единственному проектору: $\widehat{P_i}:\widehat{\rho} =\widehat{P_i}=|ψ_i〉〈ψ_i|.$ Матрица плотности для чистого состояния обладает свойством $ρ^2=ρ,$ которое используется в практических вычислениях для определения «чистоты» состояния. В общем случае матрица плотности является положительно определённым оператором $\widehat{\rho}$ с единичным следом. В нестационарных задачах матрица плотности может зависеть от времени $t: \widehat{\rho}=\widehat{\rho}(t);$ в силу уравнения Шрёдингера для чистых состояний для матрицы плотности справедливо квантовое уравнение Лиувилля: $iℏ \partial \widehat{\rho}(t)/ \partial t=[\widehat{H}, \widehat{\rho}]$; здесь $[\widehat{H}, \widehat{\rho}]≡ \widehat{H}\widehat{\rho}-\widehat{\rho}\widehat{H}$ – коммутатор операторов $\widehat{H}$ и $\widehat{\rho},$ $ℏ$ – постоянная Планка, $i$ – мнимая единица.

При описании состояния теплового равновесия квантовой системы матрица плотности имеет однокомпонентный (скалярный) вид: $ρ=(1/Z)exp[–\widehat{H}/kT]$; здесь $T$ – абсолютная температура, $k$ – постоянная Больцмана, $Z=\sum_{i}\textrm{exp}[-E_i/kT]$ – квантовая статистическая сумма, $E_i$ – энергии, соответствующие собственным состояниям $ψ_i$ гамильтониана $\widehat{H}$ системы. Матрица плотности широко используется для описания экспериментов по рассеянию поляризованных пучков частиц (например, электронов), обладающих спином $^1/_2$ и имеющих два собственных состояния $|+\ ^1/_2〉$ (спин «вверх») и $|–\ ^1/_2〉$ (спин «вниз»), а также фотонов, обладающих спином 1 и двумя состояниями линейной или круговой поляризации. В этих случаях общее выражение для матрицы плотности в смешанном состоянии имеет вид: $\rho =^1/_2(I+\sum_{i}\prod_{i}\sigma _i),$ где $I$ – единичная матрица, $\prod_{i}=〈σ_i〉=Spσ_ir$ – $i$-я компонента поляризации пучка, $σ_i$ – матрицы Паули размерности 2 × 2.

Наибольшее значение понятие «матрица плотности» приобрело в конце 20 в. в связи с понятием квантовых измерений, особенно в квантовой теории информации. В этих случаях речь идёт о сложных (составных) квантовых системах, одна из которых $A$ (например, кубит) допускает только квантовое описание, тогда как другая $B$ (например, измерительный прибор) может быть описана в классических терминах. При этом система $AB$ в целом описывается матрицей плотности $ρ^{AB}.$ В частном случае подобная система может быть изолированной и находиться в некотором чистом состоянии $ψ^{АВ},$ однако обычно это состояние полностью не известно ввиду макроскопически большого числа степеней свободы подсистемы $B$ (прибора). Состояние каждой из подсистем $A$ и $B$ всегда является смешанным и в принципе не допускает описания посредством волновой функции, поэтому матрица плотности является необходимым средством для описания индивидуальных подсистем, входящих в составную квантовую систему. Если задана полная матрица плотности $ρ^{AB},$ то для описания подсистемы $A$ обычно используется редуцированная матрица плотности $ρ^A= Sp_Bρ^{AB},$ которая правильно воспроизводит статистику измерений. На практике часто решается обратная задача – восстановления вида матрицы плотности $ρ^A$ по данным квантовых измерений с применением квантового обобщения методов математической статистики.