Опера́торы в квантовой теории, служат для сопоставления одной определённой волновой функции $ψ$ (или вектору состояний) других определённых функций $ψ'$ (векторов). Понятие оператора широко используется в квантовой механике и квантовой теории поля. Соотношение между $ψ$ и $ψ'$ записывается в виде $ψ' =\hat Lψ,$ где $\hat L$ – оператор. В квантовой механике физическим величинам $L$ (координате, импульсу, энергии и др.) ставятся в соответствие операторы (оператор координаты, оператор импульса, оператор энергии и др.), действующие на волновую функцию (вектор состояния) $ψ,$ т. е. на величину, описывающую состояние физической системы. Простейшие операторы, действующие на волновую функцию $ψ(x)$ ($x$ – координата частицы), – оператор умножения (например, оператор координаты $\hat x$: $\hat xψ=x \psi$) и оператор дифференцирования [например, оператор импульса $\hat p: \hat p \psi =-i \hbar ( \partial \psi / \partial x$), где $\hbar$ – постоянная Планка]. Если $ψ$ – вектор, компоненты которого можно представить в виде столбца чисел, то оператор представляет собой квадратную таблицу – матрицу.

В квантовой механике в основном используются линейные операторы, которые обладают следующим свойством: если $\hat L \psi_1= \psi_1'$ и $\hat L \psi _2= \psi _2'$, то

$$\hat L(c_1 \psi_1 +c_2 \psi_2)=c_1 \psi'_1 + c_2 \psi'_2,$$где $c_1$ и $c_2$ – любые комплексные числа. Это свойство отражает принцип суперпозиции – один из основных принципов квантовой механики.

Свойства операторов определяются уравнениями $ψ_n=λ_nψ_n,$ где $λ_n$ – числа. Решения $ψ_n$ этих уравнений называются собственными функциями (собственными векторами) оператора. Собственные волновые функции (собственные векторы состояния) описывают в квантовой механике такие состояния, в которых данная физическая величина $L$ имеет определённое значение $λ_n$. Числа $λ_n$ называются собственными значениями оператора, а их совокупность – спектром оператора. Спектр оператора может быть непрерывным или дискретным; в первом случае уравнение, определяющее $ψ_n,$ имеет решение при любом значении $λ_n,$ во втором – решения существуют только при определённых дискретных значениях $λ_n.$ Спектр оператора может быть также смешанным – частично непрерывным, частично дискретным. Например, операторы координаты и импульса имеют непрерывный спектр, оператор энергии в зависимости от действующих в системе сил – непрерывный, дискретный или смешанный спектр. Дискретные собственные значения оператора энергии (гамильтониана) называются уровнями энергии.

Собственные функции и собственные значения операторов физических величин должны удовлетворять определённым требованиям. Т. к. непосредственно измеряемые физические величины имеют вещественные значения, то соответствующие операторы должны иметь вещественные собственные значения. Поскольку в результате измерения физической величины в любом состоянии $ψ$ должно получаться одно из собственных значений этой величины, необходимо, чтобы произвольная волновая функция (вектор состояния) могла быть представлена в виде линейной комбинации собственных функций (векторов) $ψ_n$ операторов этой физической величины. Т. е. совокупность собственных функций (векторов) должна представлять полную систему. Операторы, обладающие этим свойством, называются самосопряжёнными или эрмитовыми.

С операторами можно производить алгебраические действия. В частности, произведением операторов $\hat L_1$ и $\hat L_2$ является такой оператор $\hat L=\hat L_1\hat L_2,$ действие которого на $ψ$ даёт $\hat L \psi = ψ^n,$ если $\hat L_ \psi 2= ψ'$ и $\hat L_1 \psi' = ψ^n.$ Произведение операторов в общем случае зависит от порядка сомножителей, т. е. $\hat L_1 \hat L_2 ≠\hat L_2 \hat L_1.$ Этим алгебра операторов отличается от обычной алгебры чисел. Равенство $\hat L_1 \hat L_2 =\hat L_2 \hat L_1$ выполняется, если есть возможность одновременного измерения физических величин, которым соответствуют эти операторы.

Уравнения квантовой механики можно формально записать, если заменить физические величины, входящие в уравнения классической физики, на соответствующие им операторы. Тогда различие между квантовой и классической механикой сведётся к различию алгебр.

Операторы можно возводить в степень, образовывать ряды, рассматривать функции от оператора. В квантовой механике используются и неэрмитовы операторы, например унитарные, которые не меняют норм (длин) векторов и углов между ними. Неизменность норм вектора состояния даёт возможность интерпретации его компонент как амплитуд вероятности и в исходной, и в преобразованной функции. Поэтому унитарными операторами описываются эволюция квантовомеханической системы во времени, её смещение, поворот, зеркальное отражение и т. д.

В квантовой механике применяются также операторы комплексного сопряжения, являющиеся нелинейными. Произведение такого оператора на унитарный даёт антиунитарный оператор, который описывает, например, обращение времени.

В теории квантовых систем, состоящих из тождественных частиц, широко применяется метод вторичного квантования, в котором рассматриваются состояния с неопределённым или переменным числом частиц и вводятся операторы, действие которых на вектор состояния с данным числом частиц приводит к вектору состояния с изменённым на единицу числом частиц (оператор рождения и оператор уничтожения). Такие операторы образуют квантованные поля, играющие фундаментальную роль в релятивистских квантовых теориях (квантовой электродинамике, теории элементарных частиц).