Опера́тор в матема́тике, математическое понятие, в самом общем смысле означающее соответствие между элементами двух множеств $X$ и $Y$, относящее каждому элементу $x$ из $X$ некоторый элемент $y$ из $Y$. Эквивалентный смысл имеют термины операция, отображение, преобразование, функция. Элемент $y$ называется образом $x$, $x$ – прообразом $y$. Термин «оператор» часто употребляется в функциональном анализе и линейной алгебре, в особенности для отображений векторных пространств. Оператор $A$ из множества $X$ в множество $Y$ может быть определён не всюду, тогда говорят о его области определения $D_A=D(A)\subset X$. Для $x \in D_A$ результат применения оператора $A$ к $x$ обозначают $A(x)$ или $Ax$.

Если $X$ и $Y$ – векторные пространства над одним и тем же полем $K$, то в множестве всех операторов из $X$ в $Y$ можно выделить класс линейных операторов, т. е. таких операторов $A$, для которых для всех $x$, $y \in X$

$A(x+y)=A(x)+A(y), \,\,A(\lambda x)=\lambda A(x)$для всех $\lambda \in K$; остальные операторы из $X$в $Y$ называются нелинейными. Если $X$ и $Y$ – топологические пространства, то в множестве операторов из $X$ в $Y$ выделяется класс непрерывных операторов, т. е. таких операторов $A$, для которых для любой точки $x \in X$ и для всякой окрестности $V=V(A(x))$ её образа $A(x)$ существует такая окрестность $U=U(x)$ точки $x$, что $A(U) \subset V$; здесь $A(U)$ означает множество образов всех точек из $U$. Существуют и другие классы операторов. Изучение линейных операторов в топологических векторных пространствах составляет важный раздел функционального анализа.

Примеры.

1) Оператор дифференцирования

$D[f(t)]=f'(t)$сопоставляет каждой дифференцируемой функции $f(t)$ её производную $f'(t)$. Вообще левую часть линейного дифференциального уравнения

$\displaystyle\frac{d^nx}{dt^n} + a_1(t)\frac{d^{n-1}x}{dt^{n-1}} + \ldots+a_n (t)x = \phi(t)$можно рассматривать как результат применения некоторого оператора, ставящего в соответствие функции $x(t)$ функцию $\phi(t)$. Такой оператор называется линейным дифференциальным оператором; примерами линейных дифференциальных операторов являются оператор Гамильтона и оператор Лапласа.

2) Оператор определённого интегрирования

$\displaystyle\int^b_a f(t)dt=I,$где $a$ и $b$, $a \lt b$, – действительные числа, сопоставляет каждой интегрируемой функции $f(t)$ число $I$.

3) Сопоставив каждой функции $f(t)$ её произведение $\phi(t)f(t)$ на фиксированную функцию $\phi(t)$, получают оператор умножения на функцию $\phi(t)$.

4) Пусть $K(s,t)$– непрерывная функция двух переменных, заданная в квадрате $a \leq s \leq b$, $a \leq t \leq b$. Формула

$\displaystyle\int^b_a K(s,t)g(t)dt=f(t),$сопоставляющая непрерывной функции $g(t)$ непрерывную функцию $f(t)$, определяет линейный интегральный оператор. В то же время формула

$\displaystyle\int^b_a F(s,g(t)dt=h(s),$где $F$ – некоторая ограниченная непрерывная функция, определяет, вообще говоря, нелинейный интегральный оператор.