Неограни́ченный опера́тор, отображение $A$ множества $M$ топологического векторного пространства $X$ в топологическое векторное пространство $Y$ такое, что существует ограниченное множество $N \subset M$, образ которого $A(N)$ есть неограниченное множество в $Y$.

Простейшим примером неограниченного оператора является оператор дифференцирования $\frac{d}{d t}$, определённый на множестве $C_{1}[a, b]$ всех непрерывно дифференцируемых функций пространства $C[a, b]$ всех функций, непрерывных на $a \leqslant t \leqslant b$, так как оператор $\frac{d}{d t}$ переводит ограниченное множество $\{\sin n t\}$ в неограниченное множество $\{n \cos n t\}$. Неограниченный оператор $A$ необходимо разрывен в некоторых (a если $A$ линеен, то и во всех) точках своей области определения. Поэтому важным классом неограниченных операторов являются замкнутые операторы, обладающие свойством, в некоторой степени заменяющим свойство непрерывности.

Пусть ${A}$ и $B$ – неограниченные операторы с областями определения $D_A$ и $D_B$. Если $D_A \cap D_B \neq \varnothing$, то на этом пересечении определён оператор $(\alpha A+\beta B) x =\alpha A x+\beta B x$, $\alpha, \beta \in \mathbb{R}$ (или $\mathbb{C}$), и аналогично, если $A^{-1}\left(D_B\right) \neq \varnothing$, то определён оператор $(B A) x=B(A x)$. В частности, таким образом определяются степени $A^{k}$, $k=1,2, \ldots$, неограниченного оператора $A$. Оператор $B$ называется расширением оператора $A$, $B\supset A$, если $D_A \subset D_B$ и $B x=A x$ для $x \in D_A$. Так, $B\left(A_1+A_2\right) \supset B A_1+B A_2$. Перестановочность двух операторов обычно рассматривается для того случая, когда один из операторов ограничен: неограниченный оператор $A$ перестановочен с ограниченным оператором $B$, если $B A \subset A B$.

Для линейных неограниченных операторов определяется понятие сопряжённого оператора. Пусть неограниченный оператор $A$, заданный на множестве $D_A$, плотном в топологическом векторном пространстве $X$, действует в топологическое векторное пространство ${Y}$. Если $X^*$ и $Y^*$ – пространства, сильно сопряжённые соответственно к $X$ и $Y$, и $D_{A^*}$ – совокупность линейных функционалов $\varphi \in Y^*$, для которых существует линейный функционал $f \in X^*$ такой, что $\langle A x, \varphi\rangle=\langle x, f\rangle$ при всех $x \in D_A$, то соответствие $\varphi \leftrightarrow f$ определяет на множестве $D_{A^*}$ (которое, впрочем, может состоять лишь из нулевого элемента) пространства $Y^*$ оператор $A^*$, который называется оператором, сопряжённым к $A$.