Га́уссовский проце́сс, действительный случайный процесс $X=X(t)$, $t\in T$, любые конечномерные распределения которого являются гауссовскими, т. е. характеристические функции совместных распределений вероятностей случайных величин $X(t_1),\ldots,X(t_n)$ при любых $t_1,\ldots,t_n$ имеют вид:

$$\begin{aligned} \varphi_{t_1,\ldots,t_n}(u_1,\ldots,u_n)& =\exp\bigl\{i&\sum_{k=1}^nA(t_k)u_k-\frac12\sum_{k,j=1}^nB(t_k,t_j)u_ku_j\bigr\}, \end{aligned}$$где $A(t)=\mathsf{E}X(t)$ – математическое ожидание и

$$B(t,s)=\mathsf{E}[X(t)-A(t)][X(s)-A(s)]$$корреляционная функция. Распределение вероятностей гауссовского процесса $X=X(t)$ полностью задаётся его математическим ожиданием $A(t)$ и корреляционной функцией $B(t,s)$, $s,t\in T$. Для любой функции $A(t)$ и любой положительно определённой функции $B(t,s)$ существует гауссовский процесс $X(t)$, у которого среднее значение и корреляционная функция суть именно $A(t)$ и $B(t,s)$. Многомерный случайный процесс с векторными значениями

$$X(t)=\{X_1(t),\ldots,X_m(t)\}$$называется гауссовским, если гауссовскими являются совместные распределения вероятностей любых величин

$$X_{i_1}(t_1),\ldots,X_{i_n}(t_n).$$Комплексным гауссовским процессом $X=X(t)$, $t\in T$, называется случайный процесс вида:

$$X(t)=X_1(t)+iX_2(t),$$где действительные $X_1(t)$, $X_2(t)$ в совокупности образуют двумерный гауссовский процесс. Иногда, говоря о комплексном гауссовском процессе $X(t)=X_1(t)+iX_2(t)$, считают, что выполняется одно дополнительное условие:

$$\mathsf{E}X(s)X(t)=A(s)A(t),$$где

$$A(t)=\mathsf{E}X(t).$$Это условие вводится для того, чтобы сохранить то свойство обычных гауссовских случайных величин, согласно которому некоррелированность равносильна независимости; его можно переписать следующим образом:

$$\begin{gathered} \mathsf{E}[X_1(t)-A_1(t)][X_1(s)-A_1(s)]=\\ \mathsf{E}[X_2(t)-A_2(t)][X_2(s)-A_2(s)]=\frac12\mathop{\mathrm{Re}}B(t,s),\\ \mathsf{E}[X_1(t)-A_1(t)][X_2(s)-A_2(s)]=-\frac12\mathop{\mathrm{Im}}B(t,s), \end{gathered}$$где

$$B(t,s)=\mathsf{E}[X(t)-A(t)]\overline{[X(s)-A(s)]}$$– корреляционная функция процесса $X(t)$ и

$$A_1(t)=\mathsf{E}X_1(t),\quad A_2(t)=\mathsf{E}X_2(t).$$Действительный обобщённый случайный процесс $X=\langle u,X\rangle$, $u\in U$, на линейном пространстве $U$ называется обобщённым гауссовским процессом, если его характеристический функционал $\varphi_X(u)$ имеет вид:

$$\varphi_X(u)=e^{iA(u)-\dfrac12B(u,u)},\quad u\in U,$$где $A(u)=\mathsf{E}\langle u, X\rangle$ – математическое ожидание обобщённого процесса $X=\langle u,X\rangle$,

$$B(u,v)=\mathsf{E}[\langle u,X\rangle-A(u)][\langle v,X\rangle-A(v)]$$– его корреляционный функционал.

Пусть $U$ – гильбертово пространство со скалярным произведением $(u,v), u,v\in U$. Случайная величина $X$ со значениями в пространстве $U$ называется гауссовской, если случайный процесс вида $X=\langle u,X\rangle$, $u\in U$, – обобщённый гауссовский процесс. Математическое ожидание $A(u)$ является линейным непрерывным функционалом, а корреляционная функция $B(u,v)$ – билинейным непрерывным функционалом на гильбертовом пространстве $U$, причём

$$B(u,v)=(Bu,v),\quad u,v\in U,$$где положительный оператор $B$ – корреляционный оператор случайной величины $X\in U$, является ядерным. Для любых таких $A(u)$ и $B(u,v)$ существует гауссовская величина $X\in U$ такая, что обобщённый процесс $X=\langle u,X\rangle$, $u\in U$, имеет средним значением и корреляционной функцией именно $A(u)$ и $B(u,v)$.

Пример. Пусть $X=X(t)$ – гауссовский процесс на отрезке $T=[a,b]$ и пусть процесс $X(t)$ измерим, причём

$$\int\limits_a^b\mathsf{E}[X(t)]^2\,dt<\infty.$$Тогда почти все траектории $X(t)$, $t\in T$, будут принадлежать пространству интегрируемых в квадрате функций $u=u(t)$ на отрезке $T$ со скалярным произведением

$$(u,v)=\int\limits_a^bu(t)v(t)\,dt.$$Формула

$$\langle u, X\rangle =\int\limits_a^b u(t)X(t)\,dt,\quad u\in U,$$задаёт обобщённый гауссовский процесс на этом пространстве $U$. При этом математическое ожидание и корреляционный функционал обобщённого процесса $X=\langle u, X\rangle$ выражаются формулами:

$$\begin{gathered} A(u)=\int\limits_a^bu(t)A(t)\,dt,\\ B(u,v)=\int\limits_a^b\int\limits_a^bB(t,s)u(t)v(s)\,dt\,ds, \end{gathered}$$где $A(t)$ и $B(t, s)$ соответствующие математическое ожидание и корреляционная функция исходного процесса $X=X(t)$ на отрезке $T=[a, b]$.

Почти все основные свойства гауссовского процесса $X=X(t)$ (параметр $t$ пробегает произвольное множество $T$) могут быть выражены в геометрических терминах при рассмотрении этого процесса как кривой в гильбертовом пространстве $H$ всех случайных величин $Y, \mathsf{E}Y^2<\infty$, со скалярным произведением $(Y_1,Y_2) = \mathsf{E}Y_1Y_2$, для которой

$$(X(t), 1) = A(t)$$и

$$(X(t)-A(t), X(s)-A(s)) = B (t, s).$$

Стационарные в узком смысле гауссовские процессы могут быть реализованы посредством некоторых динамических систем (сдвиг в пространстве траекторий, см. Дуб. 1956). Полученные динамические системы (их иногда называют нормальными, ср. с нормальным распределением вероятностей) представляют интерес как примеры динамических систем с непрерывным спектром, свойства которых благодаря упомянутому разложению в $H$ могут быть изучены с большой полнотой. Так были построены первые конкретные примеры динамических систем с «неклассическими» спектральными свойствами.