Автокорреляцио́нная фу́нкция, функция, сопоставляющая корреляцию некоторой переменной и её запаздывающего значения с величиной этого запаздывания. Используется при оценке моделей временных рядов в целях идентификации порядка моделей авторегрессии и скользящего среднего.

Определение

Рассмотрим дискретный одномерный временной ряд $X$, т. е. хронологически упорядоченную последовательность реализаций случайных величин $\{x(t_1), \dots, x(t_N)\}$. Временной ряд называется дискретным, если $t_2 - t_1 = t_3 - t_2 = \dots = t_N - t_{N-1} = \Delta$ (Айвазян. 2001. Т. 2. С. 200).

Предположим, что рассматриваемый временной ряд $X$ является строго стационарным, или стационарным в узком смысле (Носко. 2011. С. 309), т. е. таким, что для любого произвольного набора из $m$ наблюдений $t_1, \dots, t_m$ и любого значения $\tau$ совместные распределения вероятностей случайных величин $x(t_1), \dots, x(t_m)$ и $x(t_1 + \tau), \dots, x(t_m + \tau)$ совпадают (Айвазян. 2001. Т. 2. С. 208). Строгая стационарность влечёт за собой постоянство математического ожидания и дисперсии: приняв $m = 1$, из определения стационарности в узком смысле получим, что распределение $x(t)$ не зависит от момента времени $t$ (Айвазян. 2001. Т. 2. C. 208).

Аналогичным образом, приняв $m = 2$, получим, что для произвольных моментов времени $t_1$ и $t_2$ и произвольного сдвига $\tau$ двумерные распределения для пар $(x(t_1), x(t_2))$, $(x(0), x(t_2 - t_1))$, $(x(\tau), x(t_2 - t_1 + \tau))$ будут совпадать (Айвазян. 2001. Т. 2. С. 209; Носко. 2011. С. 310), т. е. будут совпадать и численные характеристики, в том числе ковариации. Другими словами, ковариация между двумя наблюдениями $x(t)$ и $x(t + \tau)$ будет зависеть только от величины сдвига $\tau$. С учётом того, что полученные таким образом ковариации построены для случайных величин, составляющих один и тот же временной ряд, их называют автоковариациями.

Рассмотрев значения автоковариаций для всех возможных значений величины сдвига $\tau$, можно ввести автоковариационную функцию

$\gamma(\tau) = \mathrm{cov}(x(t), x(t + \tau))$. (1)

Из уравнения (1) и строгой стационарности временного ряда $X$ следует, что $\gamma(\tau) = \gamma(-\tau)$.

В соответствии с определением корреляции (Айвазян. 2001. Т. 1. С. 111) можно представить автокорреляционную функцию как

$\rho(\tau) = \mathrm{corr}(x(t), x(t + \tau)) = \frac{\mathrm{cov}(x(t), x(t + \tau))}{\sqrt{D(x(t))}\sqrt{D(x(t + \tau))}}$ (2).

В силу строгой стационарности временного ряда дисперсии в знаменателе уравнения (2) равны, так что оно сводится к:

$\rho(\tau) = \frac{\gamma(\tau)}{\gamma(0)}$ (3),

где $\gamma(0) = \mathrm{cov}(x(t), x(t)) = D(x(t))$ (Айвазян. 2001. Т. 2. С. 210; Носко. 2011. С. 311).

График автокорреляционной функции называют коррелограммой.

Приведённые выше рассуждения справедливы только для стационарных временных рядов. В случае, когда временной ряд нестационарен, совместные распределения перестают быть одинаковыми. Таким образом, все численные характеристики будут зависеть от момента времени, а приведённое выше определение автокорреляционной функции потеряет смысл.

Частная автокорреляционная функция

На практике зачастую требуется оценивать значения автокорреляций, «очищенных» от влияния промежуточных наблюдений (Носко. 2011. С. 341). Можно показать (Hamilton. 1994. С. 111), что частная автокорреляция $\rho_{part}(k)$ равна $a_k$ в решении следующей системы уравнений:

$\rho(s) = a_1 \rho(s - 1) + a_2 \rho(s - 2) + \dots + a_k \rho(s-k),~s=1,2,\dots,k$,

где $\rho(s)$ – автокорреляции порядка $s$. Следует учесть, что $\rho(n) = \rho(-n)$. Решение данной системы легко найти при помощи правила Крамера (Носко. 2011. С. 342):

$\rho_{part}(k) = \frac{\left| \begin{matrix} \rho(0) & \rho(1) & \rho(2) & \dots & \rho(1) \\ \rho(1) & \rho(0) & \rho(1) & \dots & \rho(2) \\ \rho(2) & \rho(1) & \rho(0) & \dots & \rho(3) \\ \vdots & \vdots & \vdots & \ddots & \vdots \\ \rho(k-1) & \rho(k-2) & \rho(k-3) & \dots & \rho(k) \end{matrix} \right|}{\left| \begin{matrix} \rho(0) & \rho(1) & \rho(2) & \dots & \rho(k-1) \\ \rho(1) & \rho(0) & \rho(1) & \dots & \rho(k-2) \\ \rho(2) & \rho(1) & \rho(0) & \dots & \rho(k-3) \\ \vdots & \vdots & \vdots & \ddots & \vdots \\ \rho(k-1) & \rho(k-2) & \rho(k-3) & \dots & \rho(0) \end{matrix}\right|}$ (4).

Следует отметить, что для каждого значения величины сдвига $\tau$ требуется строить отдельную систему уравнений (4).

Применение автокорреляционной функции

Автокорреляционная и частная автокорреляционная функции применяются в целях идентификации порядка авторегрессионных моделей и моделей скользящего среднего.

AR-модель

Рассмотрим стационарную модель авторегрессии первого порядка $AR(1)$:

$y_t = \mu + a y_{t-1} + \varepsilon_t$

$(1 - aL) y_t = \mu + \varepsilon_t$,

где $|a| < 1$, $L$ – лаговый оператор. Путём несложных преобразований можно получить (Носко. 2011. С. 322)

$y_t - \frac{\mu}{1-a} = \frac{1}{1 - aL} \varepsilon_t = (1 + aL + aL^2 + \dots) \varepsilon_t$ (5).

Из уравнения (5) следует, что (Hamilton. 1994. С. 53–54)

$\rho(\tau) = a^\tau$.

Таким образом, для стационарного авторегрессионного процесса первого порядка будет наблюдаться экспоненциальное снижение абсолютных значений автокорреляционной функции. Для процессов более высоких порядков поведение коррелограммы более сложное, но, тем не менее, оно хорошо аппроксимируется убывающей показательной функцией (Носко. 2011. С. 323).

В результате оказывается, что применение авторегрессионной функции не позволяет с уверенностью определить порядок авторегрессионного процесса, т. к. её значение не равно нулю для любой величины сдвига $\tau$. Однако частная автокорреляционная функция позволяет сделать это (Носко. 2011. С. 343), поскольку она обладает следующим свойством:

$\begin{aligned} \rho_{part}(k) & \neq 0 \\ \rho_{part}(k) & = 0,~k > p \\ \end{aligned}$ ,

где $p$ – порядок авторегрессионного процесса. На величинах сдвига, больших, чем порядок авторегрессионного процесса, частная автокорреляционная функция становится тождественно равной нулю.

MA-модель

Рассмотрим обратимую модель скользящего среднего (модель скользящего среднего обратима, если все корни характеристического уравнения $B(x) = 0$ лежат вне единичного круга $|x| \leq 1$, для $MA(1)$ это эквивалентно $|b| < 1$) $MA(1)$:

$y_t = \mu + \varepsilon_t + b \varepsilon_{t-1}$

$y_t - \mu = (1 + bL) \varepsilon_t$.

Несложно показать (Носко. 2011. С. 323), что:

$\begin{aligned} \rho(0) & = 1 \\ \rho(1) & = \frac{b}{1+b^2} \\ \rho(k) & = 0,~k > 1 \\ \end{aligned}$

Таким образом, для обратимого процесса скользящего среднего первого порядка будет наблюдаться единственное ненулевое значение автокорреляционной функции. Для моделей более высоких порядков $q$ будут наблюдаться ненулевые значения для значений сдвигов $\tau \leq q$ (Носко. 2011. С. 323).

Смешанная ARMA-модель

Применение автокорреляционной и частной автокорреляционной функций для идентификации порядка временного ряда, представленного смешанной $ARMA$-моделью, является более сложной задачей. Как отмечается в литературе (Айвазян. 2001. Т. 2. С. 212–214, Носко. 2011. С. 345), для модели $ARMA(p,q)$, где $p$ – порядок авторегрессионной компоненты, $q$ – порядок компоненты скользящего среднего:

• автокорреляционная функция затухает, начиная с лага $q$,

• частная автокорреляционная функция затухает, начиная с лага $p$.