Теоре́ма Фри́ша – Во – Ло́велла (англ. Frisch–Waugh–Lovell theorem, FWL theorem), теорема, согласно которой МНК-оценка коэффициентов любой части объясняющих переменных в модели линейной регрессии эквивалентна МНК-оценке линейной регрессии только на данную переменную, очищенную от влияния прочих объясняющих переменных. Теорема представлена в работах Р. Фриша, Ф. В. Во (Уо; 1898–1974) (Frisch. 1933), М. К. Ловелла (Lovell. 1963). В работе М. К. Ловелла (Lovell. 2008) предложено более простое доказательство теоремы.

Рассмотрим регрессионную модель с $n$ наблюдениями и $\rho$ объясняющими переменными:

$Y=X \beta +u=[X_1 \ \ X_2] \left[\begin{array}{c} \beta_1 \\ \beta_2 \end{array}\right]+u, \\ X=[X_1 \ \ X_2], \\ \beta = \left[\begin{array}{c} \beta_1 \\ \beta_2 \end{array}\right],$

где $Y$ – матрица объясняемой переменной размерностью $n \times 1$, $X$ – матрица регрессоров размерностью $n \times p$, $X_1$ – матрица первой группы регрессоров размерностью $n \times p_1$, $X_2$ – матрица второй группы регрессоров размерностью $n \times ( \rho - \rho _1)$, $\beta$ – матрица коэффициентов размерностью $\rho \times 1$, $\beta _1$ – матрица коэффициентов для первых $\rho _1$ регрессоров, $\beta _2$ – матрица коэффициентов для последних $( \rho - \rho _1)$ регрессоров, $u$ – матрица ошибок, размерностью $n \times 1$.

Рассмотрим также преобразованную регрессию:

$M_1Y=M_1X_2 \beta _2+ \varepsilon , \\ M_1=I-P_1, \\ P_1=X_1(X_1^TX_1)^{-1}X_1^T,$

где $P_1$ – проекционная матрица $(P_1X_1=X_1)$ относительно первой группы регрессоров $X_1$, $M_1$ – аннулятор $(M_1P_1=M_1X_1=0)$ относительно первой группы регрессоров $X_1$. Обе матрицы $P_1$ и $M_1$ являются симметричными и идемпотентными.

Тогда:

• МНК-оценки $\beta _2$ коэффициента в обоих рассматриваемых регрессиях численно совпадают,

• МНК-оценки остатков в обеих рассматриваемых регрессиях численно совпадают.

МНК-оценка преобразованной регрессии с учётом симметричности и идемпотентности аннулятора $M_1$ равна:

$\widehat{ \beta } _2=(X_2^TM_1^TM_1X_2)^{-1}X_2^TM_1^TY=(X_2^TM_1X_2)^{-1}X_2^TM_1Y.$

Теперь рассмотрим регрессию с полным набором объясняющих переменных. $Y$ можно разложить следующим образом:

$Y=P_xY+M_xY=X \widehat{ \beta } + \widehat{u} =X_1 \widehat{ \beta } _1+X_2 \widehat{ \beta } _2+\widehat{u}, \\ P_x=X(X^TX)^{-1}X^T, \\ P_xY=X \widehat{ \beta } =X_1 \widehat{ \beta }_1+X_2 \widehat{ \beta }_2, \\ M_x=I-P_x, \\ M_xY=(I-P_x)Y=Y-X \widehat{ \beta } =\widehat{u},$

где $P_x$ и $M_x$ – проекционная матрица и аннулятор относительно всей группы регрессоров, которые также являются симметричными и идемпотентными матрицами со следующими необходимыми для доказательства свойствами:

• $P_xP_1=P_1P_x=P_1,$

• $M_xM_1=M_1M_x=M_x,$

• $M_xX_2=X_2^TM_x=0.$ 

Домножим обе части полученного равенства на $X_2^TM_1$:

$X_2^TM_1Y=X_2^TM_1X_1 \widehat{ \beta } _1+X_2^TM_1X_2 \widehat{ \beta } _2+X_2^TM_1M_xY=X_2^TM_1X_2 \widehat{ \beta } _2, \\ \widehat{ \beta } _2=(X_2^TM_1X_2)^{-1}X_2^TM_1Y.$

Полученная МНК-оценка $\widehat{ \beta } _2$ равна МНК-оценке в преобразованной регрессии.

Перейдём к доказательству второй части теоремы. В преобразованной регрессии МНК-оценка остатков равна:

$\widehat{ \varepsilon } =M_1Y-M_1X_2 \widehat{ \beta } _2.$

Обратимся к ранее полученному равенству:

$Y=X_1 \widehat{ \beta } _1+X_2 \widehat{ \beta } _2+M_xY.$

Домножим обе части равенства на $M_1$:

$M_1Y=M_1X_1 \widehat{ \beta } _1+M_1X_2 \widehat{ \beta } _2+M_1M_xY=M_1X_2 \widehat{ \beta } _2+M_xY, \\ M_1Y-M_1X_2 \widehat{ \beta } _2=M_xY= \widehat{u} = \widehat{ \varepsilon } .$

Из последнего равенства следует, что МНК-оценки остатков в обеих регрессиях идентичны.

В практическом применении основным достоинством использования теоремы Фриша – Во – Ловелла является ускорение расчётов. При получении МНК-оценки самой ресурсозатратной вычислительной операцией является обращение матрицы $X^TX$. Данный процесс может занять длительное время, если число регрессоров велико.

Использование теоремы Фриша – Во – Ловелла позволяет разбить массив регрессоров на две части, в результате чего обращаются матрицы $X_1^TX_1$ и $X_2^TM_1X_2$, размерности которых меньше, чем размерность исходной матрицы.

Соответственно, если среди объясняющих переменных присутствуют такие, чей эффект по каким-либо причинам не представляет интерес для исследователя или не является важным, то их можно перенести в одну группу ($X_1$), а интересующие исследователя переменные – в другую ($X_2$), тем самым снизив вычислительную сложность модели.

Среди самых распространённых ещё с 20 в. способов использования данного подхода являются операции детрендирования временных рядов и исключение эффекта дамми/фиктивных переменных (например, сезонной компоненты). Например, при анализе влияния группы из $N$ факторов на уровень ВВП, предполагается, что эти факторы не могут полностью объяснить динамику выпуска. В этом случае для решения проблемы смещения оценок из-за пропущенных переменных вводят детерминистскую трендовую компоненту (переменную, отвечающую за линейный рост показателя во времени). Оценка её влияния не представляет исследовательский интерес в рассматриваемом примере, поэтому её можно представить как $X_1$, а остальные факторы объединить в группу $X_2$ , после чего воспользоваться результатом теоремы Фриша – Во – Ловелла. В этом случае для получения оценки $\beta_2$ обращается не матрица размерностью $(N+1)\times(N+1)$, а матрицы размерностью $N\times N$ и $1 \times 1$.

Аналогично при анализе влияния группы факторов на уровень квартального ВВП возникает проблема оценивания как сезонной, так и трендовой составляющих. Вновь предполагается, что исследуемая группа факторов не может полностью объяснить динамику выпуска, вследствие чего вводится трендовая компонента и дамми-переменные, отвечающие за сезонность. Поскольку оценка их влияния на выпуск не представляет интерес в конкретном примере, то их объединяют в группу $X_1$, а остальные факторы – в группу $X_2$ , после чего применяется результат теоремы Фриша – Во – Ловелла. В этом случае для получения оценки $\beta_2$ обращается не матрица размерностью $(N+4)\times(N+4)$, а матрицы размерностью $N\times N$ и $4 \times 4$.