Ме́тод эласти́чной сети́ (англ. elastic net regularization), гибрид методов регрессии lasso и гребневой регрессии, который используется в эконометрике для решения проблемы мультиколлинеарности (наличие линейной зависимости между объясняющими переменными) и отбора наиболее информативных (с точки зрения способности объяснять дисперсию зависимой переменной) признаков. Метод использует как $L_{1}$-, так и $L_{2}$-регуляризацию, что позволяет учитывать достоинства обоих методов.

Пусть есть выборка из $N$ наблюдений, которые состоят из зависимой (объясняемой) переменной $y_i$ и $p$ регрессоров (объясняющих переменных). Тогда оценка метода эластичной сети задаётся соотношением:

$\widehat{β^{elastic net} } =\argmin\limits_{β⁡}\{\frac{1}{2}\sum\limits_{i=1}^N(y_i-β_0-\sum\limits_{j=1}^px_{ij} β_j )^2 +λ_1\sum\limits_{j=1}^p|β_j|+λ_2\sum\limits_{j=1}^pβ_j^2 \}$,

где $y_i$ – $i$-ое наблюдение зависимой переменной, $x_{ij}$ – $i$-ое наблюдение $j$-го регрессора, $\beta_0$ – свободный член, $\beta_j$ – коэффициенты модели, $\lambda_1, \lambda_2$ – параметры регуляризации.

Регрессоры должны быть стандартизованы:

$\sum\limits_{i=1}^nx_{ij} =0, \sum\limits_{i=1}^nx_{ij}^2 =1, j=1,2,…,p$.

Если ввести обозначение $α=\frac{λ_2}{λ_1+λ_2 },$ то эквивалентный способ задать оценку параметров метода эластичной сети:

$\widehat{β^{elasticnet} } =\argmin\limits_{β⁡}\sum\limits_{i=1}^N(y_i-β_0-\sum\limits_{j=1}^px_{ij} β_j )^2$,

$(1-\alpha)\sum \limits _{j=1}^p |β_j| +\alpha\sum \limits _{j=1}^p β_j^2 ≤t$,

где $t$ – заранее заданный параметр, который определяет степень регуляризации.

Комбинация $L_1$- и $L_2$-штрафов в методе эластичной сети, с одной стороны, позволяет проводить отбор наиболее информативных признаков, как в регрессии lasso. Метод эластичной сети. Выполнено по материалам публикации: Hastie T. [et al.]. The Elements of Statistical Learning: Data Mining, Inference, and Prediction. New York, 2009. P. 73.Метод эластичной сети. Выполнено по материалам публикации: Hastie T. [et al.]. The Elements of Statistical Learning: Data Mining, Inference, and Prediction. New York, 2009. P. 73.С другой стороны, она позволяет уменьшать коэффициенты модели, как гребневая регрессия.

На рисунке сравниваются штрафные ограничения для $L_q$-штрафа и штрафа метода эластичной сети с параметром $\alpha=0,2$. Ограничения различаются тем, что график для штрафа эластичной сети имеет острые (недифференцируемые) углы. За счёт такой формы штрафное ограничение позволяет отбирать наиболее информативные признаки и сокращать коэффициенты переменных.