Несмещённая оценка

Несмещённая оце́нка, статистическая оценка параметра распределения вероятностей по результатам наблюдений, лишённая систематической ошибки. Точнее, если оцениваемое распределение зависит от параметра ${\displaystyle \Theta }$, то функция ${\displaystyle \Theta ^{*}(X_{1},X_{2},\ldots ,X_{n})}$ от результатов наблюдений ${\displaystyle X_{1},X_{2},\ldots ,X_{n}}$ называется несмещённой оценкой для параметра ${\displaystyle \Theta }$, если при любых допустимых значениях ${\displaystyle \Theta }$ математическое ожидание

${\displaystyle {\text{E}}\Theta ^{*}(X_{1},X_{2},\ldots ,X_{n})=\Theta }$.

Например, если результаты наблюдений ${\displaystyle X_{1},X_{2},\ldots ,X_{n}}$ суть взаимно независимые случайные величины, имеющие одинаковое нормальное распределение, заданное плотностью

${\displaystyle p(x)={\dfrac {1}{\sigma {\sqrt {2\pi }}}}e^{-(x-a)^{2}/2\sigma ^{2}}}$

с неизвестными параметрами ${\displaystyle a}$ и ${\displaystyle \sigma ^{2}}$, то среднее арифметическое

${\displaystyle {\overline {X}}=(X_{1}+X_{2}+\ldots +X_{n})/n}$ (1)

будет несмещённой оценкой для ${\displaystyle a}$. Часто используемая для оценки ${\displaystyle \sigma ^{2}}$ выборочная дисперсия

${\displaystyle \displaystyle s^{2}={\frac {1}{n}}\sum _{i=1}^{n}(X_{i}-{\overline {X}})^{2}}$

не является несмещённой оценкой. Несмещённой оценкой для ${\displaystyle \sigma ^{2}}$ служит величина

${\displaystyle \displaystyle s_{0}^{2}={\frac {1}{(n-1)}}\sum (X_{i}-{\overline {X}})^{2},}$ (2)

несмещённая оценка квадратичного отклонения ${\displaystyle \sigma }$ имеет более сложное выражение

${\displaystyle \displaystyle {\sqrt {\frac {n-1}{2}}}{\frac {\Gamma \left({\frac {n-1}{2}}{}\right)}{\Gamma \left({\frac {n}{2}}\right)}}s.}$ (3)

Оценка (1) для математического ожидания и оценка (2) для дисперсии являются несмещёнными оценками и при распределениях, отличных от нормального; оценка (3) для квадратичного отклонения, вообще говоря (при распределениях, отличных от нормального), может быть смещённой. Оценка ${\displaystyle s^{2}}$ дисперсии принадлежит классу т. н. асимптотически несмещённых оценок, который определяется соотношением ${\displaystyle {\ce {{\text{E}}\Theta ^{*}(X_{1},\ldots ,X_{n})->\Theta }}}$ при ${\displaystyle {\ce {n->\infty }}}$.

Использование несмещённой оценки необходимо при оценке неизвестного параметра по большому числу серий, каждая из которых состоит из небольшого числа наблюдений. Пусть, например, имеется ${\displaystyle k}$ серий

${\displaystyle X_{i1},X_{i2},\ldots ,X_{in},\quad i=1,2,\ldots ,k}$,

по ${\displaystyle n}$ наблюдений в каждой и пусть ${\displaystyle s_{i}^{2}}$ – несмещённая оценка для ${\displaystyle \sigma ^{2}}$, полученная по ${\displaystyle i}$-й серии наблюдений. Тогда при большом ${\displaystyle k}$ в силу закона больших чисел ${\displaystyle (s_{1}^{2}+s_{2}^{2}+\ldots +s_{k}^{2})/k\sim \sigma ^{2}}$, даже когда ${\displaystyle n}$ невелико. Наилучшие оценки параметров распределений, как правило, находятся среди несмещённых оценок.