Статистическая оценка
Статисти́ческая оце́нка, функция от результатов наблюдений, предназначенная для оценивания неизвестных параметров распределения вероятностей. Например, если результаты наблюдений – независимые случайные величины, имеющие одно и то же нормальное распределение с неизвестным математическим ожиданием , то выборочное среднее – среднее арифметическое результатов наблюдений – и выборочная медиана являются статистическими оценками неизвестного параметра . Статистические оценки, дающие числовые приближения неизвестного числа, называются точечными, только они и рассматриваются в дальнейшем. О других статистических оценках см. в статье Доверительный интервал.
В качестве статистических оценок какого-либо параметра распределения вероятностей естественно выбирать такую функцию от результатов наблюдений, которая в некотором смысле близка к истинному значению параметра. Применяя какую-либо меру близости, можно сравнивать различные статистические оценки. Обычно мерой близости статистической оценки к истинному значению параметра служит величина среднего значения квадрата ошибки выражающаяся через математическое ожидание оценки и её дисперсию , вычисленные по распределению, зависящему от неизвестного значения . В классе всех несмещённых оценок наилучшими с этой точки зрения будут статистические оценки, имеющие при заданном минимальную возможную дисперсию при всех , такие статистические оценки называются эффективными. Указанная выше статистическая оценка для параметра нормального распределения является наилучшей несмещённой оценкой, поскольку дисперсия любой другой несмещённой оценки будет больше , где – дисперсия исходного нормального распределения (см. также Неравенство Рао – Крамера). В конкретных случаях отыскание наилучших оценок облегчается с помощью достаточных статистик, т. к. наилучшую несмещённую оценку нужно искать в классе статистических оценок, зависящих только от достаточных статистик.
Имея в виду построение статистических оценок для больших значений , изучают также асимптотические свойства оценок. Естественно, например, предполагать, что вероятность отклонений от истинного значения параметра , превосходящих любое наперёд заданное число, будет стремиться к нулю при . Статистические оценки с таким свойством называются состоятельными оценками. Несмещённая статистическая оценка, дисперсия которой стремится к нулю при , является состоятельной. Асимптотическое сравнение статистических оценок производят по отношению их асимптотических дисперсий. Так, среднее арифметическое в приведённом выше примере – наилучшая и, следовательно, асимптотически наилучшая статистическая оценка для параметра , тогда как выборочная медиана , являющаяся также несмещённой оценкой, не является асимптотически наилучшей, т. к. предел отношения к при равен . Тем не менее использование имеет свои положительные стороны; например, если истинное распределение не является в точности нормальным и при этом для него по-прежнему математическое ожидание совпадает с медианой, то дисперсия может сильно возрасти, а дисперсия останется почти той же, т. е. обладает свойством, называемым робастностью.
Один из распространённых общих методов получения статистических оценок параметров распределения – метод максимального правдоподобия.
См. также Непараметрические методы математической статистики.