Преде́льные теоре́мы в теории вероятностей, общее название ряда теорем, в которых указываются условия возникновения тех или иных закономерностей в результате действия большого числа случайных факторов. Считается, что предельные теоремы несут в себе большую часть практической значимости теории вероятностей. Первые предельные теоремы – теорема Бернулли и теорема Муавра – Лапласа – относятся к распределению отклонений частоты наступления некоторого случайного события $A$ в $n$ независимых испытаний от его вероятности $p$, $0\lt p\lt 1$. С. Пуассон (1837) распространил эти теоремы на случай, когда вероятность $p_k$ наступления события $A$ в $k$-м испытании может зависеть от $k$ (см. Закон больших чисел, Теорема Пуассона). Пусть $X_k$ – случайная величина, равная $1$, если в $k$-м испытании наступило событие $A$, и равная нулю в противном случае. Тогда случайную величину – число наступлений события $A$ в $n$ независимых испытаниях можно представить в виде суммы

$$S_n=X_1+X_2+\ldots+X_n$$независимых случайных величин $X_1, X_2, \ldots, X_n$, что позволяет рассматривать перечисленные теоремы как частные случаи общих предельных теорем, относящихся к суммам независимых случайных величин. Важнейшие предельные теоремы – закон больших чисел и центральная предельная теорема.

Актуальность предельных теорем для сумм независимых случайных величин связана с тем, что суммы таких величин очень часто встречаются в разнообразных прикладных задачах, в то же время вычисления распределений вероятностей сумм $S_n$ настолько сложны, что делает их практически невыполнимыми. Последнее связано с тем, что распределения этих сумм являются свёртками (композициями) распределений слагаемых, а явные формулы для свёрток, тем более для свёрток многих распределений, можно получить лишь в исключительных случаях, и даже в этих случаях использование таких формул при больших $n$ обычно невозможно в связи с тем, что они являются очень громоздкими и содержат факториалы чисел, близких к $n$, а эти величины при росте $n$ сильно возрастают (в частности, $70!>10^{100}$). Предельные теоремы позволяют обходить указанные трудности, доставляя простые приближённые формулы, связанные с распределениями сумм $S_n$, при этом составными частями предельных теорем являются оценки точности аппроксимаций, которые они гарантируют. Кроме того, в предельных теоремах обычно нет необходимости знать полностью распределения слагаемых $X_1, X_2, \ldots$, достаточно использовать лишь некоторые числовые характеристики этих распределений; так, для справедливости закона больших чисел в форме Чебышёва достаточно наложить ограничения на величины дисперсий суммируемых случайных величин.

Закон больших чисел можно рассматривать как в пространствах случайных величин, так и в пространствах их распределений. В пространствах случайных величин закон больших чисел – утверждения о том, что при определённых условиях при росте числа $n$ средние арифметические

$$\frac{S_n}{n}=\frac{X_1+\ldots+X_n}{n}$$случайных величин $X_1, X_2, \ldots$ сближаются с вырожденными (принимающими при каждом $n$ единственное значение) случайными величинами

$$A_n=\frac{a_1+\ldots+a_n}{n},$$где $a_j={\sf E}X_j$ – математические ожидания величин $X_j$,$j=1, \ldots, n$. В частности, для любого $ε>0$,

$${\sf P}\left\{ \left | \frac{S_n}{n}-A_n \right | \geqslant ε \right\}→0,\quad n→∞.$$В случае одинаково распределённых случайных величин $X_1, X_2, \ldots$ числа $A_n≡a={\sf E} X_1$ и последнее утверждение принимает вид

$${\sf P}\left\{ \left | \frac{S_n}{n}-a \right | \geqslant ε \right\}→0,\quad n→∞$$для любого $ε>0$. Такую сходимость часто обозначают

$$\frac{S_n}{n}\stackrel{\sf P}\rightarrow a,\quad n→∞,\tag{*}$$и называют сходимостью по вероятности. Для справедливости (*) достаточно существования ${\sf E} X_1$ (закон больших чисел в форме Хинчина). В пространствах распределений законом больших чисел называют утверждения о том, что функции распределения средних арифметических случайных величин $X_1, X_2, \ldots$,

$$F_{S_n/n}(x)={\sf P}\left\{ \frac{X_1+...+X_n}{n}\lt x \right\},$$при росте $n$ сближаются с вырожденными функциями распределения $E_{A_n}(x)$ (имеющими единственный единичный скачок при $x=A_n$). Например, в случае одинаково распределённых случайных величин $X_1, X_2, \ldots$

$$F_{S_n/n}\rightarrow E_a(x),\quad n→∞,\tag{**}$$для любого $x≠a$. Это частный случай слабой сходимости распределений. Утверждения (*) и (**) эквивалентны.

Существуют разнообразные количественные оценки близости случайных величин $S_n/n$ и $A_n$, а также их функций распределения. Для справедливости таких оценок необходимо существование моментов случайных величин порядков, выше первого. Простейшую из таких оценок даёт неравенство Чебышёва: для любого $ε>0$

$${\sf P}\left\{ \left | \frac{S_n}{n}-A_n \right | \geqslant ε \right\}\leqslant\frac{B^2_n}{ε^2n^2},$$где $B_n^2$ – сумма дисперсий случайных величин $X_1, \ldots, X_n$,

$$B^2_n={\sf D} X_1+\ldots+{\sf D} X_n.$$Справедлива также оценка расстояния по вероятности между случайными величинами $S_n/n$ и $A_n$

$$K(S_n/n,\,A_n)=\inf\{ε\gt 0:{\sf P} \{\left| S_n/n-A_n\right | \geqslant ε\}\leqslant ε \} \leqslant \left( \frac{B_n}{n}\right)^{2/3}.$$Для среднего расстояния между функциями распределения случайных величин $S_n/n$ и $A_n$ справедлива оценка

$$\int\limits_{-\infty}^{+\infty} \left| F_{S_n/n}(x)-E_{A_n}(x)\right| dx\leqslant \frac{B_n}{n}.$$Т. о., при росте $n$ случайные величины $S_n/n$ и их функции распределения вырождаются.

В центральной предельной теореме используется более деликатное (по сравнению с законом больших чисел, если $B_n/n→0$ при $n→∞$) преобразование сумм $S_n$. Из этих сумм вычитаются их математические ожидания ${\sf E } S_n=nA_n$ и полученные разности делятся на корни из дисперсий величин $S_n$. Так приходят к т. н. нормированным (иногда говорят, к центрированным и нормированным) суммам

$S_n^*=(X_1+\ldots+X_n-({\sf E }X_1+\ldots+\sf E \it X_n))/B_n$(закон больших чисел можно формулировать с помощью аналогичных сумм, в которых вместо величины $B_n$ используется число слагаемых $n$). Нормированные суммы $S_n$ имеют нулевые математические ожидания, единичные дисперсии, и центральная предельная теорема утверждает, что при достаточно широких условиях их функции распределения $F_{S_n^*}(x)={\sf P}\{S_n^*\lt x\}$ при росте $n$ равномерно по всем действительным $x$ сходятся к функции распределения стандартного нормального закона

$$\Phi(x)=\int_{-\infty}^x\frac{1}{\sqrt{2\pi}}e^{-u^2/2}\,du,$$или, что то же самое

$$\rho(F_{S_n^*},\Phi)=\sup_{-\infty\lt x\lt +\infty} \left| F_{S_n^*}(x)-\Phi(x)\right|→0,\quad n→∞.$$В случае одинаково распределённых слагаемых $X_1, X_2, \ldots$ величины $B_n=σ\sqrt{n}$, где $σ^2≠0$ – общая дисперсия случайных величин $X_1, X_2, \ldots$, и для справедливости центральной предельной теоремы достаточно существования последней. Известны разнообразные оценки точности аппроксимации в центральной предельной теореме, для справедливости которых необходимо существование моментов случайных величин порядков, выше второго. Самую известную оценку даёт теорема Берри – Эссеена, утверждение которой в случае одинаково распределённых величин $X_1, X_2,\ldots$ состоит в том, что

$$\rho(F_{S_n^*},\Phi)\leqslant C {\sf E} \left| X_1-{\sf E} X_1\right|^3/(\sigma^3\sqrt{n}),$$где $C$ – постоянная. Известно, что $C≈0,4$.

Можно отметить следующие направления работ, связанные с предельными теоремами.

1) Начатые А. А. Марковым (старшим), продолженные С. Н. Бернштейном и другими исследования условий применимости закона больших чисел и центральной предельной теоремы к суммам зависимых случайных величин, в том числе изучение предельных теорем для различных классов случайных процессов.

2) Изучение предельных теорем для сумм независимых случайных величин, в которых предельными законами являются невырожденные распределения, отличные от нормального. Сюда, в частности, относятся предельные теоремы, в которых предельными являются устойчивые распределения. Эти распределения появляются в случае, когда слагаемые $X_1, X_2, \ldots$ независимы и одинаково распределены, но их дисперсии и даже математические ожидания не существуют.

3) Исследования т. н. локальных форм предельных теорем. Например, одна из локальных форм центральной предельной теоремы состоит в том, что при некоторых условиях, обеспечивающих существование плотностей $p_{S_n^*}(x)=F'_{S_n^*}(x)$ функций распределения нормированных сумм, эти плотности сходятся к плотности $\frac{1}{\sqrt{2\pi}}e^{-x^2/2}$ стандартного нормального закона.

4) Предельные теоремы в классической постановке описывают поведение отдельных сумм $S_n$ с возрастанием количества слагаемых $n$. Достаточно общие предельные теоремы для вероятностей событий, зависящих сразу от нескольких сумм, впервые получены А. Н. Колмогоровым (1931). Так, например, из полученных им результатов следует, что при широких условиях вероятность неравенства

$$\max_{l⩽k⩽n}\left|S_k\right |\lt xB_n,\quad x\gt 0,$$имеет пределом величину

$$\frac{4}{\pi}\sum^{\infty}_{k=0}(-1)^k\frac{1}{2k+1}\exp\left( -\frac{(2k+1)^2x^2}{8\pi^2}\right).$$5) Исследование предельных теорем, устанавливающих свойства последовательностей случайных величин, которые имеют место с вероятностью, равной 1 (таковы, например, усиленный закон больших чисел, закон повторного логарифма).

6) Изучение т. н. вероятностей больших уклонений, т. е. исследование поведения при больших $n$ и $x$ отношений

$$\frac{F_{S_n^*}(x)}{\Phi(x)},\,\,x\lt 0,\quad и\quad\frac{1-F_{S_n^*}(x)}{1-\Phi(x)},\,\,x>0.$$7) Изучение предельных теорем для порядковых статистик.

8) Изучение предельных теорем для случайных величин, принимающих значения в конечномерных и бесконечномерных пространствах.