Распределение вероятностей

Распределе́ние вероя́тностей, одно из основных понятий теории вероятностей и математической статистики; задание распределения вероятностей равносильно заданию вероятностей всех случайных событий, которые могут произойти в данном случайном явлении.

Распределение вероятностей случайной величины ${\displaystyle X}$, возможные значения

${\displaystyle x_{1},x_{2},\ldots ,x_{n},\ldots }$

которой образуют конечную или бесконечную последовательность, задаётся указанием этих значений и соответствующих им вероятностей ${\displaystyle {\mathsf {P}}\{X=x_{n}\}}$:

${\displaystyle p_{1},p_{2},\ldots ,p_{n},\ldots }$

(${\displaystyle p_{n}}$ положительны и в сумме дают единицу). Распределение вероятностей указанного типа называются дискретными, их примерами являются биномиальное распределение и распределение Пуассона.

Во многих случаях задание распределения вероятностей указанием возможных значений случайной величины и соответствующих им вероятностей невозможно. Например, если случайная величина ${\displaystyle X}$ может принимать любое значение из отрезка ${\displaystyle [0,1]}$, то распределение вероятностей задаётся указанием того, с какими вероятностями ${\displaystyle X}$ может принимать значения из любого заданного интервала, принадлежащего отрезку ${\displaystyle [0,1]}$, т. к. вероятность каждого отдельного значения может быть равна нулю. Если существует такая функция ${\displaystyle p(x)}$, что вероятность попадания ${\displaystyle X}$ в интервал ${\displaystyle (a,b)}$ на прямой есть

${\displaystyle {\mathsf {P}}\{a<X<b\}=\int \limits _{a}^{b}p(x)\,dx}$

для любых ${\displaystyle a<b}$, причём ${\displaystyle p(x)\geqslant 0}$ для всех ${\displaystyle x}$ и

${\displaystyle \int \limits _{\infty }^{\infty }p(x)\,dx=1}$,

то распределение вероятностей случайной величины ${\displaystyle X}$ называется абсолютно непрерывным, а функция ${\displaystyle p(x)}$ называется плотностью вероятности. В случае, когда случайная величина ${\displaystyle X}$ может принимать значения только из отрезка ${\displaystyle [0,1]}$ и все значения из этого отрезка для неё равноправны, плотность вероятности ${\displaystyle p(x)=1}$ для всех ${\displaystyle x}$ из ${\displaystyle [0,1]}$ и равна нулю в противном случае. Это распределение вероятностей называется равномерным распределением. Важнейшим абсолютно непрерывным распределением вероятностей является нормальное распределение. Абсолютно непрерывными являются также распределение Коши и показательное распределение. Абсолютно непрерывные распределение вероятностей иногда называют распределениями непрерывного типа.

Распределение вероятностей случайных величин не исчерпываются распределениями дискретного и непрерывного типов, они могут быть и более сложной природы. В общем случае распределение вероятностей случайной величины может быть определено при помощи функции распределения, которая при каждом действительном x определяется формулой

${\displaystyle F(x)={\mathsf {P}}\{X<x\}}$.

Любая функция распределения не убывает, ${\displaystyle \lim \limits _{x\to -\infty }F(x)=0}$, ${\displaystyle \lim \limits _{x\to \infty }F(x)=1}$ и непрерывна слева. Иногда в определении функции распределения строгое неравенство ${\displaystyle <}$ заменяется на нестрогое неравенство ${\displaystyle \leqslant }$, в этом случае функция распределения непрерывна справа.

Часто полное описание распределения вероятностей (например, с помощью плотности или функции распределения) заменяют заданием небольшого числа числовых характеристик, которые указывают, как правило, наиболее типичные (в том или ином смысле) значения случайной величины и степень рассеяния значений случайной величины около некоторого типичного значения. Из этих характеристик наиболее употребительны математическое ожидание и корень из дисперсии, называемый стандартным отклонением.

Если случайные величины ${\displaystyle X}$ и ${\displaystyle Y}$ связаны соотношением ${\displaystyle Y=f(X)}$, где ${\displaystyle f(x)}$ – заданная функция, то распределение вероятностей величины ${\displaystyle Y}$ может быть выражено через распределение вероятностей величины ${\displaystyle X}$; например, если ${\displaystyle Y=aX+b}$, то при ${\displaystyle a>0}$ функции распределения величин ${\displaystyle X}$ и ${\displaystyle Y}$ связаны равенством

${\displaystyle F_{Y}(x)=F_{X}\left({\frac {x-b}{a}}\right)}$.

Помимо функций распределения, полную информацию о распределении вероятностей случайных величин содержат производящие функции (для случайных величин, возможные значения которых – целые неотрицательные числа) и характеристические функции.

Если ${\displaystyle X_{1},\ldots ,X_{n}}$ – несколько случайных величин, определённых на одном и том же вероятностном пространстве, то говорят о совместном распределении вероятностей этих величин или о распределении вероятностей случайного вектора ${\displaystyle (X_{1},\ldots ,X_{n})}$ – многомерном распределении вероятностей. Многомерное распределение вероятностей задаётся набором вероятностей вида ${\displaystyle {\mathsf {P}}\{X_{1}=x_{1},\ldots ,X_{n}=x_{n}\}}$ (дискретный тип) или с помощью плотности ${\displaystyle p(x_{1},\ldots ,x_{n})}$ (непрерывный тип) или же в общем случае совместной функцией распределения ${\displaystyle {\mathsf {P}}\{X_{1}<x_{1},\ldots ,X_{n}<x_{n}\}}$. Если случайные величины ${\displaystyle X_{1},\ldots ,X_{n}}$ независимы, то распределение вероятностей ${\displaystyle X=(X_{1},\ldots ,X_{n})}$ определяется распределением вероятностей отдельных случайных величин ${\displaystyle X_{1},\ldots ,X_{n}}$. В противном случае приходится рассматривать условные распределения вероятностей одних случайных величин при фиксированных значениях других случайных величин.

Особое внимание в теории вероятностей уделяется точным и асимптотическим распределениям вероятностей сумм случайных величин. Например, плотность распределения суммы двух независимых случайных величин X и Y вычисляется с помощью их плотностей по формуле

${\displaystyle p_{X+Y}(x)=\int \limits _{-\infty }^{\infty }p_{X}(x-y)p_{Y}(y)\,dy}$

(формула свёртки).

В случае суммы независимых случайных величин ${\displaystyle X_{1},\ldots ,X_{n}}$ формула свёртки имеет вид

${\displaystyle {\begin{aligned}p_{X_{1}+\ldots +X_{n}}(x)=\\=\int \limits _{-\infty }^{\infty }\!\ldots \!\int \limits _{-\infty }^{\infty }p_{X_{1}}(x-y_{1}-\ldots -y_{n}-1)p_{X_{2}}(y_{1})\ldots p_{X_{n}}(y_{n-1})\,dy_{1}\ldots dy_{n-1}\end{aligned}}}$

и практически непригодна для вычислений при больших ${\displaystyle n}$. Поэтому возникает задача об асимптотических (приближённых, для больших ${\displaystyle n}$) формулах для распределений сумм ${\displaystyle X_{1}+\ldots +X_{n}}$, для решения которой используются предельные теоремы теории вероятностей: Теорема Муавра – Лапласа, Теорема Пуассона, Центральная предельная теорема.