Ветвя́щийся проце́сс, случайный процесс, описывающий широкий круг явлений, связанных с размножением и превращением каких-либо объектов (например, частиц в физике, молекул в химии, особей какой-либо популяции в биологии и т. п.). Основным математическим предположением, выделяющим класс ветвящихся процессов, является предположение независимости размножения частиц друг от друга.

Однородный во времени ветвящийся процесс $\mu (t)$ с однотипными частицами определяется как марковский процесс со счётным числом состояний $0,1,2\ldots$, переходные вероятности $P_{ij}(t)$ которого удовлетворяют дополнительному условию ветвления:

$$\tag{1}P_{ij}(t)=\ \sum _{j_{1}+\ldots +j_{i}=j} P_{1j_{1}}(t)P_{1j_{2}}(t)\ldots P_{1j_{i}}(t).$$Состояния $0,1,2\ldots$ в ветвящемся процессе интерпретируются как числа частиц. Вероятность $P_{ij}(t)$ равна вероятности

$${\mathsf P}\bigl\{\mu (t+t_{0})= j\mid \mu (t_{0})=i\bigr\}$$того, что $i$ частиц за время $t$ превращаются в $j$ частиц. Основным аналитическим аппаратом ветвящихся процессов являются производящие функции

$$\tag{2} F(t;s)=\ \sum _{n=0}^\infty {\mathsf P}\{\mu (t)= n\mid \mu (0)=1\}\,s^{n}.$$Из условия ветвления (1) вытекает равенство

$$\tag{3} F(t+\tau ;s)=F(t;F(\tau ;s)).$$В ветвящемся процессе с дискретным временем $t$ принимает целые неотрицательные значения и из (3) следует, что $F(t;s)$ есть $t$-кратная итерация функции $F(s)=F(1;s)$. Такой процесс иногда называется процессом Гальтона – Ватсона. В ветвящемся процессе с непрерывным временем предполагается, что $t\in [0,\infty )$ и существует правая производная

$$\left . \frac{\partial F(t;s)}{\partial t} \right |_{t=0}=f(s).$$Из (3) следует, что $F(t;s)$ удовлетворяет дифференциальному уравнению

$$\tag{4} \frac{\partial F(t;s)}{\partial t}= f(F(t;s))$$и начальному условию $F(0;s)=s$.

Если $A=F^{\prime }(1)$ и $a=f^{\prime }(1)$ конечны, то математическое ожидание ${\mathsf E}\mu (t)$ числа частиц $\mu(t)$ [при условии $\mu(0)=1$] равно $A^{t}$ для ветвящегося процесса с дискретным временем и равно $e^{at}$ для ветвящегося процесса с непрерывным временем. В зависимости от значения параметров $A$ или $a$ ветвящиеся процессы подразделяются на докритические ($A<1$, $a<0$), критические ($A=1$, $a=0$) и надкритические ($A>1$, $a>0$). Основным свойством, определяющим эту классификацию, является поведение ${\mathsf E}\mu (t)$ при $t\rightarrow \infty$.

Ниже исключаются из рассмотрения тривиальные случаи $F(s)\equiv s$ и $f(s)\equiv 0$ , когда

$${\mathsf P}\bigl\{\mu (t)=1\mid \mu (0)=1\bigr\}\equiv 1.$$Вероятность вырождения равна $1$ в докритическом и критическом ветвящихся процессах и меньше $1$ в надкритическом ветвящемся процессе. Если ${\mathsf E}\mu (t)\cdot\ln\mu (t)<\infty$ , то в докритическом ветвящемся процессе вероятность продолжения процесса ${\mathsf P}\{\mu (t)>0\}$ при $t\to\infty$ асимптотически ведёт себя как $K{\mathsf E}\mu (t)$, где $K$ – положительная константа. В критическом ветвящемся процессе с конечным ${\mathsf E}\mu ^{2}(t)$ при $t\to \infty$ имеет место асимптотика

$${\mathsf P}\bigl\{\mu (t)>0\bigr\} \approx { \frac{2}{{\mathsf D}\mu (t)} },$$где ${\mathsf D}\mu (t)=Bt$ в ветвящемся процессе с дискретным временем и ${\mathsf D}\mu (t)=bt$ в ветвящемся процессе с непрерывным временем, $B=F^{\prime\prime }(1)$, $b=f^{\prime\prime }(1)$. Более детальное изучение асимптотического поведения распределения $\mu (t)$ при $t\to \infty$ показывает, что условный закон распределения

$$\tag{5} S_{t}(x)={\mathsf P} \left \{ \frac{\mu (t)}{{\mathsf E}\{\mu (t)\mid \mu (t)>0\}} \leqslant x\mid \mu (t)>0 \right \}$$при $t\to\infty$ слабо сходится к предельному распределению $S(x)$, если конечны некоторые моменты $\mu (t)$. В докритическом ветвящемся процессе предельный закон $S(x)$ дискретен, а в остальных случаях абсолютно непрерывен. Особенно интересен случай критического ветвящегося процесса, для которого предельный закон $S(x)$ показательный:

$$\tag{6}S(x)=1-e^{-x},\ x\geqslant 0.$$Распределение (6) является предельным также и для ветвящихся процессов, близких к критическим. Точнее, если рассматривать класс производящих функций $F(s)$ или $f(s)$ с ограниченной 3-й производной $F^{\prime\prime\prime }(1)$, $f^{\prime\prime\prime }(1)$ и с $F^{\prime\prime }(1)\geqslant B_{0}>0$, $f^{\prime\prime }(1)\geqslant b_{0}>0$, то

$$\lim\limits _{\substack{t\to\infty\\A\to1}} S_{t}(x)= 1-e^{-x},\ \ \ \ x\geqslant 0,$$где $S_{t}(x)$ определяется формулой (5). Явления, возникающие при $t\to \infty$ в ветвящихся процессах, близких к критическим, называются переходными.

Другой моделью ветвящегося процесса является процесс Беллмана – Харриса, в котором каждая частица имеет случайное время жизни с функцией распределения $G(t)$. В конце жизни частица оставляет потомство численности $n$ с вероятностью $q_{n}$,

$$\sum _{n=0}^\infty q_{n}=1.$$Времена жизни и численности потомства разных частиц независимы. Пусть в начальный момент $t=0$ была одна частица нулевого возраста. Тогда производящая функция $F(t;s)$ числа частиц $\mu (t)$ в момент $t$, определяемая формулой (2), удовлетворяет нелинейному интегральному уравнению

$$\tag{7} F(t;s)=\ \int\limits _{0}^{t} h(F(t-u;s))\, dG(u)+s(1-G(t)),$$где

$$h(s)=\ \sum _{n=0}^\infty q_{n}s^{n}.$$В частном случае, когда $G(t)$ – вырожденная функция распределения, процесс Беллмана – Харриса есть ветвящийся процесс с дискретным временем; когда же $G(t)$ – показательная функция распределения, получается ветвящийся процесс с непрерывным временем. В общем случае процесс Беллмана – Харриса – это немарковский ветвящийся процесс.

Другое усложнение ветвящихся процессов связано с зависимостью частиц от положения в пространстве. Пусть, например, частицы независимо друг от друга совершают броуновское движение в $r$-мерной области $G$ с поглощающей границей $\partial G$. Частица, находящаяся внутри области $G$, за время $\Delta t\to0$ с вероятностью

$$p_{n}\Delta t+o(\Delta t),\ \ \ \ n\neq 1,$$превращается в $n$ частиц, которые начинают независимо друг от друга блуждать по броуновским траекториям из точки их рождения. Пусть $\mu_{xt}(A)$ равно числу частиц в множестве $A$ в момент $t$, если в начальный момент $0$ была одна частица в точке $x\in G$. Производящий функционал

$$H(t,x,s({\cdot}))={\mathsf E}\exp \biggl[\,\int\limits _{G}\ln s(y)\mu_{xt}\,(dy)\biggr]$$удовлетворяет квазилинейному параболическому уравнению

$$\tag{8} \Delta H+f(H)=0$$с начальным условием $H(0,x,s({\cdot}))=s(x)$ и граничным условием $\bigl.H(t,x,s({\cdot}))\bigr|_{x\to\partial G}=0$, где $\displaystyle\Delta={\sum _{i=1}^{r}}\frac{\partial ^{2}}{\partial x_{i}^{2}}$ – оператор Лапласа, a $\displaystyle f(s)={\sum _{n}}p_{n}s^{n}$, $\displaystyle\ p_{1}=-\sum _{n\neq 1}p_{n}$.

В общем случае ветвящихся процессов предполагается, что размножающиеся частицы характеризуются какими-либо параметрами, которые можно интерпретировать как возраст, положение частицы в пространстве, тип, размер или энергию частицы и т. п. Изучение таких процессов ведётся с помощью производящих функций или функционалов, для которых выводятся нелинейные дифференциальные или интегральные уравнения, обобщающие уравнения (4), (7), (8). Можно дать следующее общее описание таких моделей ветвящихся процессов. Пусть в некотором фазовом пространстве $X$ независимо друг от друга по закону марковского процесса блуждают частицы. Предполагается, что случайное время жизни частицы есть марковский момент, зависящий от её траектории. В конце своей жизни частица производит новые частицы, которые по какому-либо вероятностному закону распределяются по фазовому пространству $X$. Новые частицы эволюционируют независимо друг от друга аналогичным образом. В пространстве целочисленных мер, определяемых численностями частиц в подмножествах $X$, так построенный ветвящийся процесс является марковским. Однако ветвящиеся процессы часто рассматриваются в более простых редуцированных пространствах. В этом случае многие из них становятся немарковскими.

В большей части приведённых выше моделей сохраняет смысл подразделение процессов на докритические, критические и надкритические ветвящиеся процессы. При этом в более сложной обстановке сохраняются многие свойства, установленные для простых ветвящихся процессов, описываемых уравнением (4). В частности, в критических процессах, как правило, в качестве предельного распределения для (5) (при соответствующей нормировке) возникает показательное распределение (6).

Ветвящиеся процессы находят применение при расчётах различных реальных биологических, генетических, физических, химических или технических процессов. В реальных процессах часто нарушается условие независимости размножения различных частиц и, наоборот, при размножении имеется взаимодействие частиц. Так обстоит дело во многих биологических процессах размножения, в процессах распространения эпидемий, в бимолекулярных химических реакциях и т. п. Однако начальные стадии развития таких процессов можно рассчитывать с помощью соответственно подобранных моделей ветвящихся процессов. Это делается в тех случаях, когда в среде имеется не очень много активных частиц, которые при малых концентрациях почти не встречаются друг с другом, а изменения состояния системы происходят при встречах этих активных частиц с частицами среды. В процессах эпидемии, например, такими «активными частицами» можно считать больных индивидуумов. В генетике с помощью ветвящихся процессов можно рассчитывать, например, явления, связанные с мутациями. Ветвящийся процесс с конечным числом типов частиц может служить моделью при расчётах цепных реакций; ветвящийся процесс с диффузией частиц – моделью нейтронных процессов в ядерных реакторах. Явления, возникающие в ливнях космических лучей, также могут изучаться с помощью ветвящихся процессов. В телефонии расчёт некоторых систем с ожиданием сводится к моделям ветвящихся процессов.