Релаксацио́нное колеба́ние в матема́тике, периодический процесс, при котором медленное, плавное изменение состояния объекта в течение конечного промежутка времени чередуется с быстрым, скачкообразным изменением его состояния за бесконечно малое время. Такие колебательные процессы наблюдаются во многих реальных механических, радиотехнических, биологических и других объектах (Ланда. 1980; Андронов. 1981; Романовский. 2004).

Математической моделью, описывающей релаксационное колебание, являются автономные системы обыкновенных дифференциальных уравнений с малым параметром при части производных:$$\tag{1}\begin{gathered} \varepsilon \dot{x}=f(x, y), \quad \dot{y}=g(x, y), \quad\dot{}=d / d t, \\ x \in \mathbb{R}^k, \quad y \in \mathbb{R}^m, \quad 0<\varepsilon \leqslant 1 . \end{gathered}$$Периодическое по времени $t$ решение такой системы и называется релаксационным колебанием. Классическим примером системы с одной степенью свободы, имеющей релаксационное колебание, служит уравнение Ван дер Поля$$\tag{2}\frac{d^2 x}{d \tau^2}-\lambda\left(1-x^2\right) \frac{d x}{d \tau}+x=0$$при больших положительных значениях параметра $\lambda$ (с этой точки зрения уже значение $\lambda=10$ можно считать большим). Если положить$$y=\int_0^x\left(x^2-1\right) d x+\frac{1}{\lambda} \frac{d x}{d \tau}, \quad t=\frac{\tau}{\lambda}, \quad \varepsilon=\frac{1}{\lambda^2},$$то уравнение (2) приводится к системе типа (1):$$\varepsilon \dot{x}=y-\frac{x^3}{3}+x, \quad \dot{y}=-x.$$Вопрос о существовании и числе релаксационного колебания системы (1) решается в терминах вырожденной системы$$\tag{3}f(x, y)=0, \quad \dot{y}=g(x, y),$$являющейся гибридной системой уравнений. Траектории системы (3) в фазовом пространстве $\mathbb{R}^k \times \mathbb{R}^m$ естественно трактовать как пределы фазовых траекторий невырожденной системы (1) при $\varepsilon \rightarrow 0$. В частности, траектория релаксационного колебания системы (1) при $\varepsilon \rightarrow 0$ стремится к замкнутой траектории системы (3), состоящей из чередующихся участков двух типов: участков, проходимых фазовой точкой системы (3) за конечное время [каждый из них лежит на поверхности $f(x, y)=0$], и участков, проходимых фазовой точкой системы (3) мгновенно [каждый из них начинается в точке срыва, т. е. в точке, где$$f(x, y)=0, \quad \operatorname{det}\|\partial f / \partial x\|=0,$$лежит в плоскости, параллельной $\mathbb{R}^k$, и кончается на поверхности $f(x, y)=0$]. Решение системы (3), соответствующее такой замкнутой траектории, называется разрывным периодическим решением, а потому релаксационное колебание системы (1) часто называется периодическим решением, близким к разрывному, или даже просто разрывным колебанием. [Система (3) может иметь замкнутую траекторию, целиком лежащую на поверхности $f(x, y)=0$ и не проходящую через точки срыва. В таком случае система (1) имеет близкую к ней замкнутую траекторию, однако соответствующее ей периодическое решение системы (1) не будет релаксационным колебанием (Аносов. 1960).]

Важной задачей является асимптотическое (при $\varepsilon \rightarrow 0$) вычисление фазовой траектории релаксационного колебания системы (1), а также получение асимптотических формул для характеристик этого колебания – его периода, амплитуды и т. д. Вычисление траектории релаксационного колебания уравнения Ван дер Поля (2) проводил А. А. Дородницын (Дородницын. 1947), построивший асимптотические приближения при $\lambda \rightarrow \infty$ для амплитуды$$a=2+0{,}77937 \lambda^{-4 / 3}-\frac{16}{27} \frac{\ln \lambda}{\lambda^2}-0{,}8762 \lambda^{-2}+O\left(\lambda^{-8 / 3}\right)$$и для периода (Жаров. 1981)$$T=1{,}613706 \lambda+7,01432 \lambda^{-1 / 3}-\frac{2}{3} \frac{\ln \lambda}{\lambda}-1{,}3233 \lambda^{-1}+O\left(\lambda^{-5 / s}\right).$$В случае системы (1) 2-го порядка (т. е. при $k=m=1$) с точками срыва общего положения проблема асимптотического вычисления релаксационного колебания решена полностью (Мищенко. 1975). В частности, выяснена структура асимптотического разложения при $\varepsilon \rightarrow 0$ периода релаксационного колебания:$$T=T_0+\sum_{n=2}^{\infty} \varepsilon^{n / 3} \sum_{\nu=0}^{\chi(n-2)} K_{n, \nu} \ln ^\nu \frac{1}{\varepsilon},$$где$$\chi(n)=\frac{n}{3}+\frac{2 \sqrt{3}}{9} \operatorname{tg} \frac{\pi n}{3}, \quad n \in \mathbb{Z};$$а $K_{n, \nu}$ – коэффициенты, эффективно вычисляемые непосредственно по функциям $f(x, y)$ и $g(x, y)$ (Розов. 1962). Для общей системы (1) имеет место результат Л. С. Понтрягина и Е. Ф. Мищенко, вычисливших асимптотику релаксационного колебания с точностью до $O(\varepsilon)$ (Понтрягин. 1957; Mищенко. 1957; Мищенко. 1975).

Изучался также вопрос о периодических решениях типа релаксационного колебания неавтономных систем обыкновенных дифференциальных уравнений (Levi. 1981).