Коле́блющееся реше́ние, решение дифференциального уравнения

$$x^{(n)}=f\left(t, x, x^{\prime}, \ldots, x^{(n-1)}\right), \quad t \in\left[t_{0}, \infty\right),\tag{*}$$обладающее свойством: для любого $t_{1} \geqslant t_{0}$ найдётся точка $t_{2}>t_{1}$, при переходе через которую функция $x(t)$ меняет знак. Во многих прикладных задачах возникает вопрос о существовании колеблющегося решения или о колеблемости всех решений уравнения (*). Известно много достаточных условий, при которых уравнение (*) имеет колеблющееся решение (Swanson. 1968; Хартман. 1970; Кигурадзе. 1975). Например, любое нетривиальное решение уравнения $x''+2 \delta x'+\omega^{2} x=0$ с постоянными коэффициентами колеблется, если $\delta^{2}<\omega^{2}$; любое нетривиальное решение уравнения

$$x''+p(t) x'+q(t) x=0$$с $\omega$-периодическими коэффициентами колеблется, если

$$\int_{0}^{\omega} d t \int_{t}^{t+\omega} q(s) \exp \left(-\int_{s}^{t} p(r) d r\right)\,d s \geqslant -\frac{1}{2}\left(1-\exp \int_{0}^{\omega} p(t) d t\right) \int_{0}^{\omega} p(t)\,d t$$и $q(t) \not\equiv 0$ на $[0, \omega]$.

В ряде приложений возникает вопрос о колеблющихся решениях (в определённом смысле) системы обыкновенных дифференциальных уравнений. Например, в теории регулирования изучают колеблемость относительно заданной гиперплоскости $\sum_{i=1}^{p} c_i x_{i}=0$ решений $x(t)=\left(x_{1}(t), \ldots,x_{n}(t)\right)$ системы уравнений $x'=f(t,x)$, т. е. вопрос о колеблемости функций $\sigma(t)=\sum_{i=1}^{n} c_{i} x_{i}(t)$. Изучают также $[\alpha, \beta]$-колеблющиеся решения, при этом ограниченное решение $x(t)$ системы $x'=f(t,x)$ называется $[\alpha,\beta]$-колеблющимся, если функция $\sigma(t)$ колеблется и для любого $t_{1} \geqslant t_{0}$ найдутся точки $t_{2}$ и $t_{3}$ такие, что $t_{1}<t_{2}<t_{3}$, $\sigma\left(t_{2}\right)<\alpha$, $\sigma\left(t_{3}\right)>\beta$, причём $\alpha<0<\beta$. Для системы (*) существуют и другие определения колеблемости решений.