Ортогона́льные многочле́ны, система многочленов $\{P_n(x)\},\, n=0,1,2,\dots,$ являющаяся ортогональной системой функций, причём степень каждого многочлена $P_n(x)$ совпадает с индексом $n$.

Ортогональные многочлены называются ортонормированными и обозначаются $\{\hat P_n(x)\}$, если каждый многочлен имеет положительный коэффициент при старшей степени $x$ и выполняется условие нормированности

$\displaystyle\int^b_a\hat P_n^2(x)p(x)dx=1.$Если коэффициент при старшей степени каждого многочлена равен 1, то система ортогональных многочленов обозначается $\{\tilde P_n(x)\}$. Наиболее важный класс ортогональных многочленов составляют т. н. классические ортогональные многочлены; они получаются (с точностью до постоянных множителей) при указанных ниже числах $a$, $b$ и функциях $p(x)$.

1) Многочлены Якоби $\{P_n(x;\alpha,\beta)\}$ – для них $p(x)=(1-x)^\alpha (1+x)^\beta$, $\alpha \gt -1$, $\beta \gt -1$, $a=-1$, $b=1$; частные случаи многочленов Якоби:

многочлены Гегенбауэра (их иногда называют ультрасферическими многочленами) $\{P_n(x;\alpha)\}$ – для них $\alpha=\beta$;

многочлены Чебышёва 1-го рода $\{T_n(x)\}$ – для них $\alpha=\beta=-1/2$, $p(x)=\sqrt{1-x^2}$; многочлены Чебышева 2-го рода $\{U_n(x)\}$ – для них $\alpha=\beta=1/2$, $p(x)\equiv1$;

многочлены Лежандра $\{P_n(x)\}$ – для них $\alpha=\beta=0$, $p(x)\equiv1$.

2) Многочлены Лагерра $\{L_n(x;\alpha)\}$ – для них $a=0$, $b=\infty$, $p(x)=x^\alpha e^{-x}$, $\alpha \gt -1$; иногда они рассматриваются для $\alpha=0$, тогда они обозначаются $\{L_n(x)\}$.

3) Многочлены Эрмита $\{H_n(x)\}$ – для них $a=-\infty$, $b=\infty$, $p(x)=e^{-x^2}$.

Весовые функции классических ортогональных многочленов удовлетворяют дифференциальному уравнению Пирсона

$$\dfrac{p'(x)}{p(x)} = \dfrac{p_0+p_1x}{q_0 +q_1x + q_2x^2} = \dfrac{A(x)}{B(x)},\quad x \in (a,b), \tag{*}$$а многочлен $y=P_n(x)$ удовлетворяет дифференциальному уравнению

$B(x)y'' +(A(x) + B'(x)) y' - n(p_1 +(n+1)q_2)y = 0.$Многочлен $P_n(x)$ может быть представлен с помощью формулы Родрига

$P_n(x) = \dfrac{C_n}{p(x)} \dfrac{d^n}{dx^n}(p(x)B^n(x)),$где $C_n$ – нормировочная постоянная, а $B(x)$ – из формулы $(*)$.

Ортогональные многочлены обладают многими общими свойствами. Нули ортогональных многочленов в случае ортогональности по интервалу $(a,b)$ действительны, различны и расположены внутри $(a,b)$, причём между двумя соседними нулями многочлена $P_n(x)$ находится один нуль многочлена $P_{n-1}(x)$. Нули ортогональных многочленов часто применяются в качестве узлов интерполяционных формул.

Исторически первыми ортогональными многочленами были многочлены Лежандра. Затем введены многочлены Чебышёва, общие многочлены Якоби, многочлены Эрмита и Лагерра.