Ме́тод штрафны́х фу́нкций, метод сведения условно-экстремальных задач к задачам безусловной оптимизации. Проиллюстрировать метод штрафных функций можно на примере задач математического программирования. Рассматривается задача минимизации функции $\varphi(x)$ на множестве $X=\left\{x: f_i(x) \geqslant 0,\, i=1,2, \ldots, m\right\}$ из $n$-мерного евклидова пространства. Штрафной функцией, или штрафом [за нарушение ограничений $f_i(x) \geqslant 0$, $i=1,2, \ldots , m$], называется функция $\psi(x, \alpha)$, зависящая от $x$ и числового параметра $\alpha$, обладающая следующими свойствами: $\psi(x, \alpha)=0$, если $x \in X$, и $\psi(x, \alpha)>0$, если $x \notin X$. Пусть $x(\alpha)$ является любой точкой безусловного глобального минимума функции $M(x, \alpha)= \varphi(x)+\psi(x, \alpha)$, а $X^*$ – множеством решений исходной задачи. Функцию $\psi(x, \alpha)$ выбирают таким образом, чтобы расстояние между точками $x(\alpha)$ и множеством $X^*$ стремилось к нулю при $\alpha \rightarrow \infty$ либо, если это не удаётся гарантировать, чтобы выполнялось соотношение

$$\lim _{\alpha \rightarrow \infty} \varphi(x(\alpha))=\inf _{x \in X} \varphi(x).$$В качестве $\psi(x, \alpha)$ часто выбирают функцию

$$\psi(x, \alpha)=\alpha \sum_{i=1}^m\left|\min \left\{f_i(x), 0\right\}\right|^q, \,\, q \geqslant 1,\, \text { либо }\, 2.$$Выбор конкретного вида функции $\psi(x, \alpha)$ связан как с проблемой сходимости метода штрафных функций, так и с проблемами, возникающими при решении задачи безусловной минимизации функции $M(x, \alpha)$.

В несколько более общей постановке метод штрафных функций заключается в сведении задачи минимизации функции $\varphi(x)$ на множестве $X$ к задаче минимизации некоторой параметрической функции $M(x, \alpha)$ на множестве более простой структуры с точки зрения эффективности применения численных методов минимизации, чем исходное множество $X$.

Имеет место следующий весьма общий результат, иллюстрирующий универсальность метода штрафных функций. Пусть $U$ и $V$ – рефлексивные банаховы пространства; $R$ – расширенная действительная прямая; $\varphi$ – функция, определённая на $U$ со значениями в $R$, слабо полунепрерывная снизу; $f_i$, $i=1,2, \ldots, m$ – функции, определённые на $U$ со значениями в $R$, непрерывные в слабой топологии пространства $U$; $h_j$, $j=1,2, \ldots, n$ – функции, определённые на $U$ со значениями в $V$, непрерывные в слабых топологиях пространств $U$ и $V$; множество $X=\{x: f_i(x) \geqslant 0;\, i=1,2, \ldots, m ; \, h_j(x)=0, \, j=1,2,\ldots,n;\, x \in U\}$ не пусто. Рассматривается задача отыскания таких $x^* \in U$, что

$$\varphi\left(x^*\right) \leqslant \varphi(x)\, \text { для всех }\, x \in X. \tag{$*$}$$Для функции

$$\begin{aligned} & M\left(x, y_1, y_2, \ldots, y_m, \alpha\right)=\varphi(x)+ \\ & \quad + \alpha \left\{\sum_{i=1}^m \left|f_i(x)- y_i\right|^2 +\sum_{j=1}^n \left\|h_j(x)\right\|_V^2\right\} \end{aligned}$$при $\alpha>0$, $x \in U$, $y_i \in R$, $i=1,2, \ldots, m$, рассматривается задача отыскания таких $x(\alpha) \in U$ и $y_i(\alpha) \geqslant 0$, $i=1,2, \ldots, m$, что

$$\begin{gathered} M\left(x(\alpha), y_1(\alpha), y_2(\alpha), \ldots, y_m(\alpha), \alpha\right) \leqslant \\ \leqslant M\left(x, y_1, y_2, \ldots, y_m, \alpha\right) \end{gathered}$$для всех $x \in U$, $y_i \geqslant 0$, $i=1,2, \ldots, m$. Если

$$\lim _{\|x\| \rightarrow \infty} \varphi(x)=+\infty,$$то каждая слабо предельная точка произвольной последовательности $\left\{x\left(\alpha_k\right)\right\},$ $\alpha_k \rightarrow \infty$, $k \rightarrow \infty$, является решением задачи $(*)$ и, кроме того,

$$\lim \varphi(x(\alpha))=\varphi\left(x^*\right),\quad \alpha \rightarrow \infty.$$