Автоморфи́зм алгебраи́ческой систе́мы, изоморфное отображение алгебраической системы на себя. Автоморфизмом $\Omega$-системы $\boldsymbol{A}=\langle A, \Omega\rangle$ называется всякое взаимно однозначное отображение $\varphi$ множества $A$ на себя, обладающее свойствами

$$\varphi\left(F(x_1, \ldots, x_n)\right)=F\left(\varphi\left(x_1\right), \ldots, \varphi\left(x_n\right)\right), \tag{1}$$$$P\left(x_1, \ldots, x_m\right) \Longleftrightarrow P\left(\varphi(x_1), \ldots, \varphi(x_m)\right)\tag{2}$$для всех $x_1, x_2, \ldots$ из $\boldsymbol{A}$ и для всех $F, P$ из $\Omega$. Другими словами, автоморфизм $\Omega$-системы $\boldsymbol{A}$ есть изоморфное отображение системы $\boldsymbol{A}$ на себя. Пусть $G$ – множество всех автоморфизмов системы $\boldsymbol{A}$. Если $\varphi \in G$, то обратное отображение $\varphi^{-1}$ также обладает свойствами (1), (2) и поэтому $\varphi^{-1} \in G$. Произведение $\alpha=\varphi \psi$ автоморфизмов $\varphi, \psi$ системы $\boldsymbol{A}$, определяемое формулой $\alpha(x)=\psi(\varphi(x))$, $x \in A$, снова является автоморфизмом системы $\boldsymbol{A}$. Поскольку умножение отображений ассоциативно, то $\langle G, \cdot,{}^{-1}\rangle$ есть группа, называемая группой всех автоморфизмов системы $\boldsymbol{A}$ и обозначаемая через $\operatorname{Aut} (\boldsymbol{A})$. Подгруппы группы $\operatorname{Aut}(\boldsymbol{A})$ называются просто группами автоморфизмов системы $\boldsymbol{A}$.

Пусть $\varphi$ – автоморфизм системы $\boldsymbol{A}$ и $\theta$ – конгруэнция этой системы. Полагая

$$(x, y) \in \theta_{\varphi} \Longleftrightarrow\left(\varphi^{-1}(x),\quad \varphi^{-1}(y)\right) \in \theta, \quad x, y \in A,$$получим снова конгруэнцию $\theta_{\varphi}$ системы $\boldsymbol{A}$.

Aвтоморфизм $\varphi$ называется $I C$-автоморфизмом, если $\theta_{\varphi}=\theta$ для любой конгруэнции $\theta$ системы $\boldsymbol{A}$. Множество $I C(\boldsymbol{A})$ всех $I C$-автоморфизмов системы $\boldsymbol{A}$ является нормальным делителем группы $\operatorname{Aut}(\boldsymbol{A})$, и факторгруппа $\operatorname{Aut} (\boldsymbol{A}) / {I C}(\boldsymbol{A})$ изоморфна некоторой группе автоморфизмов решётки всех конгруэнций системы $\boldsymbol{A}$ (Плоткин. 1966). В частности, всякий внутренний автоморфизм $x \rightarrow a^{-1} x a$ группы, определяемый каким-либо фиксированным элементом $a$ этой группы, является $I C$-автоморфизмом. Однако пример циклической группы простого порядка показывает, что не всякий $I C$-автоморфизм группы – внутренний.

Пусть $\mathfrak{K}$ – нетривиальное многообразие $\Sigma$-систем или какой-либо другой класс $\Omega$-систем, обладающий свободными системами любого (ненулевого) ранга. Автоморфизм $\varphi$-системы $\boldsymbol{A}$ из класса $\mathfrak{K}$ называется $I$-автоморфизмом, если существует терм $f_{\varphi}\left(x_1, \ldots, x_n\right)$ сигнатуры $\Omega$ от неизвестных $x_1, \ldots, x_n$, для которого: 1) в системе $\boldsymbol{A}$ существуют такие элементы $a_2, \ldots, a_n$, что для каждого элемента $x \in A$ имеет место равенство

$$\varphi(x)=f_{\varphi}\left(x, a_2, \ldots, a_n\right),$$2) для любой системы $\boldsymbol{B}$ из класса $\mathfrak{K}$ отображение

$$x \rightarrow f_{\varphi}\left(x_1, x_2, \ldots, x_n\right) \quad(x \in B)$$является автоморфизмом этой системы при любом выборе элементов $x_2, \ldots, x_n$ в системе $\boldsymbol{B}$. Множество $I(\boldsymbol{A})$ всех $I$-автоморфизмов каждой системы $\boldsymbol{A}$ из класса $\mathfrak{K}$ является нормальным делителем группы $\operatorname{Aut} (\boldsymbol{A})$. В классе $\mathfrak{K}$ всех групп понятие $I$-автоморфизма совпадает с понятием внутреннего автоморфизма группы (Csákány. 1965). (Более общее понятие формульного автоморфизма $\Omega$-системы см. в Grant. 1973.)

Пусть $\boldsymbol{A}$ – алгебраическая система. Заменяя каждую основную операцию $F$ в $\boldsymbol{A}$ предикатом

$$\begin{gathered} R\left(x_1, \ldots, x_n, y\right) \Longleftrightarrow F\left(x_1, \ldots, x_n\right)=y\\ (x_1, \ldots, x_n, y\in A), \end{gathered}$$получим т. н. модель $\boldsymbol{A}^*$, представляющую систему $\boldsymbol{A}$. Справедливо равенство $\operatorname{Aut} \left(\boldsymbol{A}^*\right)= \operatorname{Aut}(\boldsymbol{A})$. Если системы $\boldsymbol{A}=\langle\boldsymbol{A}, \Omega\rangle$, $\boldsymbol{A}^{\prime}=\left\langle\boldsymbol{A}, \Omega^{\prime}\right\rangle$ имеют общий носитель $A$ и $\Omega \subset \Omega^{\prime}$, то $\operatorname{Aut}(\boldsymbol{A}) \supseteq \operatorname{Aut}(\boldsymbol{A})^{\prime}$. Если $\Omega$-система $A$ c конечным числом порождающих финитно аппроксимируема, то группа $\operatorname{Aut}(\boldsymbol{A})$ также финитно аппроксимируема (Плоткин. 1966, с. 432). Пусть $\mathfrak{K}$ – класс $\Sigma$-систем и пусть $\operatorname{Aut}(\mathfrak{K})$ – класс всех изоморфных копий групп $\operatorname{Aut}(\boldsymbol{A})$, $\boldsymbol{A} \in \mathfrak{K}$, a $S\operatorname{Aut}(\mathfrak{K})$ – класс подгрупп групп из класса $\operatorname{Aut}(\mathfrak{K})$. Класс $S \operatorname{Aut}(\mathfrak{K})$ состоит из групп, изоморфно вложимых в группы $\operatorname{Aut} (\boldsymbol{A})$, $A \in \mathfrak{K}$.

В исследовании групп автоморфизмов алгебраических систем выделились следующие 2 проблемы.

1) Пусть дан класс $\mathfrak{K}$ $\Omega$-систем. Что можно сказать о классах $\operatorname{Aut} (\mathfrak{K})$ и $S \operatorname{Aut} (\mathfrak{K})$?

2) Пусть дан (абстрактный) класс $K$ групп. Существует ли класс $\Omega$-систем $\mathfrak{K}$ данной сигнатуры $\Omega$ такой, что $K= \operatorname{Aut} (\mathfrak{K})$ или хотя бы $K= S\operatorname{Aut} (\mathfrak{K})$? Доказано, что для любого аксиоматизируемого класса $\mathfrak{K}$ моделей класс групп $S \operatorname{Aut} (\mathfrak{K})$ универсально аксиоматизируем (Плоткин. 1966). Доказано также (Плоткин. 1966. Rabin. 1965), что если $\mathfrak{K}$ – аксиоматизируемый класс моделей, имеющий бесконечные модели, $\langle {B}, \leqslant\rangle$ – линейно упорядоченное множество и $\boldsymbol{G}$ – группа автоморфизмов модели $\langle B, \leqslant\rangle$, то существует модель $\boldsymbol{A} \in \mathfrak{K}$ такая, что $A \supseteq B$ и для каждого элемента $g \in G$ существует автоморфизм $\varphi$ системы $\boldsymbol{A}$ такой, что $g(x)=\varphi(x)$ для всех $x \in B$. Группа $G$ называется: 1) универсальной, если $G \in S\operatorname{Aut} (\mathfrak{K})$ для любого аксиоматизируемого класса $\mathfrak{K}$ моделей, обладающего бесконечными моделями; 2) группой порядковых автоморфизмов упорядочиваемой группы $\boldsymbol{H}$ (см. Линейно упорядоченная группа), если $\boldsymbol{G}$ изоморфна некоторой группе автоморфизмов группы $\boldsymbol{H}$, сохраняющих фиксированный линейный порядок $\leqslant$ этой группы [т. е. $a \leqslant b \Rightarrow \varphi(a) \leqslant \varphi(b)$ для всех $a, b \in H$, $\varphi \in G$]. Пусть $l$ – класс линейно упорядоченных множеств $\langle M, \leqslant\rangle$, $U$ – класс универсальных групп, $R O$ – класс правоупорядочиваемых групп, $O A$ – класс групп порядковых автоморфизмов свободных абелевых групп. Тогда (cм. Rabin. 1965, Cohn. 1957, Смирнов. 1966):

$$S \operatorname {Aut}(l)=\mathfrak{U}=R U=O A.$$Каждая группа изоморфна группе всех автоморфизмов некоторой $\Omega$-алгебры. Если $\mathfrak{K}$ – класс всех колец, то $\operatorname{Aut} (\mathfrak{K})$ – класс всех групп (см. Плоткин. 1966. C. 117, 118). Ho если $\mathfrak{K}$ – класс всех групп, то $\operatorname{Aut}(\mathfrak{K}) \neq \mathfrak{K}$; например, циклические группы $C_3, C_5, C_7$ порядков 3, 5, 7, соответственно, не принадлежат классу $\operatorname{Aut}(\mathfrak{K})$. Не существует также топологической группы, для которой группа всех топологических автоморфизмов была бы изоморфна группе $C_5$ (cм. Wille. 1967).