Гиперпараметр

Гиперпара́метр, настраиваемый параметр, позволяющий управлять процессом обучения модели. Гиперпараметры являются внешними характеристиками модели, фиксируемыми до начала обучения, и отличаются от внутренних параметров, получаемых автоматически в процессе обучения и не настраиваемых специалистами по анализу данных. От гиперпараметров зависят ключевые функции модели, например производительность, архитектура модели, темп обучения, сложность модели и др. Поиск конфигурации гиперпараметров, способствующей лучшей производительности, называется настройкой (или оптимизацией) гиперпараметров и осуществляется вручную. Гиперпараметры могут быть дискретными или непрерывными. Примерами гиперпараметров служат количество узлов и слоёв в нейронной сети, количество ветвей в дереве принятия решений и др.