Эволюционный алгоритм с механизмом снижения размерности на основе автоэнкодеров

Бесплатный доступ

Многие современные прикладные задачи оптимизации формулируются как модели «чёрного ящика», для которых характерно отсутствие аналитической информации о целевой функции и её свойствах. Эволюционные алгоритмы стали популярным инструментом для решения подобных задач, однако их эффективность существенно снижается в задачах высокой размерности со сложной топологией пространства поиска. Вместе с тем, для эффективной работы такие алгоритмы требуют генерацию большого числа пробных решений, что может быть недостижимо в приложениях с дорогостоящей оценкой целевой функции. Для преодоления этих ограничений в работе представлен новый подход к эволюционной оптимизации. Его ядром является адаптивная процедура снижения размерности на основе автоэнкодера, который динамически обучается на основе данных популяций, полученных в ходе оптимизации. Стратегия основана на параллельной работе двух алгоритмов оптимизации: один исследует исходное пространство, а другой – латентное пространство, строящееся автоэнкодером как компактное нелинейное отображение текущей популяции. Такой подход позволяет алгоритму гибко подстраиваться под структуру конкретной задачи. Проведён анализ эффективности предложенного метода на наборе эталонных задач, исследованы сходимость алгоритма на разных стадиях эволюционного процесса и зависимость от выбора размерности сжатого пространства. Полученные результаты обработаны с помощью статистического критерия Манна – Уитни – Уилкоксона. В качестве метода оптимизации субпопуляций использован алгоритм L-SRTDE. В результате численных экспериментов было установлено, что предложенный алгоритм стимулирует более эффективное исследование пространства поиска на начальных этапах оптимизации, но в среднем незначительно уступает в эффективности базовому алгоритму.

Еще

Глобальная оптимизация, оптимизация черного ящика, эволюционные алгоритмы, автоэнкодеры, снижение размерности

Короткий адрес: https://sciup.org/148333107

IDR: 148333107   |   УДК: 519.8   |   DOI: 10.31772/2712-8970-2026-27-1-47-60

Evolutionary algorithm with an autoencoder-based dimensionality reduction mechanism

Many modern applied optimization problems are formulated as black-box models, characterized by a lack of analytical information about the objective function and its properties. While Evolutionary Algorithms (EAs) are frequently applied here, their performance degrades in high-dimensional spaces with complex landscapes. Moreover, these algorithms require generating a large number of trial solutions for effective operation, which may be unattainable in applications with expensive objective function evaluation. To overcome these limitations, we introduce a novel EA framework centered on adaptive, autoencoder-based dimensionality reduction. The autoencoder is retrained dynamically during the search using evolving population data. The strategy relies on the parallel operation of two optimization algorithms: one works in the original solution space, and another operates in a latent space – a compact, nonlinear representation of the current population generated by the autoencoder. This design enables the algorithm to adapt to the problem's specific structure. We evaluated the method on standard benchmark problems, analyzing its convergence dynamics and sensitivity to the latent space size. Statistical significance of the results was assessed using the Wilcoxon rank-sum test. The L-SRTDE algorithm was used as the subpopulation optimization method. Numerical experiments demonstrate that the proposed algorithm enhances search space exploration in first optimization stages but, on average, is slightly less efficient than the base algorithm.

Еще