Метод параметрической оптимизации для широких нейронных сетей с использованием генетических алгоритмов

Во многих сложных технических задачах количество доступных для анализа параметров исчисляется тысячами. При этом в зависимости от специфики решаемой задачи обычно количество ключевых параметров, то есть параметров, оказывающих существенное влияние на процессы, связанные с целевой задачей, не превышает нескольких десятков. Однако определение подмножества этих параметров из доступных само по себе является сложной задачей, которое в большинстве случаев решается с привлечением экспертов соответствующей предметной области. В данной работе предлагается метод параметрической оптимизации, который может использоваться для широких нейронных сетей, то есть нейронных сетей с большим количеством нейронов в слое. Указанный метод использует эволюционные методы оптимизации, а именно генетические алгоритмы, совместно с методом инвариантного представления данных в широких нейронных сетях, использующим алгебру гиперразмерных двоичных векторов, благодаря которому при изменении количества параметров нейросетевой модели в ходе оптимизации не меняется ее топология. При этом, чем больше параметров включается в модель, тем менее точно передаются их значения, таким образом, в ходе оптимизации достигается баланс между составом, количеством и точностью параметров целевой задачи. Предлагаемый метод не требует участия эксперта, соответствующей предметной области, позволяя полностью автоматизировать процесс параметрической оптимизации.