Комбинированный метод настройки гиперпараметров математической модели

Автор: Пальмов С.В., Диязитдинова А.А.

Журнал: Инфокоммуникационные технологии @ikt-psuti

Рубрика: Новые информационные технологии

Статья в выпуске: 3 (83) т.21, 2023 года.

Бесплатный доступ

Автоматизация процессов обработки данных является важным направлением в области информационных технологий. Основное внимание исследователей, как правило, сосредоточено на обучении интеллектуальных систем. Одним из ключевых аспектов упомянутого процесса является подбор гиперпараметров моделей. В работе рассмотрен комбинированный метод настройки гиперпараметров классификационной математической модели. Он совмещает в себе возможности двух известных подходов: полного и ограниченного переборов. Сначала для поиска предварительной оценки максимума значения метрики качества модели применяется первый из них. Далее посредством второго создается окончательная оценка достижимого качества и формируется список сочетаний значений гиперпараметров, максимизирующих эффективность классификатора. Проверка метода осуществлена посредством авторского программного обеспечения, созданного с применением алгоритма стохастического градиентного спуска. Полученные результаты свидетельствуют об эффективности предложенного метода.

Еще

Гиперпараметр, математическое моделирование, градиентный спуск, машинное обучение

Короткий адрес: https://sciup.org/140304962

IDR: 140304962   |   DOI: 10.18469/ikt.2023.21.3.08

Список литературы Комбинированный метод настройки гиперпараметров математической модели

  • Helena.4.0 - новый алгоритм для подбора гиперпараметров. URL: https://habr.com/ru/companies/rosbank/articles/763026/ (дата обращения: 15.11.2023).
  • Hyperparameter Tuning with GridSearchCV. URL: https://www.mygreatlearning.com/blog/gridsearchcv/ (дата обращения: 17.11.2023).
  • RandomizedSearchCV to Find OPTIMAL Parameters in Python. URL: https://www.projectpro.io/recipes/find-optimal-parametersusing-randomizedsearchcv-for-regression (дата обращения: 17.11.2023).
  • Градиентный спуск - полный, пакетный и стохастический. URL: https://craftappmobile.com/градиентный-спуск-полный-пакетный-и-с/(дата обращения: 18.11.2023).
  • Sklearn.linear_model.SGDClassifier. URL: https://scikit-learn.org/stable/modules/generated/sklearn.linear_model.SGDClassifier.html#sklearn.linear_model.SGDClassifier (дата обращения: 18.11.2023).
  • Что такое Scikit Learn - гайд по популярной библиотеке Python для начинающих. URL: https://datastart.ru/blog/read/chto-takoescikit-learn-gayd-po-populyarnoy-bibliotekepython-dlya-nachinayuschih (дата обращения: 19.11.2023).
  • Пальмов С.В., Диязитдинова А.А., Губарева О.Ю. Исследование телекоммуникационного трафика средствами аналитической системы Orange // Моделирование, оптимизация и информационные технологии. 2019. Т. 7, № 1(24). С. 378-386. DOI: 10.26102/2310-6018/2019.24.1.031 EDN: ZFBWRV
  • Нормально делай - нормально будет: нормализация на практике - методы и средства Data Preparation. URL: https://bigdataschool.ru/blog/нормализация-методы-средства-data-preparation.html (дата обращения: 18.11.2023).
  • How to Manually Optimize Machine Learning Model Hyperparameters. URL: https://machinelearningmastery.com/manuallyoptimize-hyperparameters/ (дата обращения: 18.11.2023).
  • What is the Difference between a Parameter and a Hyperparameter? URL: https://machinelearningmastery.com/difference-between-a-parameter-and-a-hyperparameter/(дата обращения: 18.11.2023).
Еще
Статья научная