Комбинированный метод настройки гиперпараметров математической модели
Автор: Пальмов С.В., Диязитдинова А.А.
Журнал: Инфокоммуникационные технологии @ikt-psuti
Рубрика: Новые информационные технологии
Статья в выпуске: 3 (83) т.21, 2023 года.
Бесплатный доступ
Автоматизация процессов обработки данных является важным направлением в области информационных технологий. Основное внимание исследователей, как правило, сосредоточено на обучении интеллектуальных систем. Одним из ключевых аспектов упомянутого процесса является подбор гиперпараметров моделей. В работе рассмотрен комбинированный метод настройки гиперпараметров классификационной математической модели. Он совмещает в себе возможности двух известных подходов: полного и ограниченного переборов. Сначала для поиска предварительной оценки максимума значения метрики качества модели применяется первый из них. Далее посредством второго создается окончательная оценка достижимого качества и формируется список сочетаний значений гиперпараметров, максимизирующих эффективность классификатора. Проверка метода осуществлена посредством авторского программного обеспечения, созданного с применением алгоритма стохастического градиентного спуска. Полученные результаты свидетельствуют об эффективности предложенного метода.
Гиперпараметр, математическое моделирование, градиентный спуск, машинное обучение
Короткий адрес: https://sciup.org/140304962
IDR: 140304962 | DOI: 10.18469/ikt.2023.21.3.08
Список литературы Комбинированный метод настройки гиперпараметров математической модели
- Helena.4.0 - новый алгоритм для подбора гиперпараметров. URL: https://habr.com/ru/companies/rosbank/articles/763026/ (дата обращения: 15.11.2023).
- Hyperparameter Tuning with GridSearchCV. URL: https://www.mygreatlearning.com/blog/gridsearchcv/ (дата обращения: 17.11.2023).
- RandomizedSearchCV to Find OPTIMAL Parameters in Python. URL: https://www.projectpro.io/recipes/find-optimal-parametersusing-randomizedsearchcv-for-regression (дата обращения: 17.11.2023).
- Градиентный спуск - полный, пакетный и стохастический. URL: https://craftappmobile.com/градиентный-спуск-полный-пакетный-и-с/(дата обращения: 18.11.2023).
- Sklearn.linear_model.SGDClassifier. URL: https://scikit-learn.org/stable/modules/generated/sklearn.linear_model.SGDClassifier.html#sklearn.linear_model.SGDClassifier (дата обращения: 18.11.2023).
- Что такое Scikit Learn - гайд по популярной библиотеке Python для начинающих. URL: https://datastart.ru/blog/read/chto-takoescikit-learn-gayd-po-populyarnoy-bibliotekepython-dlya-nachinayuschih (дата обращения: 19.11.2023).
- Пальмов С.В., Диязитдинова А.А., Губарева О.Ю. Исследование телекоммуникационного трафика средствами аналитической системы Orange // Моделирование, оптимизация и информационные технологии. 2019. Т. 7, № 1(24). С. 378-386. DOI: 10.26102/2310-6018/2019.24.1.031 EDN: ZFBWRV
- Нормально делай - нормально будет: нормализация на практике - методы и средства Data Preparation. URL: https://bigdataschool.ru/blog/нормализация-методы-средства-data-preparation.html (дата обращения: 18.11.2023).
- How to Manually Optimize Machine Learning Model Hyperparameters. URL: https://machinelearningmastery.com/manuallyoptimize-hyperparameters/ (дата обращения: 18.11.2023).
- What is the Difference between a Parameter and a Hyperparameter? URL: https://machinelearningmastery.com/difference-between-a-parameter-and-a-hyperparameter/(дата обращения: 18.11.2023).