Использование машинного обучения для прогнозирования трудоустройства выпускников

Введение и постановка задачи

Ценнейшим товаром на современном рынке услуг является информация о пользователе, анализ которой посредством алгоритмов машинного обучения позволяет обеспечить ее целенаправленное использование в дальнейшем. Информация о человеке, его достижениях и увлечениях считается одним из ценнейших продуктов не только на рынке рекламы, но и в образовательной среде [1; 2]. Система образования является одной из ключевых сфер жизнедеятельности любого человека и активно внедряет и использует тренды в развитии информационных технологий [3; 4]. В образовании целесообразно применять методы машинного обучения. Можно предположить, что в сфере образования возможно прогнозировать будущие места работы студентов педагогического вуза, используя данные выпускников

[5; 6]. Это позволит выявить траекторию профессиональной подготовки молодых специалистов и оценить качество предоставляемых образовательных услуг вузом [7].

В связи с этим целью работы является проведение обработки данных о трудоустройстве и прогнозирование места работы студентов на примере выпускников, используя модели искусственного интеллекта.

Для достижения поставленной цели необходимо решить следующие основные задачи:

• 1.    Определить параметры, влияющие на трудоустройство выпускников.

• 2.    Обработать данные о трудоустройстве выпускников.

• 3.    Разработать интеллектуальную систему для прогнозирования трудоустройства выпускников.

Машинное обучение в прикладных задачах

Одним из наиболее распространенных направлений использования машинного обучения является оптимизация подборов туров в турагентствах [8]. Именно методы автоматического поиска закономерностей в больших объемах информации (данных) являются фундаментом задач прогнозирования и одним из наиболее перспективных направлений использования современных информационных технологий в различных отраслях экономики, в том числе и в туризме. В туристическом бизнесе важно понимать и оперативно предлагать клиенту определенные направления проведения досуга, в зависимости от его предпочтений, образа жизни, социального статуса и прочего. Минимизировать трудовые затраты на удовлетворение потребностей конкретного клиента, предоставив лучший вариант отдыха для него, зачастую помогают инструменты аналитики, механизмы моделирования и разработка алгоритмов. Анализ пользовательских предпочтений осуществляется на фиксации данных и их изучении. Отзывы посетителей о выбранных туристических объектах и их сегментирование по каким-либо схожим характеристикам (как со стороны объектов, так и клиентов) лежат в основе «рекомендательных систем, предлагающих пользователю наиболее подходящие для него точки притяжения, отели, рестораны и прочее». Система спрашивает у гостя при посещении сайта о его предпочтениях и возможностях и на основании отзывов пользователей предоставляет наиболее подходящие варианты отдыха данному клиенту. Из чего следует, что уже на этапе посещения сайта клиенту сразу «предсказывается» его «идеальный» тур, и на услугах менеджера по данному фронту работы можно экономить.

Data Science и Machine Learning

Чтобы научиться извлекать полезную информацию из полученных данных, необходимо их правильно обрабатывать. Для этого используется Data Science – наука о данных, которая включает в себя все инструменты, методы и технологии и позволяет обрабатывать данные и использовать их для собственной выгоды, выверяя закономерности в больших массивах данных и на их основе прогнозировать вероятность получения того или иного исхода [9].

Три основных составляющих Data Science:

• 1.    Организация информации – это процесс ее хранения и форматирования.

• 2.    Агрегация данных – это объединение начальных сведений в новый вид и (или) представление.

• 3.    Доставка данных – это действие, обеспечивающее доступ к коллекциям агрегированных данных.

Существует большое количество областей для работы с данными, использующих искусственный интеллект, и одна из них – это машинное обучение (machine learning, ML) [10; 11], позволяющее создавать программы, улучшающиеся в процессе обучения.

Основные задачи ML:

• 1.    Регрессия (предсказание числовых значений на основе заданных признаков).

• 2.    Классификация (на основе набора признаков происходит разделение объектов).

• 3.    Кластеризация (распределение данных на группы).

Большинство задач, которое решается посредством ML, использует определенные методы, то есть алгоритмы, позволяющие компьютеру обучаться на основе опыта и предоставленных данных, и сделать предсказание или принять решение на основе этого обучения.

Способы машинного обучения [12; 13]:

• 1.    Машинное обучение с учителем.

• 2.    Машинное обучение без учителя.

• 3.    Машинное обучение с частичным привлечением учителя.

• 4.    Обучение с подкреплением.

В этом способе человек обучает машину с помощью огромной выборки данных, параметры которой варьируются до тех пор, пока не получится нужного результата.

Машинное обучение без учителя предполагает исследование компьютером определенного набора данных, где выявляются скрытые закономерности корреляции между переменными.

Гибридный способ, в основе которого лежит обучение с учителем и без. Учитель, отметив небольшую часть данных, дает возможность понять, каким образом сгруппировать остальные.

При данном способе обучения машине позволяется взаимодействовать с окружением и в зависимости от настроек получать вознаграждение при правильном выполнении задания.

Для анализа данных выпускников педагогического вуза и реализации прогноза трудоустройства студентов выбран способ машинного обучения с учителем.

Рисунок 1. Схема работы модели машинного обучения

Таблица 1. Пример данных выпускников из ПФР

Форма	Направление/Специальность	Профиль 1	Дата	Работодатель	Наименование ОКВЭД
заочная	44.03.03: Специальное (дефектологическое) образование	Логопедия	24.10.2022	ОГАУЗ «ОПЦ Им. И.Д. Евтушенко»	Деятельность больничных организаций
очная	44.03.05: Педагогическое образование (с двумя профилями подготовки)	Начальное образование	09.01.2022	Рогожкин Валерий Андреевич	Предоставление услуг по дневному уходу за детьми
очная	44.03.05: Педагогическое образование (с двумя профилями подготовки)	Математика	09.01.2022	МАОУ СОШ № 58 г. Томска	Образование среднее общее
очная	44.03.05: Педагогическое образование (с двумя профилями подготовки)	Математика	09.01.2022	МАОУ Гимназия № 26 г. Томска	Образование среднее общее
заочная	44.03.01: Педагогическое образование	Начальное образование	10.08.2022	МАОУ «ОШ №5 г. Асино»	Образование основное общее
очная	44.03.05: Педагогическое образование (с двумя профилями подготовки)	Технология	09.01.2022	МАОУ Гимназия № 55 им. Е.Г. Версткиной г. Томска	Образование среднее общее
заочная	44.03.01: Педагогическое образование	Дошкольное образование	11.05.2020	МБДОУ Детский сад «Светлячок»	Образование дошкольное
очная	44.03.05: Педагогическое образование (с двумя профилями подготовки)	Русский язык	26.06.2021	МАОУ ДО ДДТ «Созвездие»	Образование дополнительное детей и взрослых

Реализация моделей машинного обучения

Реализовывать алгоритмы машинного обучения было решено на веб-платформе Google Colaboratory (Colab), которая позволяет создать и запускать код на языке Python, не устанавливая на компьютер дополнительных программ.

Python один из наиболее популярных языков для машинного обучения. Основными причинами его использования для написания алгоритмов машинного обучения являются простота использования, большой объем доступных библиотек и широкое пользование [14].

Pandas предоставляет набор инструментов для манипулирования данными (чтение, запись, обработка и анализ). Эта библиотека позволяет работать с данными как со структурой, состоящей из столбцов и строк, что облегчает выполнение различных операций над данными [14].

Sklearn написана на языке Python и использует библиотеки NumPy и SciPy для работы с массивами и линейной алгеброй. Библиотека является простым и эффективным инструментом для предиктивного анализа данных [15].

Для задачи регрессии были выбраны два алгоритма машинного обучения [16]:

• 1.    Логистическая регрессия. Логистическая регрессия (Logistic Regression) позволяет делать прогнозы для точек в двоичной системе: 0 или 1. Если значение равно или больше 0,5, объект относится к категории «1». Если значение меньше 0,5 – к катего-

• рии «0». Каждый признак имеет свою метку, которая равна либо 0, либо 1. Алгоритм решает задачи бинарной классификации, так как алгоритм применяет сигмоидальную функцию. В данном методе выполняется условие, где 0 < Y < 1, что достигается применением сигмоидальной (логистической) функции:

• 2.    Случайный лесной регрессор. Случайный лесной регрессор (Random Forest Regressor) – это модель машинного обучения, которая может решать различные задачи, такие как классификация, регрессия, кластеризация и другие, используя алгоритм случайного леса. Random Forest состоит из множества базовых деревьев решений, которые работают вместе. Каждое дерево предсказывает класс, и класс, за который «проголосует» большинство деревьев, становится ответом классификатора. Одним из преимуществ модели Random Forest Regressor является ее способность обрабатывать большие объемы данных и работать с большим количеством переменных. Она также устойчива к выбросам в данных и способна выявлять сложные нелинейные зависимости между переменными. Теоретическая часть алгоритма,

  Таблица 2. Результаты прогноза с помощью метода «Случайный лес»

  №	Место работы	Вероятность трудоустройства
  1	Образование среднее общее	0,6919
  2	Образование основное общее	0,0685
  3	Деятельность в области спорта прочая	0,0630
  4	Образование дополнительное детей и взрослых	0,0624
  5	Образование высшее	0,0263
  6	Деятельность по обработке данных, предоставление услуг по размещению информации и связанная с этим деятельность	0,0249
  7	Деятельность по предоставлению прочих вспомогательных услуг для бизнеса, не включенная в другие группировки	0,0236
  8	Образование профессиональное среднее	0,0219
  9	Управление эксплуатацией жилого фонда за вознаграждение или на договорной основе	0,0175

  
  

Y =------ \ ’

1 + e - F ⁽ x )

где F(x) - стандартное уравнение регрессии. При этом нужно учесть, что, если значение не равно 0 или 1, значение аппроксимируется.

по сравнению с другими методами, достаточно проста, необходима только формула итогового классификатора:

1N

a(x) =   L b(x),

N i =1

где N – количество деревьев;

i – счетчик для деревьев;

b – решающее дерево;

x – сгенерированная на основе данных выборка.

Конвейер машинного обучения разделяется на несколько основных этапов: определение задачи, данные, оценка, моделирование и применение. Одно не следует за другим, так как от одного пункта можно вернуться к другому. Сбор данных предполагает обработку сырых данных, то есть информацию из ПФР и данные студентов 1 курса. Под «моделированием» понимается использование алгоритма ML для выявления закономерностей в собранных данных. И последним этапом является применение этой модели уже на эксплуатационных данных. На первоначальном этапе прогнозирования рекомендаций по дальнейшему трудоустройству были указаны основные параметры: направление подготовки, направленность (профили), форма обучения. В дальнейшем для более корректного и точного предсказания есть возможность расширения передаваемых в модель параметров из приемной кампании вуза, где указаны персональные достижения поступающего абитуриента (рисунок 1).

Для обучения модели прогнозирования будущего трудоустройства студентов использовались данные о выпускниках, полученные из ПФР, пример которых представлен в таблице 1. Информация, полученная о выпускниках 2021– 2022 года, представляет собой Excel-таблицу с данными бывших студентов, которая содержит: ФИО, СНИЛС, форму обучения, направление/ специальность, профиль, дату окончания, работодателя и ОКВЭД (общероссийский классификатор видов экономической деятельности) (таблица 1).

Таким образом, выбрав язык программирования Python, файл с данными обработан программной библиотекой pandas и применен в работе с библиотекой, предназначенной для машинного обучения, scikit-learn (Алгоритм 1 и 2).

Алгоритм 1. Реализация модели машинного обучения LogisticRegression на определенном наборе данных.

df           =           pd.get_dummies(job, columns=[“form”,”spec_napravl”, “profile”])

val_of = pd.DataFrame(val)

model.predict(val_of)

Алгоритм 2. Реализация модели машинного обучения RandomForestRegressor на определенном наборе данных.

df           =           pd.get_dummies(job, columns=[“form”,”spec_napravl”, “profile”])

y = pd.get_dummies(job.position, columns=[“position”])

model = RandomForestRegressor(random_ state=0)

val_of = pandas.DataFrame(val)

a = model.predict(val_of)

Результаты прогнозирования

Модели, обученные на конкретном примере, могут спрогнозировать, кем студент педагогического вуза будет работать в будущем. Для проверки «предсказания» выбраны такие метки для параметров.

• 1.    Направление подготовки: 44.03.05 Педагогическое образование (с двумя профилями подготовки).

• 2.    Направленность (профили): русский язык и литература.

• 3.    Форма обучения: очная.

В результате проделанной работы была разработана интеллектуальная система для прогнозирования трудоустройства выпускников.

После проведенного анализа и вывода прогноза был получен результат: «Студент с такими параметрами, вероятнее всего, станет учителем (оказание услуг по предоставлению общего среднего образования)» (таблица 2).

В результате использования данного алгоритма с учетом входных параметров, описывающих студента педагогического вуза, определяется наиболее вероятный результат его трудоустройства. Путем применения логистической регрессии был получен прогноз, согласно которому студент станет учителем в будущем (рисунок 2).

arnay([’Образование среднее общее’]? dtype=object)

Рисунок 2. Результат прогноза с помощью метода логистической регрессии

Рассмотренный алгоритм «Случайный лес» представляет собой метаоценщик, который состоит из ряда классификационных деревьев принятия решений, построенных на различных подвыборках набора данных, и использует технику усреднения для повышения точности прогнозов и предотвращения переобучения. Этот алгоритм позволяет получить вероятностное распределение потенциального места работы студента в будущем, которое представлено в виде таблицы 2.

Заключение

В заключение следует отметить, что в ходе работы была обработана информация о трудоустройстве выпускников педагогического вуза, а также разработана интеллектуальная система анализа больших данных, которая позволяет прогнозировать возможное место работы студента в будущем и оценивать качество образовательных услуг. Использование машинного обучения значительно улучшает точность таких прогнозов, а также помогает определить востребованные навыки и знания для работодателей. Это, в свою очередь, позволяет адаптировать учебные программы и повысить конкурентоспособность образовательного учреждения. Кроме того, такая система может быть использована для определения наиболее перспективных направлений для будущих специалистов и оценки качества образовательных услуг.

Исследование выполнено за счет гранта Российского научного фонда № 23-28-00577.