Подходы к регулированию этических вопросов использования искусственного интеллекта в образовательном процессе вуза

Введение. Интеграция технологий искусственного интеллекта (ИИ) осуществляется стремительно во все сферы жизнедеятельности, особое значение приобретают сервисы ИИ в производстве, банковском деле, медицине, экономике и образовании. При активном взаимодействии с технологиями ИИ необходимо выстраивать четкие правовые границы использования на международном и национальном уровнях, в настоящее время появляются попытки создания правового регулирования искусственного интеллекта и неуклонно возрастает внимание в отношении устранения и предвосхищения проблем применения технологий ИИ.

Международные организации содействуют проведению диалога со специалистами академических и деловых сообществ с целью принятия конструктивных решений и комплексного исследования проблематики внедрения ИИ в различных отраслях права.

На государственном уровне принимаются национальные стратегии в области ИИ. В нормативно-правовом регулировании учитывается необходимость создания актов обязательного и рекомендательного характера, содержащие указания на этические принципы применения ИИ в различных областях. Важными международными документами в области регулирования использования искусственного интеллекта считаются «Асиломарские принципы искусственного интеллекта» (США, 2017 г.) [28], определяющие основные концептуальные особенности взаимодействия ЕИ и ИИ: безопасность, открытость системе правосудия, ответственность, соблюдение человеческих ценностей, защита персональных данных, обоюдная выгода, обеспечение контроля искусственного интеллекта человеком [10]; доклады экспертов в отношении рекомендаций по этике Всемирной комиссии по научным знаниям и технологиям (COMEST), ЮНЕСКО (1998 г.) [20], Декларация «Руководящие принципы предпринимательской деятельности в аспекте прав человека ООН» (2014) [27], Декларация «Глобальное партнерство по искусственному интеллекту» (Декларация Нью-Дели, июль 2024) [29].

Этика, применяемая к ИИ, находится в процессе разработки и регулирования. Существуют определенные международные стандарты и концептуально-программные документы, которые определяют границы и принципы регулирования цифровых технологий [12], но они имеют значение «мягкого права». Таким образом, этика изначально имеет логику «мягкого права» и формулируется соблюдением норм.

В российской нормативно-правовой базе представлены стратегии, имеющие разнообразные модели регулирования технологий ИИ: Указ Президента Российской Федерации от 10.10.2019 г. № 490, отражающий цель и задачи развития ИИ с указанием мер для научно-технологического развития [26], Национальная стратегия развития ИИ до 2030 г. по этике в сфере ИИ в обновленной версии, содержащая изменения в отношении экономической ситуации парадигмы рынка, ограничения, обусловленные международными барьерами, внесены принципы, касающиеся сферы безопасности по минимизации рисков последствий от взаимодействия с искусственным интеллектом [14]. Кодекс Этики в сфере ИИ Альянса в сфере искусственного интеллекта устанавливает этические принципы и стандарты при внедрении ИИ, подчеркивая важность человеко-ориентированного и гуманистического подхода, ответственного отноше-

Подходы к регулированию этических вопросов использования искусственного интеллекта в образовательном процессе вуза

А.М. Маркусь, Р.З. Елсакова

ния и информационной безопасности и развитие компетенций в сфере этического применения ИИ [7]. Белая книга этики в сфере искусственного интеллекта рассматривает процесс интеграции ИИ в общественное пространство, отражая возможные сферы применения ИИ в образовании, медицине, правосудии, акцентируя внимание на достоверности и конфиденциальности данных [3].

Международные и российские стратегии объединяет необходимость регулирования применения технологий искусственного интеллекта, устанавливая общие принципы взаимодействия на технологическом и этическом уровнях. Российская регуляторика содержит рекомендации по включению делового сообщества при внедрении ИИ в экономический сектор, отражает механизм практического использования ИИ моделей для повышения качества функционирования предприятий.

Проблематика искусственного интеллекта остается актуальной как на международном, так и на национальном уровнях, затрагивая различные сферы деятельности, в частности образовательную.

Актуальность исследования подтверждается данными онлайн-анкети-рования преподавателей кафедры иностранных языков Южно-Уральского государственного университета (N=36). Результаты анкетирования показали, что 92% респондентов отмечают активное применение студентами технологий ИИ при выполнении заданий. 31% опрошенных выделяют привлечение ИИ технологий для разработки и создания мультимодальных презентаций. 29% преподавателей отмечают интерес к ИИ сервисам при написании эссе. 23% респондентов определяют заинтересованность студентов при осуществлении переводов. 2 % опрошенных подчеркивают, что обучающиеся воспользовались ИИ сервисами при выполнении всех из перечисленных видов заданий.

Современные технологии ИИ активно интегрируются в образовательный про- цесс, создавая уникальные возможности для видоизменения учебного контента, позволяя сделать его более персонализированным и эффективным. Активное применение технологий ИИ приводит к необходимости осознания ответственного подхода в академической среде с соблюдением этических принципов, направленных на соблюдение академической честности и развития ответственного подхода в отношении использования сервисов ИИ.

Постановка задачи. Цель исследования заключается в анализе подходов к регулированию вопросов этики использования ИИ в образовательной сфере в зарубежном и российском пространствах и определении обобщенных этических принципов применения ИИ при выполнении заданий студентами. Для достижения поставленной цели последовательно решались следующие задачи: 1) анализ нормативных документов по проблематике исследования; 2) анализ современной литературы по тематике исследования; 3) проведение анкетирования преподавателей кафедры иностранных языков Южно-Уральского государственного университета, направленного на выявление степени использования студентами вуза в образовательном процессе технологий ИИ по мнению НПР; 4) выявление сходств и различий в подходах в отношении этических принципов использования ИИ в академической сфере; 5) определение обобщенных принципов использования ИИ при выполнении заданий студентами вуза.

В нашей работе были применены различные исследовательские методы: анализ литературы по проблематике исследования, анализ нормативно-правовых документов, метод обобщения передового педагогического опыта, опросный метод, включающий онлайн-анкетирование преподавателей, а также интервьюирование студентов.

Обзор литературы. Анализ литературы по проблематике исследования позволил установить, что в публикаци- ях в области права появляется аналитика действующих нормативно-правовых актов на международном и российском уровнях [11-13]. В фокусе внимания находятся исследования, посвященные применению ИИ в правосудии, экономике, медицине и образовании [2; 4; 8; 15; 19; 24], ряд исследователей изучают возможности ИИ в образовании и потенциальные этические проблемы для академической сферы [32].

Закономерно, что исследователи осмысливают проблематику применения искусственного интеллекта, описывая усиление финансовых вложений для оптимизации функционирования ИИ систем, характеризуя качество получаемых ИИ-данных, их недостаточную прозрачность и другие аспекты [9].

Рассматриваются этические и правовые принципы использования ИИ для здравоохранения, в сфере информационных технологий, для устойчивого развития экономики. Д.Э. Гаспарян и Е.М. Стырин представляют этические проблемы при интеграции ИИ технологий в государственное управление, образование, здравоохранение, в судебную систему и т.д. [5].

Существенный вклад в рассмотрение регулирования технологий искусственного интеллекта в образовательном процессе внесли Н. В. Сущева и М. В. Русинов, подчеркивающие необходимость адаптации системы образования к инновационным ИИ-вызовам посредством выстраивания институционального механизма для регулирования отношений между технологиями ИИ и субъектами образовательного процесса. Данный механизм представляет собой сочетание формальных правил взаимодействия на законодательном уровне и неформальных ограничений на уровне норм поведения, ценностей и культуры активных субъектов образовательной системы [23].

В научном поле предпринимаются попытки осмысления интерпретаций студентами этических принципов использования ИИ: Н.Е. Ряпина и

И.И. Трубина подчеркнули, что у большинства студентов (75% респондентов) отсутствует четкое понимание существующих этических стандартов и принципов использования ИИ в образовательной среде. Исследователи отмечают выявленное противоречие между осознанием студентами ИИ потенциала и возможной потери контроля над процессом образовательной среды [22, c. 107].

Таким образом, искусственный интеллект рассматривается с различных позиций, учитывается сфера его применения и функциональная составляющая. Проблематика реализации интеграционных процессов ИИ технологий в образовательный процесс пока не получила системного и комплексного рассмотрения и нуждается в дальнейшей разработке.

Результаты. В настоящем исследовании мы предприняли попытку анализа зарубежного и российского опыта регулирования вопросов этики в системе высшего образования. Для проведения анализа практики вузов по осуществлению интеграции этических принципов применения технологий ИИ в образовательный процесс нами были проанализированы директивные положения различных вузов. Изучив политику ряда зарубежных университетов, таких, как Russell Group (24 британских вуза, включая Кембриджский и Оксфордский университеты, а также Королевский Колледж Лондона), Массачусетский технологический институт, Стэнфордский университет, Цзянсийский институт прикладных наук и технологий, Тяньцзиньский университет науки и технологий и Университет КАЗГЮУ имени М.С. Нарикбаева (Казахстан) [30; 31; 33; 34], мы выявили общие ключевые принципы ответственного и этичного применения генеративного искусственного интеллекта, на которые опираются в данных вузах, и представили существенные различия (таблица 1).

Подходы к регулированию этических вопросов использования искусственного интеллекта в образовательном процессе вуза

Таблица 1 – Этические принципы применения ИИ в образовательном процессе: зарубежный опыт

Сходства подходов	Различия подходов
– Поддержка грамотности в области ИИ; – обеспечение равного доступа к ИИ; – совершенствование цифровой компетенции преподавателей; – возможность использования ИИ, но с ограничениями; – ссылки на использованные инструменты ИИ; – критический подход при анализе полученных ИИ данных; – открытость и прозрачность; – ответственность.	– Принцип экологичности как энергосбережение и инновационное применение ИИ (Китай); – принцип экологичности как отсутствие вреда людям, достижение социально-полезных целей, соответствие индивидуальным и коллективным интересам (Казахстан); – ИИ воспринимается как помощь другого человека (США, Стэнд-фордский университет).

Результаты определения сходств подходов на российском уровне были получены посредством анализа действующих стратегий в области ИИ следующих вузов: Московский городской педагогический университет, Национальный исследовательский университет «Высшая школа

А.М. Маркусь, Р.З. Елсакова

Рисунок 1 – Сходства подходов в отношении этических принципов использования ИИ в российском образовательном пространстве

В российском поле существуют определенные различия между подходами к применению этических принципов в области ИИ, опирающиеся на степень ограничений использования, детализации условий и соблюдение обязательств и направленностью повестки (рис. 2).

экономики», Санкт-Петербургский государственный университет, Российский университет дружбы народов, Томский государственный университет, Московский государственный институт международных отношений МИД России [1; 6; 1618; 21; 25]. Они представлены на рис. 1.

Для решения задачи исследования по определению обобщенных этических принципов использования ИИ для выполнения учебных заданий студентами мы опирались на предложенные в зарубежном и российском пространствах директивы и рекомендации.

Ф Разная степень ограничений на использование ГИИ

@ Разная степень детализации условий использования

/ Разные подходы к

[ Q у соблюдению

V У обязательств

® Специфическая направленность повестки

СПбГУ до 20* объема сгенерированного контента,

МГЛУ - необходимость детального описания использования

МГЛУ - требуют не только источники, но и промпты и ответы модели РУДН дает рекомендации и примеры использования ГИИ в учебных работах.

ТГУ. ВШЭ - жесткие меры, СПбГУ форма плагиата.

ТГУ и ВШЭ гуманистические ценности с опорой на разумное органичение и обучающее использование МГПУ. РУДН и СПбГУ строгий формализованный контроль.

Рисунок 2 – Различия подходов в отношении этических принципов использования ИИ в российском образовательном пространстве

Нами были определены этические принципы, которые необходимо учитывать

Таблица 2 – Обобщенные этические принципы использования ИИ при выполнении студентами учебных заданий

Наименование этического принципа	Суть принципа
Академическая честность	запрет на выдачу результатов ИИ за собственные. Рекомендовано избегать слепого копирования текста, созданного ИИ
Критичность	любые результаты, полученные с помощью ГИИ, должны быть подвергнуты критической оценке
Ответственность	студенты должны осознавать последствия применения ИИ, а также вносить свой вклад в работу
Безопасность и конфиденциальность данных	запрет на использование личных и других персональных данных в инструментах ИИ

Предложенные этические принципы носят рекомендательный характер. Они могут быть дополнены отдельными кафедрами и институтами.

Таким образом, резкий темп интеграции ИИ в образовательный процесс стимулирует преподавателей выстраивать собственную стратегию обучения студентов этичному использованию ИИ при подготовке учебных заданий и итоговых работ. Данная стратегия может включать несколько этапов. Во-первых, необходимо прописать критерии оценивания контрольно-рейтинговых мероприятий с учетом выполнения задания студентам при подготовке и сдаче текущих и итоговых учебных заданий (табл. 2).

с использованием ИИ-технологий и без них. Во-вторых, провести вводную беседу со студентами и обсудить положительные аспекты применения ИИ, а также отразить потенциально негативные последствия для студентов при выявлении ИИ-плагиата. В-третьих, на этапе выдачи письменных заданий или проектов рекомендовано повторно напомнить студентам об этических принципах и обсудить их в контексте конкретного задания. На завершающем этапе для рефлексии и анализа влияния ИИ технологий на представленные результаты проводится круглый стол или онлайн опрос.

Подходы к регулированию этических вопросов использования искусственного интеллекта в образовательном процессе вуза

А.М. Маркусь, Р.З. Елсакова

Заключение. Современное состояние правовой составляющей в отношении этических принципов использования технологий ИИ на международном и российском уровнях находится в переходной стадии: от осмысления необходимости введения данного вопроса в правовое поле до появления локальных актов на вузовском уровне, что свидетельствует о заинтересованности руководств высших учебных заведений в регулировании использования инструментов ИИ студентами при выполнении учебных заданий.

Анализ анкетирования преподавателей кафедры иностранных языков Южно-Уральского государственного университета подтвердил активное применение студентами инструментов ИИ для выполнения всех типов заданий при обучении иностранным языкам, что подтверждает актуальность изучаемой проблемы.

В научном пространстве в правовых публикациях появляется аналитика действующих нормативно-правовых актов в международной и российской плоскостях, осмысливается возможность интеграции ИИ-инструментов в академический процесс. В настоящее время на локальном уровне в высших учебных заведениях появляются декларации с описанием этических принципов и процесса регламентирования их действий в образовательной среде, данные документы регулирования выпускают ведущие вузы Российской Федерации.

Анализ сходств и различий подходов к регулированию этичного использования ИИ в академической сфере выявил расхождение в политиках на зарубежном и российском уровнях. Международные документы в области этики ИИ нацелены на поддержку грамотности в области ИИ, совершенствование цифровой компетенции преподавателей и обеспечение равного доступа к ИИ, что не входит в область внимания российских регламентов. Принцип экологичности также находится на периферии рассмотрения в стратегиях вузов России.

В российских документах акцент де- лается на различиях между подходами к использованию этических принципов при взаимодействии с ИИ, опирающиеся на степень ограничений применения, детализации условий и соблюдение обязательств, а также направленности повестки.

Представлены обобщенные принципы использования ИИ при выполнении заданий студентами вуза: академической честности, критичности, ответственности, безопасности и конфиденциальности данных. Они позволяют организовать образовательную деятельность обучающихся правомерно и этически осмысленно.