Специфика, проблемы, риски и перспективы правового регулирования общественных отношений в сфере образования в условиях внедрения искусственного интеллекта

DOI 10.17072/1995-4190-2026-71-26-55 EDN

Данная работа распространяется по лицензии CC BY 4.0. Чтобы просмотреть копию этой лицензии, посетите

Современные технологии активнейшим образом начинают применяться в самых разнообразных сферах человеческой жизнедеятельности, становясь общемировой тенденцией. Вне всякого сомнения, «искусственный интеллект становится неотъемлемой частью современного общества, проникая практически во все сферы жизни, в том числе и в образование» [39, p. 618]. О росте внимания к применению ИИ в образовании говорят статистические данные, которые приводят исследователи: «По данным крупных наукометрических баз (Scopus, Web of Science и др.), в 2015 году в мире было опубликовано около 1300 работ на эту тему. К началу 2024 года (учитывая уже опубликованные и in press статьи) их число превысило 8100. Аналогичная тенденция наблюдается и в России: с 69 публикаций в 2015 году до 3566 к 2024 году» [4, c. 5].

Помимо этого, «в настоящее время более 260 российских вузов и более 1600 кафедр разрабатывают и внедряют образовательные технологии и программы, связанные с вопросами ИИ. Рост внедрения технологий в обучение ведет к повышению успеваемости и адаптации к современным вызовам. Образовательные учреждения все чаще используют онлайн-платформы, виртуальные симуляции и интерактивные лекции. Это позволяет обучающимся исследовать исторические места, посещать музеи и лаборатории, не выходя из образовательной организа-ции»1. В перспективе ИИ вполне может стать необходимым и незаменимым инструментом в работе педагогов всех уровней образования.

В современных условиях в контексте развития образовательной сферы деятельности ИИ выступает не просто как технический инструмент – он становится одним из ключевых факторов, модернизирующих на наших глазах общественные отношения, влияющих на права, обязанности и ответственность субъектов образовательных правоотношений. Ключевым признаком при определении роли ИИ в образовании является его многогранный характер: с одной стороны, ИИ может функционировать как средство обучения (усиленный поисковик, ассистент, помощник), с другой – как механизм контроля за успеваемостью и управления (для преподавателей), с третей стороны – как движущая сила, трансформирующая классические образовательные традиции, принципы образования, всю специфику взаимодействия обучающихся и педагогов.

ИИ может не только оказывать помощь в образовательном процессе для педагогов и обучающихся, есть потенциал для решения более глобальных задач. Согласно оценке ученых из МГУ имени М. В. Ломоносова «ожидается, что ИИ в первую очередь будет способствовать демократизации образования – расширению доступа для различных социальных групп, в том числе для людей с особыми потребностями, к образовательному процессу. Между тем использование ИИ актуализирует риски монополизации данных в руках государства или компаний» [3, c. 101]. Аналогичного подхода придерживаются индонезийские исследователи, делая прогноз о том, что ИИ будет способствовать «минимизации социального, экономического и образовательного неравенства» [27, p. 178].

Общая характеристика и виды ИИ, применяемые в сфере образовании

А. И. Идилов под искусственным интеллектом понимает «ветвь информатики, занимающуюся моделированием разумного поведения в компьютерах, а также способность машины имитировать разумное поведение человека» [8, c. 361]. И. И. Трубина в своем исследовании отмечает, что сформированы два ключевых подхода к пониманию сущности ИИ: «искусственный интеллект как подобие живому организму с когнитивными функциями и способностями к самообучению; искусственный интеллект в большей мере как технологическое решение» [21, c. 73]. А. В. Минбалеев представляет ИИ как «совокупность информационных технологий, в том числе цифровых, позволяющих решать на основе тех или иных систем проблемы, связанные с возможностью их решения преимущественно на уровне человеческого интеллекта» [15, c. 1097]. Можно заключить, что сейчас наличествует неоднородность в доктринальном толковании, что существенно осложняет возможность правового регулирования в перспективе.

Далее рассмотрим подходы, отраженные в законах и подзаконных нормативно-правовых актах Российской Федерации. В Национальной стратегии развития искусственного интеллекта на период до 2030 года, утвержденной Указом Президента Российской Федерации, под ИИ понимается «комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности чело-века»2. Аналогичное определение искусственного интеллекта в последующем нашло отражение в специальном федеральном законе3.

На основе анализа законов и доктринальных исследований мы можем представить собственный ав- торский подход к толкованию искусственного интеллекта, которого будем придерживаться в настоящем исследовании. Под искусственным интеллектом в широком смысле мы будем понимать совокупность методов, алгоритмов и технических средств, способных выполнять сложные задачи, включая обработку естественного языка, классификацию, прогнозирование и принятие решений на основе данных.

ИИ не похож на человеческий интеллект, но призван выполнять функции, которые традиционно осуществлялись людьми, представляя собой полезный и высокоэффективный инструмент. Об этом же в своем исследовании пишут Е. Ю. Баракина, А. В. Попова, С. С. Горохова и А. С. Восковская, обращая внимание, что «при попытках внедрить искусственный интеллект в нашу жизнь и в образовательные технологии, в частности, следует иметь в виду, что эти технологии являются всего лишь инструментами, предназначенными для повышения качества образовательного процесса и взаимодействия всех его участников. В то же время это необходимо учитывать, что эти инструменты являются новыми, еще недостаточно освоенными как преподавателями, так и студентами, и, следовательно, пока не вызывают должного уровня доверия (4,2 % опрошенных) к их эффективному использованию, даже при условии, что их безопасность и надежность в использовании будут точно подтверждены» [25, p. 292].

Сегодня выделяют следующие виды ИИ: «машинное обучение (системы “учатся” на основе данных, выявляют паттерны и прогнозируют результаты), глубокое обучение (частный случай машинного обучения, который использует нейронные сети с множеством слоёв для анализа и обработки данных), обработка естественного языка (NLP-технологии для анализа и понимания человеческого языка, позволяющие системам обрабатывать текст, речь и взаимодействовать с людьми на естественном языке), компьютерное зрение (использует алгоритмы для обработки и анализа визуальной информации, позволяя системам распознавать образы, объекты, лица и даже интерпретировать контекст), самообучение (некоторые системы ИИ могут улучшать свою производительность с течением времени, адаптируясь к новым данным и ситуациям)»1.

Соответственно, с учетом многообразия технологий и способов их применения под ИИ могут пониматься как конкретные алгоритмы и программные продукты, так и сложные интеллектуальные системы, что осложняет применение норм права и требует толкования с опорой на функциональные характеристики конкретного приложения или программы. С учетом этого обстоятельства, на наш взгляд, в перспективе целесообразно оперировать не только понятием ИИ, но и терминами «алгоритмическая система», «автоматизированное решение», «обработка персональных данных автоматизированными средствами», что поможет точнее соотнести правовые нормы и фактические отношения.

Классификация ИИ, применяемого в образовании, на наш взгляд, должна базироваться на функциональной природе ИИ-систем и степени автоматизации процессов.

Первый тип, который мы выделим, – это адаптивные учебные платформы и интеллектуальные тьюторы [12, c. 103]. Эти системы анализируют индивидуальные образовательные траектории, формируют персонализированные учебные планы и рекомендации на основе статистических и вероятностных моделей. Их функционал бывает достаточно широким: учет посещаемости студентами учебных занятий; учет и оценивание результатов выполнения контрольных тестов для определения уровня подготовленности студентов; учет результатов медицинского контроля; автоматизация системы подсчета баллов для получения зачета по дисциплинам и т. д.2

С правовой точки зрения данные технологии порождают вопросы о необходимости четкого разграничения компетенции образовательной организации при делегировании оценочных функций алгоритмам, в целом – о допустимости формирования итоговых оценок системами ИИ и о юридической ответственности за ошибочные рекомендации, повлекшие ущерб образовательным правам обучающихся. Разумеется, полностью организовать образовательный процесс ИИ пока не в состоянии, но сейчас следует подумать о необходимости закрепления границ «участия» ИИ в образовании.

Второй тип – автоматизированные системы оценивания, включающие автотестирование и аналитические модули для проверки знаний. Эти системы нередко применяются в образовании: при проверке остаточных знаний, сдаче вступительных испытаний и промежуточной аттестации (особенно если речь идет об онлайн-обучении). По оценкам исследователей, такая система «ведет себя как репетитор, добиваясь лучшего усвоения материала учеником для сдачи теста. Другими словами, тестирование в системе помимо обычной его функции – оценивание уровня знаний испытуемого – позволяет выявить его слабые стороны и пробелы в знаниях, чтобы каждый обучающийся максимально усвоил материал и прошел тестовый контроль» [11, c. 69].

Здесь возникает еще один закономерный вопрос: какова роль преподавателя-человека в этом многообразии технологий? И. С. Гомонов и А. Е. Сорокина отмечают: «Вместо роли источника знаний современный педагог становится модератором, организующим учебный процесс, направленный на развитие критического мышления, творческого подхода и гибких навыков (soft skills) у студентов» [6, c. 73]. Может быть, это неизбежно и авторы исследования окажутся правы, однако такая ситуация не может не вызывать ряд опасений. Широкое применение ИИ поднимает актуальную проблему обеспечения справедливости и объективности оценивания знаний обучающихся, а также необходимости верификации корректности алгоритмов со стороны человека и наличия процедур восстановления нарушенных прав при выявлении дефектов системы.

Согласно исследованию И. В. Харламенко и Л. В. Фролова, на биологическом и биотехнологическом факультетах МГУ им. М. В. Ломоносова на экзаменах в электронной форме присутствует так называемый «Проктор – это специально обученный человек, который следит за соблюдением экзаменуемыми академической этики, т. е. фиксирует и предотвращает попытки пройти испытание нечестным путем» [23, c. 172]. Мы предлагаем пойти дальше: необходимо при сдаче экзаменов с применением умных систем оценивания в обязательном порядке приглашать специалистов или экспертов (технического профиля), способных оценить корректность работы ИИ-программ как во время проведения экзамена, так и после его завершения. Эта мера может стать гарантом качественной работоспособности ИИ-программ, повысив к ним доверие населения.

Третий тип – системы поддержки преподавателя: инструменты для автоматизации рутинных операций при составлении заданий для обучающихся согласно рабочей программе дисциплины, анализа успеваемости и мониторинга посещаемости. Такие системы ИИ «могут снизить нагрузку на учителей, помогая в таких задачах, как планирование уроков, предоставление обратной связи по заданиям и ответы на электронные письма родителей. Это позволяет учителям уделять больше времени персонализированному обучению» [50, p. 3].

Данные системы одновременно с очевидными благами влекут риски неправильного использования данных, отсутствия прозрачности в процедурах принятия решений и усиление контроля, потенциально затрагивающего конституционные гарантии неприкосновенности частной жизни обучающихся. При этом в некоторых случаях, например в системе САПР (система автоматизированной поддержки работы преподавателя), «часть операций по выполнению учебной деятельности автоматизируется, а часть может и всегда будет выполняться человеком» [20, c. 425]. За рубежом также существует тенденция по внедрению интеллектуальных систем поддержки преподавателя: для управления рабочей нагрузкой [42, рp. 53–62], для обеспечения безопасности кампусов в колледжах и университетах [38, рp. 128–133], для помощи руководителю образовательной организации по управлению персоналом вуза [49, рp. 180–190] и др.

Однако самые важные, на наш взгляд, системы – это те, которые позволяют контролировать уровень успеваемости обучающихся и повышать его. Испанские исследователи в своей научной работе описывают Learning Intelligent System (LIS): «Система включает в себя систему раннего предупреждения и протестирована в онлайн-университете с целью повышения успеваемости учащихся, сокращения отчислений и обеспечения надлежащей обратной связи для руководства с учащимися. LIS также направлена на то, чтобы помочь учителям выявлять критические случаи, чтобы вовремя реагировать на проблемы. Система была опробована на двух курсах первого года обучения в онлайн-бакалавриате по направлению экономики и бизнеса в Университете Оберта де Каталония. В исследовании приняли участие в общей сложности 552 учащихся» [35, pр. 1–3]. Хотя система пока продолжает тестироваться, уже сейчас есть положительные результаты.

Четвертый тип – информационно-коммуникационные агенты и чат-боты, предоставляющие консультативно-информационные услуги студентам и преподавателям, включая автоматизированную проверку работ на плагиат и поддержку обратной связи. Сюда можно отнести чат-боты с генеративным искусственным интеллектом семейства GPT. Многие авторы в целом позитивно говорят о «применении промптов и генеративных моделей ИИ в юридическом образовании» [10, c. 909]. Более того, развивается профессия промт-инжиниринг, специалисты в этой области получают навыки по правильному и эффективному составлению запросов для генеративных моделей ИИ.

Тем не менее здесь как для обучающихся, так и для преподавателей критичны вопросы достоверности генерируемой информации, ответственности за контент, сгенерированный чат-ботом, и вопросы авторства, поскольку алгоритмы могут лишь компилировать ответы, основываясь на существующих данных из открытых источников, не создавая полноценного оригинального материала.

Мы полностью разделяем тезис И. Ю. Лавриненко о том, что «преподаватели должны контролировать взаимодействие учащихся с ChatGPT таким образом, чтобы убедиться в продуктивности его использования студентами и в том, не приводит ли его применение к подмене понимания изучения дисциплины с помощью искусственного интеллекта использованием возможностей чат-бота с целью повысить успеваемость» [14, c. 23–24].

Пятый тип – системы прогнозирования и аналитики работы образовательных организаций, использующие большие данные и методы машинного обучения для выявления рисков отчисления отдельных студентов, поиска причин снижения успеваемости целых групп и потоков, определения потребностей внесения коррективов в работу для руководства. Такие системы прежде всего могут оказать помощь в административной работе образовательных учреждений. Однако существуют опасения: с одной стороны, такие инструменты позволяют повысить эффективность управления в образовании, с другой – создают предпосылки для возможной дискриминации отдельных категорий обучающихся, если модели основаны на неполных или некорректных данных.

Управление по гражданским правам Министерства образования США (OCR) выпустило «новый ресурс, посвященный предотвращению дискриминационного использования искусственного интеллекта, призванный помочь школам понять, как технологии искусственного интеллекта могут расширять образовательные возможности и способствовать дискриминации при неправильной разработке или внедрении. Руководство разработано в соответствии с указом Президента 14110, который призывает к разработке политики и ресурсов, обеспечивающих безопасное, ответственное и равноправное использование ИИ в различных секторах, включая образование. В ресурсе освещаются правовые стандарты, применяемые OCR для оценки потенциальной дискриминации, и описываются сценарии, которые могут привести к проведению расследований»1. Правовая оценка их применения подразумевает необходимость наличия процедур оценки рисков, обеспечения прозрачности работы алгоритмов и соблюдения принципов недискриминации, равенства и законности. Только решив данные вопросы, целесообразно применять указанные системы на практике.

Наконец, выделяются гибридные системы, сочетающие элементы всех вышеперечисленных типов, а также средства генерации образовательных материалов с использованием нейросетевых моделей, включая генеративные языковые модели. Юридически такие системы поднимают комплекс вопросов, связанных с авторским правом на созданные материалы: возможно ли пользователю-педагогу стать правообладателем результатов интеллектуальной деятельности образовательного материала, сгенерированного системой ИИ? Каковы будут правовые последствия использования подобных материалов третьими лицами для обучения без разрешения? Какова должна быть степень участия человека, чтобы сгенерированный контент был признан результатом интеллектуальной деятельности? На эти вопросы только предстоит дать ответы в правовом поле.

Было бы логично в качестве основного критерия для правовой классификации выбрать степень автономии ИИ-систем в зависимости от человеческого контроля, как это было предложено Сэмом Альтманом2. Так, системы с высоким уровнем автономии, принимающие решения без непосредственного вмешательства человека (ИИ-агенты, системы поддержки управления), требуют более жесткого нормативного регулирования, включая установление механизмов ответственности для руководства образовательных организаций, которые будут их принимать, и процедур апелляции для возможности оспаривания ошибочных решений со стороны ИИ.

Системы с активным участием человека, так называемая концепция «человек в контуре» (англ. human-in-the-loop ), предполагают сохранение окончательного решения за уполномоченными лицами образовательной организации, что снижает риск наступления административного и уголовного наказания, материального ущерба, но не устраняет их полностью, поскольку вопросы халатности по обращению с системами ИИ, невнимательного контроля и преднамеренного сокрытия фактов остаются вполне реальными³.

Адекватное правоприменение требует дифференцированного подхода к видам систем ИИ, учета их прогнозируемости и объяснимости, а также наличия регламентированных процедур оценки рисков. В совокупности концептуальное выделение видов ИИ, применяемых в образовательной сфере, выступает необходимым этапом для выработки корректных мер ответственности и профилактики правонарушений, связанных с внедрением интеллектуальных технологий в образование.

Ключевые правовые проблемы и риски, возникающие при применении ИИ в образовании

В современных условиях интеграции информационно-коммуникационных технологий и алгоритмических систем в образовательную среду возникает комплекс рисков и продуцируемых ими проблем, требующих специального анализа в рамках различных отраслей права. Проблематика сконцентрирована вокруг правовой неопределенности статуса ИИ и иных вопросов, взаимосвязанных друг с другом и создающих опасность как для отечественной правовой системы в целом, так и для правовой защищенности субъектов образования (учащихся, педагогов и самих образовательных организаций) в частности.

Актуальной проблемой сегодня является регулирование защиты и охраны персональных данных в образовательной среде. Сбор, хранение и обработка личных дел (биографических данных, сведений об успеваемости) обучающихся и преподавателей автоматизированными средствами требуют соблюдения норм о конфиденциальности сведений, наличия законных основаниях для их обработки. Расширение практики применения ИИ усиливает риск масштабных утечек, что влечет за собой вопросы об обеспечительных мерах, реализуемых образовательными организациями, в том числе о соблюдении принципа минимизации обрабатываемых персональных данных и дисциплинарной ответственности за отсутствие адекватных технических и организационных мер защиты.

В 2023 году в Испании на педагогическом факультете Университета Гранады проводилось исследование, в котором принимали участие 384 педагога, обучающиеся на курсах образовательных технологий в рамках своих образовательных программ. «Цель состояла в том, чтобы описать и проанализировать, как учителя воспринимают риски, связанные с защитой данных в Интернете, и что они знают о защите персональных данных. Результаты показывают высокую оценку риска в таких вопросах, как прием файлов cookie при просмотре веб-страниц, передача банковской информации. Выявлен факт отсутствия достаточного уровня знаний о защите данных несовершеннолетних в вопросах, связанных с развитием и обучением учащихся начальной школы, а также с их здоровьем, происхождением и семейным окружением» [46]. К сожалению, мы видим, что сами педагоги не всегда точно знают о том, какие данные своих учеников они могут обрабатывать, использовать в учебном процессе, а какие – нет. Вполне очевидно, что подобная проблема наблюдается не только в Испании.

Исследователь М. Апостолова из Северной Македонии в своей работе обращает внимание на следующую проблему: «Отсутствие единого сервиса для онлайн обучения в период с марта по июнь 2020 года привело к тому, что практически каждая школа собирала, хранила и передавала персональные данные учащихся в различные программы и веб-сервисы. В начале нового учебного года была запущена единая платформа для всех школ, и поэтому образовательные учреждения должны уделять внимание безопасности данных и уважать принцип конфиденциальности, защищать персональные данные детей» [41, pр. 47–48]. Такой подход стоит оценить положительно, поскольку для единой платформы гораздо легче выстроить систему контроля и управлять ею.

Исходя из анализа данной информации вполне очевиден вывод о том, что пока все педагоги школ, вузов не будут в достаточной мере компетентны в сфере охраны персональных данных обучающихся, нельзя полностью переходить на технологии ИИ, которые обрабатывают колоссальное количество чувствительной информации. Очевидно, что педагоги должны знать и виды юридической ответственности за неправомерные действия с персональными данными, что говорит о необходимости глобального информационного и правового просвещения самих педагогических работников.

Использование автоматизированных систем оценивания и адаптивных платформ влияет на реализацию права на объективную, справедливую и прозрачную оценку знаний . Стоит отметить, что «Министерство высшего образования и науки РФ указывает на необходимость использования ИИ-инстру-ментов для снижения рутинной нагрузки на обучающихся и стимулирования критического мышления, социальных навыков и концентрации внимания. В министерстве отмечают важность внедрения технологий, которые не препятствуют, а способствуют совершенствованию личности человека. Образовательные ИИ-системы должны помогать достижению более высокой концентрации внимания и интереса к изучаемому материалу, а также отражать прогресс в обучении студентов и школьников»¹.

Тем не менее есть и обратная сторона медали в контексте активного применения ИИ: существуют опасения о возможных ситуациях фальсификации данных, когда с помощью ИИ могут подделать результаты вступительных испытаний, промежуточных и итоговых экзаменов, создать поддельные документы об образовании и т. д. Нельзя не согласиться с тем обстоятельством, что «мы все еще далеки от внедрения полностью функциональной и социально ориентированной образовательной системы, дополненной искусственным интеллектом. Необходимо создать нормы, которые требуют полной интернационализации, чтобы успешно вписаться в различные культурные и социальные рамки. Следовательно, последующий этап интеграции систем искусственного интеллекта в образование вызывает обеспокоенность по поводу правового и общественного регулирования поведения ИИ, в частности, уголовной ответственности и подотчетности» [40, рp. 479].

Уже сейчас, к сожалению, нередки случаи, когда организаторов ЕГЭ2 уличают в получении взяток от родителей выпускников школ, которым они помогают сдать экзамен на высокий балл. В 2022 году заведующий кафедрой одного из вузов Севастополя за деньги помогал студентам сдавать экзамены3. В 2024 году в Российском медико-стоматологическом университете была организована схема покупки экзаменов студентами, в итоге задержаны более 20 человек, среди которых были как студенты, так и преподаватели4. Вполне очевидно, что ИИ может предоставить злоумышленникам новые

«возможности» для коррупционных и иных противоправных схем в образовании, отличающиеся более сложной организационно-технической структурой, что намного осложнит деятельность правоохранительных органов по выявлению подобных фактов, их доказыванию, привлечению виновных к уголовной или административной ответственности и восстановлению социальной справедливости.

Считаем, что здесь требуется уточнение признаков подделки официальных документов и злоупотребления служебным положением с использованием технических средств, основанных на искусственном интеллекте, а также выработка механизма для восстановления нарушенных образовательных прав пострадавших.

В связи с этим уголовно-правовой и административно-правовой анализ должен исходить из соотнесения видов правонарушений с ролью в процессе и степенью автономии ИИ. Когда алгоритм выступает инструментом в руках должностного или иного правомочного управлять им лица, ответственность за ущерб, причиненный системой, традиционно соотносится с виной оператора или разработчика (который не учел очевидный риск и допустил возможность противоправного использования ИИ); при высокой степени автономии возникает проблема соотнесения деяний с субъективной стороной правонарушения и определения лица, подлежащего уголовно-правовой или административно-правовой ответственности. Мы приходим к выводу о том, что необходима четкая дифференциация случаев прямого умысла и неосторожных действий при эксплуатации видов ИИ, а также применение специализированных квалифицирующих признаков при совершении преступлений (или проступков) с использованием алгоритмических систем. Считаем, что в будущем Уголовный кодекс РФ (далее – УК РФ) и Кодекс об административных правонарушениях РФ (далее – КоАП РФ) будут нуждаться в доработке в соответствии с обозначенными рисками.

Рассмотрим проблемы привлечения к ответственности за действия ИИ с другой стороны. Не исключено, что ответственность может возникать при наступлении тяжких последствий в результате внедрения и эксплуатации дефектных алгоритмов, которые могут причинить вред здоровью обучающихся, включая нанесение психологических травм1. Сложно поспорить с позицией А. А. Михайлова о том, что «особенно важно возложить основную ответственность за соблюдение требований надежности и безопасности ИИ на разработчиков ИИ-систем. В то же время образовательные организации должны нести ответственность за корректное внедрение и использование этих технологий, а также за контроль их воздействия на процесс обучения» [17, c. 31].

Вполне допустимо, чтобы основную ответственность несли разработчики и лица, непосредственно применяющие ИИ в образовании. Однако стоит заметить, что на практике всё бывает намного сложнее и запутаннее. К сожалению, современная витиеватая архитектура цепочек эксплуатации ИИ осложняет установление причинно-следственных связей и определение вины. На практике могут возникнуть сложности в квалификации деяний: как соотнести преступную форму вины (умысел или неосторожность) с действиями разработчика, который мог не предвидеть конкретных сценариев вреда (в случае, если программа ИИ использовалась не по назначению), или с действиями администратора образовательной платформы, допустившего эксплуатацию системы с уязвимостями.

Шведский исследователь С. А. Тео отмечает, что мы «все чаще оказываемся неспособными привлечь виновных к ответственности за ущерб, причиняемый внедрением систем искусственного интеллекта. Во-вторых, “медленное насилие” ИИ проявляется в искажении толкования отдельных прав человека, таких как право на неприкосновенность частной жизни, свободу выражения мнений и свободу мысли, переворачивая с ног на голову причины и предположения, на основе которых эти права были сформулированы и формализованы в первую очередь» [45].

Вполне очевидно, что могут возникнуть проблемы с объективной стороной состава преступления или правонарушения (часто нет четкой причинно-следственной взаимосвязи между дейст-вием/бездействием и последствием – вредом обучающимся) и субъективной – сложно установить виновное лицо или группу лиц (либо это специалист, обслуживающий систему, либо правообладатель, либо разработчик и пр.). На практике трудность доказывания вины в виде прямого умысла со стороны оператора или разработчика ИИ может усугубляться технической сложностью алгоритмов и невозможностью в рамках экспертизы дать исчерпывающие сведения о том, кто и в каком объеме виновен в совершении операций с ИИ, повлекших причинение вреда.

Административная ответственность также может наступать в случаях нарушения требований законодательства о персональных данных и в других случаях, предусмотренных главой 13 КоАП РФ (Административные правонарушения в области связи и информации). Но здесь может возникнуть проблема установления вины по аналогичным причинам, как в случае с определением объективной стороны за уголовные преступления.

Соответственно, в будущем необходимо развитие судебной и экспертной практики в области умных компьютерных и машинно-обучаемых систем. Это требует совершенствования правовых механизмов, способных учитывать конструктивную множественность субъектов, делегирование ответственности, модификацию традиционных институтов вины и причинно-следственной связи.

Проблематика защиты интеллектуальной собственности и прав на результаты учебной и научной деятельности как разновидностей интеллектуальной деятельности приобретает особую актуальность в связи с применением современных генеративных моделей. Обучение ИИ на больших массивах материалов без соответствующих разрешений от правообладателей приводит к риску нарушения авторских прав и смежных прав, а автоматическая генерация научных работ (научных статей, дипломов, курсовых, монографий, диссертаций, учебно-методических материалов) ставит вопрос о правовом статусе произведений, созданных при участии ИИ, а также о соавторстве и принадлежности исключительных прав.

Ученый из Индии С. Самюэль высказывает в своей работе кажущийся нам крамольным тезис о том, что «ИИ самостоятельно создавал произведения, которые потенциально могут подпадать под действие авторского права, что поднимает вопросы об авторстве и оригинальности в эпоху цифровых технологий» [43, pр. 907]. Схожее заявление делает С. Димитриеска: «Генеративный ИИ (GenAI) является пионером в создании нового и оригинального контента» [30, p. 23].

Пока уровень развития ИИ, в том числе генеративного, недостаточен для того, что создавать осознанные и оригинальные произведения науки, культуры и искусства. Приведем «один из самых известных примеров использования ИИ в литературе – роман “1 the Road”, написанный Россом Гудвином в сотрудничестве с нейросетью. Гудвин использовал ИИ для генерации фрагментов текста, которые затем редактировал и компоновал в целостную историю»1. Обратим особое внимание: ИИ использует метод компиляции фрагментов текста, на основе которых может представить, казалось бы, оригинальную информацию, однако ИИ ограничен датасетом, на котором его обучали, и алгоритмами. Соответственно, «придумать» и «создать» что-то уникальное на данном этапе развития ИИ не в состоянии. Именно по этой причине нельзя говорить о творческом характере текста, генерируемого современными моделями ИИ, лишь участие человека способно сделать его таковым. Если ИИ создал РИД по запросу пользователя, то в подавляющем большинстве случаев такой материал не может считаться оригинальным, даже в случае использования генеративного ИИ. Специалисты отмечают следующее: «ИИ не думает, как человек.

Он не знает, что такое смысл. Он не понимает слова – он предсказывает их. Его задача – определить, какое слово логично продолжает последовательность, основываясь на вероятностях, усвоенных из огромных массивов текстов»2. Поэтому считаем, что нельзя признать умозаключение С. Самюэля состоятельным.

Отметим, что, на наш взгляд, запрещать применять ИИ явно не стоит, однако при его активном использовании в целях создания образовательных материалов (практико-ориентированных задач, контрольных вопросов и пр.) следует концептуально перерабатывать текст, созданный ИИ, дополняя его и обогащая собственным опытом, знаниями. Вклад человека должен быть существенным.

Проблемы объяснимости решений ИИ прямо влияют на возможность защиты прав как в административном порядке, так и в суде. Отсутствие объяс-нимости действий ИИ препятствует экспертной оценке, затрудняет проведение судебно-технической экспертизы и объективную реконструкцию событий, если рассматривается вопрос о причинении вреда человеку. Это, в свою очередь, влечет проблемы с получением и оценкой доказательств и с обеспечением права на справедливое судебное разбирательство в рамках как гражданского, так и уголовного судопроизводства: как аргументировать свою позицию, если ключевой «доказательный» инструмент невозможен для интерпретации?

Необходимо сочетание требований к обязательной документируемости алгоритмических решений (англ. algorithmic logging ³), а также создание механизмов доступа следственных органов (если речь идет об уголовном процессе), экспертов и специалистов (как в гражданском, так и в уголовном) и защиты коммерческой тайны поставщиков ИИ-технологии без нарушения принципов равенства, законности и справедливости судебного разбирательства.

Отдельный пласт вопросов касается дискриминации. Это проблематика нашла широкий отклик за рубежом, в настоящее время во многих странах ведутся обсуждения о недопущении применения дискриминирующих ИИ-моделей и алгоритмов. Об актуальности данного вопроса говорит и зарубежная государственная правовая политика: в США в 2024 году вышла рекомендация «Как избежать дискриминационного использования ИИ», выпущенная Управлением по гражданским правам Министерства образования США. В преамбуле документа говорится: «Технологии искусственного интеллекта обладают потенциалом для расширения возможностей и повышения образовательного равенства для всех учащихся. В то же время растущее использование ИИ в школах, в том числе в целях обучения и обеспечения безопасности, а также способность ИИ работать в массовом масштабе могут создавать дискриминацию или способствовать ее возникновению. Содержание настоящего руководства не имеет силы закона, не является обязательным для общественности и не создает новых правовых стандартов»1. Соответственно, проблематика дискриминации ИИ в сфере образования в США очень актуальна. Однако следует акцентировать внимание на том, что методическая рекомендация не обладает обязательной силой, что, к сожалению, снижает ее эффективность, но нисколько не умаляет ее значимость в целом.

Ученые из Италии Д. Драгони и М. Марготтини подтверждают значимость существующей угрозы, отмечая, что «использование ИИ поднимает вопросы разного рода – образовательные, методологическо-дидактические и этические, выделяя такие риски, как дискриминация, растущая технологическая зависимость и неконтролируемая генерация неточного и малоузнаваемого контента из-за предвзятости в наборах данных» [31]. Особое внимание авторов было обращено на изучение рисков дискриминации.

Исследование, проведенное в Корнелльском университете, показало следующее: «Методы машинного обучения, лежащие в основе искусственного интеллекта, которые предназначены для выявления оскорбительного онлайн-контента, могут на самом деле “дискриминировать группы, которые часто являются объектами злоупотреблений, которые мы пытаемся обнаружить”. Для каждого набора исследователи обучили модель машинного обучения предсказывать оскорбительную речь. Затем была использована база данных из более чем 59 млн твитов, совмещенная с данными переписок, чтобы предсказать вероятность того, что твит написал человек определенной расы. Результаты показали систематическую расовую предвзятость во всех наборах данных. Алгоритмы классифицировали вероятные афроамериканские твиты с гораздо большей частотой, чем твиты, которые, по мнению исследователей, написали люди других рас» [28, рp. 25–26]. Разумеется, сам по себе алгоритм не может никого дискриминировать, результаты могут варьироваться для разных классификаторов или наборов признаков, поэтому именно от человека зависит корректное и правомерное функционирование ИИ.

В другом исследовании южнокорейские ученые Х. С. Шин и С. Джу. Сим пришли к выводу, что «ком-петентностное образование в университетах имеет решающее значение для повышения этического сознания в области ИИ» [44, рp. 503]. Стоит согласиться, что повышение осведомленности о специфике, принципах работы ИИ поможет минимизировать факты дискриминации, в том числе в сфере образования. Разумеется, подобная разъяснительная работа должна вестись и в нашей стране. В некоторых образовательных учреждениях это происходит, но данная деятельность должна носить комплексный, системный характер.

Мы солидарны с позицией И. В. Филимоновой о том, что «в законе необходимо установить основную ответственность за соблюдение всех требований надежности ИИ на разработчиков ИИ-ресурсы, так как в конечном итоге они несут ответственность за обеспечение того, чтобы разработанные ими системы не дискриминировали какую-либо группу учащихся, не манипулировали пользователями, и были разработаны педагогически обоснованным образом» [22]. Считаем, что в будущем потребуется установление специализацией ответственности в отношении конкретных субъектов за действия алгоритма, повлекшие нравственные страдания обучающихся.

Можно сказать, что проблема объяснимости алгоритмов становится ключевым фактором в контексте доверия к системам ИИ. Недоступность понимания внутренних механизмов принятия решений со стороны ИИ затрудняет выявление критериев, например, связанных с выбором индивидуального учебного плана для обучающегося. Следовательно, законодательство и практика должны обеспечивать процедуры аудита алгоритмов, методы верификации и возможность привлечения независимых экспертов.

Вызывает обеспокоенность использование облачных сервисов и зарубежных платформ, эта тенденция не только порождает сложности в сфере организации образовательного процесса, но и сопряжена с рисками утечки данных граждан Российской Федерации. Тем не менее законодательно этот риск уже проработан: с 1 сентября 2025 г. вступили в действие поправки2 в законодательство, которые позволят обеспечить переход объектов критической информационной инфраструктуры РФ на российское программное обеспечение.

Рассмотрим проблему, которая, на наш взгляд, требует скорейшего разрешения, – склонность к галлюцинациям . Группа исследователей из Нью-Йорка, США, по итогам социологического опроса пришла к следующему выводу: «Несмотря на потенциальные преимущества адаптации Chat GPT в повседневную практику, значительная часть респондентов выразила обеспокоенность по поводу использования языковых моделей ИИ. Хорошо известно, что Chat GPT может генерировать неточные, но убедительно правдоподобные ответы, что создает проблемы безопасности» [33, pр. S1266].

К. М. Беликова также актуализирует данную проблему, отмечая следующее: «Нейросети способны принести значительный вред персонально человеку и человеческой популяции в целом из-за имеющихся у них возможностей генерации заведомо ложной информации, способной привести и к дискредитации личности, и к разрушению необходимой для жизнедеятельности людей инфраструктуры» [1, c. 15]. А. А. Карцхия и Г. И. Макаренко в своей научной работе отвечают на этот вопрос: так обычно происходит, когда искомый ответ отсутствует в датасете [9, c. 11].

Иными словами, генерируемый для проведения учебных занятий материал может содержать ошибки, что, в свою очередь, может негативно отразиться на получаемых знаниях обучающихся, и в дальнейшем, разумеется, могут появиться вопросы к компетентности педагога.

Нельзя оставить без внимания риск потери рабочих мест, в частности в юридической сфере. Зарубежные ученые по этой проблематике делают интересные и, на наш взгляд, исчерпывающие выводы: «Очевидно, что юристы пока не стоят перед угрозой замены искусственным интеллектом, но университеты должны информировать своих студентов о том, что в юридических профессиях есть специфические задачи, которые могут быть заменены инструментами искусственного интеллекта, чтобы посоветовать им сосредоточиться именно на тех задачах, которые не могут быть заменены машинами. Блокчейн, искусственный интеллект, смарт-контракты, базы данных и количественные методологии (среди прочего) должны сочетаться с обучением базовым юридическим навыкам (которые по-прежнему важны в новом цифровом мире), чтобы находить новые решения для новых проблем» [29, pр. 1–2].

Институциональные и процессуальные вопросы также требуют внимания. Необходимо определить стандарты для разработки, внедрения и эксплуатации ИИ в образовательных учреждениях, установить обязанности по уведомлению и информированию субъектов о применении алгоритмических решений, а также разработать механизмы дисциплинарного, административного и, возможно, уголовно-правового воздействия за несоблюдение данных требований.

Таким образом, правовой анализ рисков применения ИИ в образовании должен опираться на комплексный подход, сочетающий технические, организационные решения, а также уголовно-правовые, административно-правовые и процессуальные механизмы. Необходимо развивать, дополнять нормативную базу, регламентирующую ответственность лиц, применяющих ИИ в образовательном процессе, внедрять процедуры аудита, совершенствовать механизмы защиты прав субъектов с учетом специфики работы алгоритмических систем. Только при условии сочетания технологической экспертизы и четкой правовой регламентации возможно обеспечение баланса между инновациями в образовании и защитой общественных и индивидуальных правовых интересов.

Специфика правового регулирования ИИ в сфере образования в России

Целесообразно сначала раскрыть нормативноправовую основу, регулирующую всю сферу образования, и затем отразить законы и подзаконные нормативно-правые акты, направленные на регламентирование применения ИИ в образовании.

Система нормативно-правового регулирования общественных отношений в сфере образования в Российской Федерации представлена совокупностью конституционных норм, федеральных законов, подзаконных нормативных актов и региональных нормативно-правовых актов, образующих многоуровневую систему источников права.

Конституция РФ закрепляет фундаментальные принципы: право на образование, свободу обучения и преподавания, государственную поддержку образования, установление обязательного базового уровня образования, что определяет нормативную основу для последующей детализации в профильном законодательстве1.

На основе данных принципов зиждется Федеральный закон № 273-ФЗ «Об образовании в Российской Федерации»2, выступающий краеугольным законом, закрепляющим организационно-правовые и содержательные основы государственной политики в сфере образования (ст. 3), основные права и обязанности участников образовательных отношений (ст. 5, 28, 34, 44, 48, 71), систему образования, включая образовательные уровни и формы реализации образовательных программ, формы обучения (ст. 10–20), требования к государственному обеспечению качества образования (ст. 95, 95.1, 95.2), а также административно-правовые механизмы государственного контроля и надзора (ст. 93, 93.1) и т. д.

Помимо этого, Федеральный закон № 273-ФЗ «Об образовании в Российской Федерации» детализирует институты образовательных отношений, определяет статус образовательных организаций (ст. 21–30), порядок лицензирования (ст. 91) и аккредитации (ст. 92) образовательной организации и образовательных программ, порядок финансирования (ст. 99) и организацию государственно-частного взаимодействия в образовательной сфере.

В комплексе с ним функционирует следующая федеральная законодательная матрица: Гражданский кодекс РФ в части, касающейся правового статуса образовательных организаций как юридических лиц (ст. 48–65), договорных отношений в сфере оказания образовательных услуг (ст. 779–783) и правовой охраны интеллектуальной собственности (ст. 1225– 1254)1; Трудовой кодекс РФ, регламентирующий трудовые отношения педагогических работников (ст. 1522, ст. 22.1–22.3), их гарантии (ст. 171, 183, 185, 185.1, 318, 374) и ответственность работников и работодателя друг перед другом (ст. 142, 234–237, 238–250, 417)2; Бюджетный кодекс РФ, определяющий механизмы финансирования государственных и муниципальных образовательных организаций и иные финансово-имущественные аспекты (ст. 99–104)3; Налоговый кодекс РФ, регулирующий финансово-правовой контекст деятельности образовательных учреждений (ст. 284.1), а также вопросы, связанные с запретом налогообложения НДФЛ стипендий учащихся (п. 11 ст. 217) и правом на налоговый вычет (подп. 2 п. 1 ст. 219)4.

Подзаконная нормативно-правовая база выполняет функцию конкретизации и точечной реализации положений федерального законодательства. Указы Президента РФ5 и постановления, распоряжения Правительства РФ задают приоритеты государственной политики в сфере образования, в частности, утверждают федеральные целевые программы6 и дорожные карты7. Министерство просвещения РФ, Министерство науки и высшего образования РФ, а также иные профильные федеральные органы исполнительной власти Российской Федерации издают при-казы8, методические рекомендации9 и регламенты, определяющие конкретные критерии организации образовательного процесса, Рособрнадзор издает нормативные акты, посвященные вопросам лицензирования, аккредитации, критериям оценки качества образования10.

Федеральные государственные образовательные стандарты (ФГОС) не являются подзаконным нормативным актом – они представляют собой совокупность обязательных требований к образованию определенного уровня и/или к профессии, к результатам освоения образовательных программ и условиям их реализации на соответствующих уровнях образования. Мониторинг и контроль качества осуществляются на основе нормативов, утвержденных уполномоченными федеральными органами исполнительной власти органами.

Региональное законодательное регулирование, включая законы субъектов РФ11, нормативные правовые акты органов местного самоуправления дополняют федеральный уровень законодательства и устанавливают конкретные модели финансирования и управления, в том числе по вопросам внедрения искусственного интеллекта, кадровой политики и организации образовательных учреждений в регионе, в отдельно взятых муниципалитетах. Согласование региональных законов с федеральным законодательством осуществляется в рамках приоритетности федеральных норм, однако региональные инициативы играют важную роль в практической реализации образовательной политики на местах.

Межотраслевое взаимодействие законодательства проявляется и в сфере международного права: ратифицированные Россией международные акты в области образования1, нормативные документы ООН2, декларации, закрепляющие базовые образовательные права, включая право на бесплатное образование (принцип 7 Декларации прав ре-бенка)3, а также международные стандарты4 формируют дополнительно обязательную правовую основу, которая должна учитываться при разработке национальных нормативных актов. Примечательно, что на международном уровне пока нет ни одной концепции или декларации, которые закрепляют права, обязанности, ответственность обучающихся, педагогов и иных представителей образовательных организаций по вопросам применения ИИ в образовании.

Таким образом, действующая правовая система в сфере образования РФ представляет собой многоуровневую и взаимосвязанную совокупность конституционных норм, профильных федеральных законов, отраслевых кодексов, подзаконных нормативно-правовых актов федерального уровня, законов субъектов РФ, нормативно-правовых актов органов местного самоуправления и международных конвенций, соглашений. Эффективность функционирования этой системы зависит от согласованности норм, оперативности их адаптации к современным вызовам и от устойчивости механизмов контроля и защиты прав участников образовательных отношений, что требует постоянного совершенствования нормативно-правовой базы и развития институтов правоприменения.

Теперь осветим законодательную базу, которая регламентирует внедрение и использование технологий искусственного интеллекта в образовательной деятельности в Российской Федерации.

На текущий момент одним из ключевых законов, регулирующих данную сферу правоотношений, является Федеральный закон от 24 апреля 2020 г. № 123-ФЗ «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации – городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона “О персональных данных”»5. Цель принятия закона состоит в создании баланса между стимулированием развития инновационных технологий и обеспечением безопасности граждан и общества.

Указ Президента РФ от 10 октября 2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации» (с изм. от 15.02.2024 № 124 )6 уже более конкретно раскрывает текущие и планируемые направления применения ИИ в образовании. Среди них: разработка и внедрение образовательных модулей в рамках программ всех уровней образования, программ повышения квалификации и профессиональной переподготовки (подп. «а»–«в» п. 17.13); привлечение организаций, осуществляющих деятельность в области искусственного интеллекта, к участию в мероприятиях, направленных на развитие общего и профессионального образования (подп. «в» п. 51.2); повышение качества образования обучающихся (по всем образовательным программам), его интеграция с естественным образованием, создание условий для привлечения обучающихся к углубленной подготовке по этим направлениям (подп. «в», «д», «е» п. 51.5) и т. д. Данный указ ознаменовал начало широкомасштабной государственной политики в области внедрения ИИ в сферу образования.

Во исполнение данного указа Министерство науки и высшего образования России издало письмо от 14 июня 2023 г. № МН-5/179660, раскрывающее информацию об образовательном модуле «Системы искусственного интеллекта» для включения в образовательные программы высшего образования и дополнительные профессиональные программы, планируемые к реализации в 2023/2024 учебном году7. Есть множество других руководящих подзаконных нормативно-правовых актов, регулирующих вопросы внедрения отдельных технологий искусственного интеллекта.

Большое значение имеют государственные стандарты – ГОСТы. В период с 2019 года, с момента издания Указа Президента РФ от 10 октября 2019 г. № 490, по 2025 год было принято более 150 ГОСТов, закрепляющих требования к определенным категориям ИИ-технологий, из которых всего 19 ГОСТов регулируют вопросы применения ИИ в сфере образования1.

Приведем некоторые из них:

ГОСТ Р 59897–2021 – данные для систем искусственного интеллекта в образовании. Требования к сбору, хранению, обработке, передаче и защите дан-ных2 (утв. и введен в действие Приказом Росстан-дарта от 26.11.2021 № 1619-ст);

ГОСТ Р 70946–2023 – функциональная подсистема управления успеваемостью обучающихся по программам бакалавриата и специалитета. Общие положения и методика испытаний3 (утв. и введен в действие Приказом Росстандарта от 18.10.2023 № 1174-ст);

ГОСТ Р 70949–2023 – применение искусственного интеллекта в научно-исследовательской дея-тельности4 (утвержден и введен в действие Приказом Росстандарта от 18.10.2023 № 1177-ст);

ГОСТ Р 59900–2021 – типовые требования к контрольным выборкам исходных данных для испытания систем искусственного интеллекта в образовании5 (утвержден и введен в действие Приказом Росстан-дарта от 26.11.2021 № 1622-ст);

ГОСТ Р 71657–2024 – технологии искусственного интеллекта в образовании. Функциональная подсистема создания научных публикаций. Общие положения (утвержден и введен в действие Приказом Росстандарта от 01.10.2024 № 1364-ст)6.

ПНСТ 871–2023 – предварительный национальный стандарт Российской Федерации. Образовательные цифровые платформы (тренажеры) с использованием искусственного интеллекта для получения практических знаний в области клинических дисциплин. Основные положения7 (утвержден и введен в действие Приказом Росстандарта от 20.11.2023 № 63-пнст).

Принятые стандарты лишь частично закрывают этические аспекты применения искусственного интеллекта в образовании: к примеру, устанавливают требования к защите данных пользователей. Тем не менее другие этические аспекты, такие как дискриминация, использование данных прогнозирования успеваемости, пока не учтены, как и требования к автономным ИИ-программам (которые рано или поздно будут внедрены в образование) и вопросы, касающиеся контроля за ними. Помимо этого, значительным недостатком в нормативном регулировании является тот факт, что положения большинства ГОСТов и предварительных национальных стандартов носят лишь рекомендательный характер.

К сожалению, как указывают Л. А. Емелина и С. А. Яворский, «стандарты для цифрового права и инновационного правового регулирования в общем смысле часто разрабатываются без участия юристов или даже без их вмешательства. Теперь правовое регулирование будет отождествляться с применяемым программным алгоритмом в ущерб этическому, аксиологическому и социокультурному контексту права» [7, c. 72–73]. Именно поэтому особенно важно при составлении новых стандартов в сфере образования приглашать юристов, учитывать их мнение по вопросам функционирования правовых механизмов.

Следует отметить, что динамика образовательного законодательства обусловлена необходимостью реагирования на изменяющиеся социальные и технологические реалии, формирующиеся посредством влияния ИИ-технологий и иных факторов, что влечет за собой постоянную актуализацию подзаконной нормативно-правовой базы и опосредует появление новых правил в сфере цифрового образования, дистанционных форм обучения и оценивания качества образовательных услуг. Однако чрезмерное нормативно-правовое регулирование может приводить не только к положительным результатам. Как отмечает Л. В. Голоскоков, «в сфере образования

Минвуз СССР за 44 года (с 1947 по 1991 г.) создал 283 документа. За постсоветский период их было принято 26 202 – почти в 100 раз больше. Законы хороши не тем, что хранятся в прогрессивной электронной форме и в огромном количестве, а тем, что применяются для развития государства и для блага народа. Советская система образования готовила лучших на тот момент инженеров и физиков, которые оказались более компетентными, чем ученые любой страны мира, но в последние годы именно в электронной форме слово “компетенции” мы миллионы раз вставили в учебные программы вузов, а сами компетенции при этом во многих сферах утратили» [5, с. 425].

Именно поэтому не стоит слишком досконально регламентировать сферу применения ИИ в образовании, а с помощью правового инструментария нивелировать ключевые риски для личности, общества и всего государства. Не стоит закрепощать прогресс излишними рамками, напротив – нормативное регулирование должно создавать условия для развития самых передовых технологий в образовании, поощрять их вдумчивое, корректное внедрение и эксплуатацию.

Сравнительно-правовой анализ регулирования ИИ в России и за рубежом

Краткий обзор подходов в ЕС, США, Китае по применению ИИ в сфере образования

В современном мире регулирование и практика внедрения технологий искусственного интеллекта в образовательной сфере формируются под влиянием правовых традиций, политических приоритетов и социально-культурных особенностей стран, отдельных регионов. Сравнительный анализ подходов, сформированных в Европейском союзе, США и Китае, демонстрирует три различных модели, каждая из которых ориентирована на сочетание защиты прав и законных интересов субъектов, стимулирования инноваций и обеспечения государственной политики в области образования.

Европейский союз выстраивает правовой режим вокруг принципов защиты данных и прав личности, что отражено в Общем Регламенте ЕС по защите персональных данных 2016/679 (англ. GDPR – General Data Protection Regulation, вступил в силу 25.05.2018)¹ и в последующих стратегических документах по регулированию ИИ стран Евросоюза. Для образования это означает строгие требования к основанию обработки персональных данных учащихся, к минимизации обрабатываемых данных, к оценке воздействия на защиту данных (англ. DPIA –

Data Protection Impact Assessment )² при внедрении систем автоматизированной оценки, персонализации обучения и мониторинга. Европейский союз, приняв Закон об искусственном интеллекте³, отнес использование искусственного интеллекта в образовании к категории «высокого риска», подчеркнув важность осторожного и ответственного подхода [31].

На уровне ЕС также разрабатываются акты по регулированию ИИ как такового с предложениями по риск-ориентированной классификации: высокорисковые технологии (включая инструменты, существенно влияющие на права и обязанности субъектов) подлежат более жестким требованиям к объяс-нимости, документированию, долгим испытаниям и сертификации. В образовательной сфере особо значима прозрачность, открытость применяемых алгоритмов, в приоритете – право на объяснение решений ИИ, обеспечение возможности человеческого контроля, наличие обязательного механизма обжалования результатов, полученных при помощи ИИ. Практика в странах ЕС характеризуется активной ролью надзорных органов по защите данных и развитием профессиональных стандартов, а также сопровождается рекомендациями по включению этических оценок и педагогических требований в процессы проверки ИИ-решений со стороны человека-эксперта.

Большинство вопросов разрешает Европейский надзорный орган по защите персональных данных (англ. European Data Protection Supervisor – EDPS )⁴, независимая контрольно-надзорная инстанция ЕС, которая следит за соблюдением прав на неприкосновенность частной жизни и защиту данных при обработке персональных данных. Помимо этого, EDPS рассматривает обращения чиновников Европарламента и других органов ЕС, физических и юридических лиц, которые считают, что их персональные данные были неправильно обработаны европейским или иным органом власти или частной компанией. Также EDPS консультирует Европейскую комиссию, Европейский парламент и Совет Европейского союза по вопросам защиты данных в ряде областей политики, в том числе в сфере образования.

Подход Соединенных Штатов основан на сочетании отраслевого регулирования, защиты частного права обучающегося и принципа саморегуляции. На федеральном уровне отсутствует единый закон по аналогии с европейским GDPR; вместо этого действуют законы, которые регулируют сферу образования, но напрямую не имеют механизмов правового регулирования ИИ в образовательном процессе (например, англ. FERPA – Family Educational Rights and Privacy

Act¹ , законы о защите прав потребителей, отраслевые стандарты безопасности). Регулирование ИИ чаще носит рамочный характер и восполняется законами штатов, контрактными обязательствами и судебной практикой.

FERPA «запрещает образовательным учреждениям раскрывать “личностно идентифицирующую информацию в образовательных записях” без письменного согласия студента или, если студент – несовершеннолетний, его родителей; дает студентам право просматривать свои собственные данные, хранящиеся на электронных ресурсах образовательными учреждениями, запрещать раскрытие идентифицирующей информации об обучающихся и получать исчерпывающую информацию о политике конфиденциальности образовательного учреждения, касающейся доступа к данным о студентах»2. Это обеспечивает большую гибкость внедрения инноваций в образовательных учреждениях и на коммерческом рынке EdTech, но одновременно создает фрагментарность защиты данных и неоднородность требований к прозрачности алгоритмов.

В США важную роль играют контрактные положения между поставщиками ИИ-технологий и образовательными организациями, которые нередко сами определяют стандарты безопасности (с учетом положений FERPA), ответственность за ошибки, сбои ИИ и условия доступа к данным. Также интенсивно развивается практика добровольных стандартов и отраслевых руководств по этике ИИ, тестированию и оценке алгоритмов3. Судебная практика выполняет функцию уточнения границ правомерного использования ИИ: вопросы дискриминации и необоснованного сбора данных учащихся часто решаются в гражданско-правовых спорах путем заявления иска о возмещении вреда и требованием корректирующих мер при дальнейшем применении ИИ в образовательном процессе.

Китайская модель характеризуется активной государственной политикой поддержки цифровизации образования и масштабным внедрением ИИ в образовательный процесс при одновременном усиленном контроле и регулировании со стороны ор- ганов государственной власти. Государство стимулирует разработку и распространение образовательных платформ с компонентами аналитики и персонализации, что обеспечивает широкое внедрение технологий в школах и вузах, но при этом оно сопровождается жестким регулированием содержания, требованиями к безопасности и управлению данными.

Правовая база КНР в последние годы развивается в сторону усиления контроля за персональными данными (Закон Китайской Народной Республики о защите персональных данных от 2021 г.4), а также регламентации алгоритмических систем. В соответствии с данным законом обработка личной информации должна обеспечивать безопасность личной информации и не допускать негативного воздействия на индивидуальные права и интересы из-за неточной или неполной личной информации (ст. 8). Деятельность по обработке личной информации, которая ставит под угрозу национальную безопасность и общественные интересы, не должна осуществляться (ст. 10).

Закон об образовании КНР от 1995 года не содержит изменений и дополнений, касающихся ИИ5. В сфере образования в целом особое внимание уделяется национальным интересам, социокультурной устойчивости и контролю за информационными потоками, что приводит к требованиям локализации данных, обязательной сертификации некоторых систем ИИ и взаимодействию коммерческих операторов ИИ с государственными органами в вопросах мониторинга и корректировки контента.

Отметим, что в Китае выявлена неоднородность в ведении государственной политики по вопросах регулирования применения ИИ в образовании. По информации от 14 декабря 2024 г., Министерство образования КНР призвало начальные и средние школы включить изучение технологий искусственного интеллекта в свои программы. Инициатива направлена на то, чтобы «удовлетворить будущий спрос Китая на инновационные таланты» и улучшить цифровые навыки учащихся, а также их умение решать задачи6. Кроме того, планируется предложить больше учебных программ по ИИ-инструментам для учителей и усилить взаимодействие сельских школ с городскими, чтобы преодолеть технологический и образовательный разрыв между ними.

Однако уже через полгода, 16 мая 2025 г., ученикам начальной школы запретили самостоятельно использовать инструменты ИИ для генерации контента, в частности, запрещено: выдавать созданное с помощью ИИ за свою работу; использовать ИИ для списывания; передавать технологии креативные задачи, не оценивая результат критически. Для учителей тоже вводятся ограничения – ИИ не должен выставлять вместо них оценки или обрабатывать конфиденциальные данные учеников1. На наш взгляд, было бы логично изначально ввести подобные требования с момента непосредственного внедрения ИИ в сферу образования, поскольку указанные риски в целом можно было предвидеть.

Примечательно, что с 1 сентября 2025 г. в школах Пекина ИИ вошел в перечень обязательных предметов. «Это решение направлено на подготовку нового поколения специалистов, которые смогут поддерживать технологическое лидерство страны»2. А. Г. Шейкин отмечает в своей работе, что в проекте 2024 года по развитию ИИ в КНР отсутствует сценарий «искусственный интеллект в образовании» (хотя есть главы, посвященные регулированию ИИ в судопроизводстве, СМИ, медицине, науке и технике и т. д.) [24, c. 43].

Таким образом, мы видим, что в Китае как Закон об образовании, так и Закон о защите персональных данных не содержат специальных норм, регулирующих применение ИИ в образовательном процессе, отдельный закон сейчас отсутствует, существует лишь ведомственное правовое регулирование посредством издания подзаконных НПА. Это порождает проблему в регулировании использования данных технологий в китайских школах. Также следует отметить важное отличие моделей управления образования КНР: китайская практика чаще опирается на директивные инструменты государственной политики и на механизмы административной ответственности (которые, как мы видим, часто непоследовательны), а не на судебный контроль, как в США.

В целом можно сказать, что стратегические направления развития ИИ в образовании в Китае, США и Евросоюзе можно считать удачными. Было бы справедливо указать и не самые успешные примеры из мировой практики. Согласно статье Л. Парентони, «в Бразилии в апреле 2021 г. была опубликована стратегия в области ИИ, включающая в себя девять основных направлений, которые сгруппированы по трем горизонтальным и шести вертикальным осям. К трем горизонтальным (или тематическим) осям относятся: законодательство, регулирование и этическое использование; управление ИИ и международные аспекты.

Шесть вертикальных (или прикладных) осей следующие: образование; рабочая сила и обучение; НИОКР и предпринимательство; применение в производственных секторах; применение в правительстве и общественная безопасность. Основная критика заключается в том, что стратегия слишком абстрактна, вплоть до невозможности ее применения для выработки практических мер» [18, с. 242]. Соответственно, любой документ стратегического характера должен быть реалистичным, выполнимым, согласовываться с имеющимися ресурсами, учитывать риски.

Все рассмотренные удачные модели объединяет необходимость обеспечения прав на неприкосновенность личной жизни учащихся. Говоря об отличиях, можно отметить, что европейская модель обеспечивает высокую степень защиты личности и предсказуемости применяемых в образовании алгоритмов, но в перспективе строгие процедуры соответствия правилам GDPR могут замедлить внедрение инноваций. Американская модель стимулирует инновации за счет гибкости американского рынка технологий, но создает риски фрагментации защиты прав обучающихся и педагогов ввиду отсутствия единого национального регулирования. Китайская модель обеспечивает высокий уровень масштабирования, оперативность внедрения и применения ИИ, обязательный порядок согласования с государственными органами власти, но, как и европейская модель, во главу угла ставит вопросы о гарантиях прав на защиту персональных данных и прозрачности алгоритмических решений. Часто многие из применяемых технологий в Китае локализованы, что затрудняет их анализ, а также трансграничный обмен данными и международное сотрудничество.

С позиции ответственности субъектов, обрабатывающих персональные данные, можно указать следующее: в европейской практике наличествует жесткая правовая регламентация, развитая экспертиза, контрольно-надзорные органы способствуют обеспечению мер ответственности, минимизируя возможный ущерб для учащихся, педагогов и самих образовательных учреждений; в США и Китае вопросы распределения ответственности решаются в рамках гражданского и административного права с использованием различных подходов к аудиту и сертификации ИИ-технологий, применяемых в образовании.

Международный обмен опытом, развитие международной стандартизации и экспертных процедур может способствовать гармонизации критериев допустимости применения ИИ в образовании, снизить риски правонарушений и улучшить защиту прав учащихся и педагогов при сохранении стимулирующего эффекта инноваций. К сожалению, нигде в мире пока не созданы и не регламентированы с точки зрения права система предупреждения алгоритмической дискриминации обучающихся, механизм обжалования автоматизированных решений при выставлении оценок и механизм обеспечения качества образовательного процесса при внедрении ИИ.

Отличия и сходства с российской практикой

Российская практика в области применения ИИ в образовании сочетает элементы всех рассмотренных зарубежных моделей, но в то же время имеет свои специфические черты. Сходства с моделью ЕС проявляются в росте внимания к защите персональных данных учащихся: действия образовательных организаций и поставщиков ИТ-услуг регулируются Федеральным законом № 152-ФЗ от 27 июля 2006 г. «О персональных данных». В соответствии со статьей 16 указанного закона «запрещается принятие на основании исключительно автоматизированной обработки персональных данных решений, порождающих юридические последствия в отношении субъекта персональных данных или иным образом затрагивающих его права и законные интересы»1. Это означает, что без разрешения учащихся и их законных представителей нельзя применять в образовательном процессе технологии, которые обрабатывают персональные данные.

Помимо этого, как и в ЕС, в России обсуждаются требования к объяснимости систем, в частности, необходимость документирования алгоритмических решений и процесса достижения им результатов (подп. «в» п. 19 Указ Президента РФ № 490), проведения экспертиз при масштабном внедрении ИИ (подп. «х» п. 51.11 Указа Президента РФ № 490).

Сходства с США выражаются в активном участии частного сектора и развитии образовательных платформ, в значительной роли договорных отношений и саморегуляции на текущем этапе развития, а также фрагментарном характере правового регулирования: пока нет единого федерального закона, специально посвященного применению ИИ в сфере образования.

Сходства с китайской моделью проявляются в стремлении государства стимулировать цифровизацию образования и внедрять отечественные образовательные платформы и технологии, а также в особом контроле за содержанием образовательных материалов и локализацией данных в отдельных случаях.

Отличия отечественного опыта от европейской, американской и китайской моделей состоят в следующем. Во-первых, правовая база в нашей стране в сфере регулирования ИИ не так комплексно развита по сравнению с ЕС: отсутствует акт, который содержал бы риск-ориентированную классификацию ИИ-программ, приложений и исчерпывающие требования к сертификации и объяснимости. В СМИ появляется информация о том, что законодательные органы власти начали разработку закона об искусственном интеллекте, который может закрепить понятие искусственного интеллекта, технологий и систем ИИ, ввести классификацию систем ИИ по уровню потенциального риска,, требования к маркировке систем ИИ и др.2 Однако какая-либо конкретика на данный момент отсутствует.

Во-вторых, административно-правовые механизмы контроля в России часто реализуются через государственные стандарты, ведомственные методические указания, а не через независимые надзорные органы, как в ЕС.

В-третьих, в силу геополитических вызовов и импортозамещения российская политика делает упор на развитие национальных технологических решений и ставит задачу по снижению зависимости от иностранных поставщиков, что влияет на требования к локализации и совместимости применяемых систем. Это сближает отечественный и китайский подходы к регулированию технологий искусственного интеллекта, в том числе в сфере образования.

Необходимость трансформации подходов к охране и защите прав обучающихся и педагогов в эпоху ИИ

Права учителей и обучающихся (как школьников, так и студентов) при использовании ИИ в образовательной деятельности требуют конкретизации, обязательного закреплении в федеральных законах, подзаконных нормативно-правовых актах, включая локальные акты образовательной организаций. В первую очередь должно быть закреплено и гарантировано право на информирование и получение достоверной информации о характере участия каждого конкретного ИИ-продукта в образовательном процессе, включая право на знание о том, какие данные и в каких целях обрабатываются, на доступ к результатам автоматизированной оценки и на объяснение алгоритмических решений в понятной для человека форме.

Защита персональных данных подразумевает комплекс мер, направленных на соблюдение конституционных прав субъектов на неприкосновенность частной жизни и на соответствие требованиям Конституции РФ3 и федерального законодательства, прежде всего Федерального закона от 27 июля 2006 г.

№ 152-ФЗ «О персональных данных»1, а также иных нормативных актов, регулирующих осуществление отдельных процедур с данными в информационно-телекоммуникационных системах. При этом специфика современной образовательной сферы диктует необходимость учитывать возрастные, профессиональные, социокультурные и иные характеристики субъектов правоотношений, особенности аудиовизуальной и биометрической информации, а также цели и правовую основу обработки данных в образовательных целях.

С правовой точки зрения обработка персональных данных посредством программ ИИ должна базироваться на основаниях, предусмотренных законом: согласии законных представителей несовершеннолетних, соблюдении прав и исполнении обязанностей, возложенных законом на образовательную организацию, а также на иных основаниях, прямо предусмотренных законодательством. Практика показывает, что при использовании ИИ-решений необходимо четко формулировать цели обработки, минимизировать объем обрабатываемых данных. Неудивительно, что принцип data minimization поддерживается многими европейскими исследователями, поскольку «компании обычно собирают больше личной информации, чем необходимо для предоставления качественных услуг» [36, p. 388]. Важно при обработке данных обеспечивать безопасность, соблюдать сроки хранения, применять меры по обезличиванию или псевдонимизации в тех случаях, когда это возможно, и документировать принятые технические и организационные меры, включая риск-ориен-тированный подход [2, c. 203], к оценке воздействия на защиту персональных данных.

Мы солидарны с предложением А. Томайду и К. Лимниотисом о «необходимости привлечения к процессу поставщика системы искусственного интеллекта в случае, если он является единственным, кто получает важную информацию о системе» [47, p. 7]. Схожий механизм описывается итальянским ученым Л. Спозини в исследовании, посвященном применению ИИ в нейромаркетинге: «Фактически поставщик обязан внедрить и задокументировать систему управления рисками для выявления и анализа возможных рисков, возникающих при использовании системы ИИ, и принять соответствующие меры для надлежащего управления ими, а также гарантировать качественный уровень управления базами данных. Кроме того, поставщик должен разработать и поддерживать в рабочем состоянии подробную, полную и актуальную техническую документацию и обеспечить проверяемость и отслеживаемость процессов, используемых системами искусственного интеллекта, предоставив инструменты как для целей регистрации, так и для адекватного человеческого контроля за их работой» [19, с. 87].

Вне всякого сомнения, необходима регламентация порядка информирования субъектов персональных данных о характере и последствиях автоматизированной обработки, в том числе о возможных рисках и способах защиты прав (право на доступ, исправление, удаление, ограничение обработки). Важным компонентом является право на оспаривание результатов, вынесенных с применением ИИ: право обжаловать оценку, право требовать проверки человеком-экспертом и получения альтернативной, независимой оценки.

Для педагогов, на наш взгляд, дополнительно должно предусматриваться право на защиту профессиональной репутации и на надлежащее регулирование изменений трудовых функций при внедрении ИИ: любые изменения в должностной инструкции, трудовом договоре и иных документах должны осуществляться в соответствии с трудовым законодательством, коллективными договорами, с обеспечением гарантий и компенсаций, если внедрение технологий приводит к перераспределению должностных обязанностей или к повышению нагрузки и ответственности.

Особое внимание в правовом регулировании следует уделять праву на профессиональную переподготовку и повышение квалификации. Использование ИИ должно сопровождаться обеспечением педагогов необходимыми навыками для корректного взаимодействия с системами, понимания их ограничений и механизмов контроля, а также с обязательным участием в процедурах совершенствования алгоритмов. Это связано с превентивной функцией защиты прав субъектов: повышение компетентности педагогов снижает риск ошибок и минимизирует вероятность наступления правонарушений. Вполне логично, что в рамках курсов повышения квалификации можно и нужно обсуждать вопросы применения «искусственного интеллекта в работе учителей и для решения различных административных задач» [16, c. 65].

Вопросы защиты интеллектуальной собственности и использования учебных материалов в эпоху ИИ также приобретают важное значение. Программы ИИ часто используют большие пласты информации, включающие как текст, так и медиафайлы, защищенные авторским правом учебные и учебно-методические материалы. Возникает закономерный конфликт между интересами правообладателей (педагогами и образовательными учреждениями) и потребностью в данных для обучения моделей.

Статья 1274 ГК РФ допускает свободное использование произведения в информационных, научных, учебных или культурных целях. В этом случае обязательно требуется указывать данные об авторе произведения1. Однако существует немалый риск, что результат интеллектуальной деятельности (допустим, учебно-методическое пособие или учебник), ставший основой для обучения нейросети, может быть использован любым человеком, имеющим доступ к данной программе для личных корыстных целей. Самый яркий пример – выдать перефразированный с помощью ИИ-программы текст за свой собственный. Б. Фехер, М. Хебинг и М. Лау-фер высказывают следующие соображения по данному вопросу: «Возможности LLMs по созданию текстов влияют на научную коммуникацию, потенциально изменяя традиционные нормы, влияя на академические правила и системы контроля качества. Например, научные статьи потеряют свою ценность, если будут создаваться преимущественно с помощью автоматизации» [34, p. 457]. Разумеется, есть программы, позволяющие найти фрагменты, которые были модифицированы с помощью нейросети2. Однако эти программы всё же имеют погрешность, более того, сейчас возможности ИИ-технологий, особенно платных, развиваются очень быстро и нельзя гарантировать, что идеи, отраженные автором произведения, созданного в образовательных целях, будут «в безопасности» в будущем.

Для решения обозначенной проблемы должны предусматриваться ясные и строгие правила доступа к образовательным ИИ-системам, которые основаны на датасетах, включающих результаты интеллектуальной деятельности преподавателей. Необходимо создание механизмов ответственности поставщиков ИИ, включая обязательство проводить техническую проверку при формировании датасетов, хранить доказательства правомерности сбора всех источников данных.

В практике регулирования ИИ в образовании значимую роль могут сыграть договорные механизмы: контракты с поставщиками ИИ должны содержать детализированные положения о стандартах безопасности, мерах ответственности за сбои, механизмах уведомления об инцидентах, процедурах аудита и доступа для проверки, а также положения о передаче и хранении данных, включая локализацию и резервирование. Локальные нормативные акты образовательных организаций обязаны регламентировать процедуры информирования, получения согласий, обработки обращений субъектов персональных данных и порядок оспаривания решений, принятых автоматизированными программами.

К примеру, такого подхода придерживаются сербские ученые, которые по результатам своего исследования приходят к следующему выводу:

«Внедрение ИИ в образовательных учреждениях больше не является нейтральным технологическим выбором, а становится юридически обязательным действием, которое влечет за собой контрактные обязательства. Будь то лицензионные соглашения или локальные акты в сфере цифровой политики, учреждения должны соблюдать принципы согласия обработки персональных данных, справедливости и подотчетности» [32, p. 560].

По итогам анализа имеющихся проблем просматривается потребность в интегрированном подходе, сочетающем процессуально-правовые, материально-правовые и нормативно-технические решения.

С материально-правовой стороны необходима дифференцированная ответственность, учитывающая роль каждого участника отношений, связанных с внедрением и функционированием ИИ в образовании: от разработчика алгоритма до оператора образовательной платформы. Это предполагает институ-циализацию политики социальной ответственности [26] в отдельных случаях (например, при системных нарушениях безопасности, повлекших массовый вред), а также сохранение вины как основания привлечения к уголовной или административной ответственности для случаев, где доказуем умысел или грубая неосторожность.

Процессуально-правовые меры должны включать специальные правила о порядке проведения экспертизы ИИ-программ, стандартизированные протоколы по хранению всех данных алгоритмической деятельности ИИ. Это необходимо в целях получения доказательства и восстановления цепочек принятия решений как со стороны ИИ, так и человека.

Наконец, нормативно-технические меры могут быть представлены в виде подзаконных и локальных НПА, устанавливающих требования к шифрованию информации, обязательной проверке источников данных, регулярной очистке данных, управлению доступом, аудиту и мониторингу, а также регулярному обновлению моделей ИИ.

Только при сочетании всех указанных мер можно минимизировать риски, связанные с применением ИИ в образовании, и обеспечить баланс между инновационным потенциалом технологий и защитой фундаментальных прав и интересов субъектов образовательного процесса. В результате формируется системный подход, в котором защита персональных данных, механизм привлечения к ответственности за ошибки ИИ и закрепление прав участников образовательного процесса взаимосвязаны и направлены на обеспечение законности, безопасности и качества образования.

Особенности контроля и надзора за применением технологий ИИ в сфере образования в Российской Федерации

Практика последних лет демонстрирует формирование многоуровневого и разветвленного контроля за ИИ в образовании, сочетающего превентивные меры реагирования, мониторинг соответствия нормативным требованиям законодательства и механизмы реагирования на нарушения. В основе практики находятся принципы законности и профессионализма, правовой защиты прав обучающихся и работников сферы образования, обеспечения информационной безопасности, соблюдения требований о защите персональных данных. Одновременно с этим ключевая цель на сегодня заключается в поддержании высокого качества образования при использовании ИИ-технологий.

Выделим несколько уровней контроля, которые обеспечивают контрольно-надзорные функции за применением технологий ИИ в сфере образования в Российской Федерации.

На первом уровне образовательные организации сами вырабатывают внутренние правила использования ИИ-систем.

Это правила по внедрению образовательных платформ с ИИ, инструкции по работе преподавателей и технического персонала, положения о защите персональных данных, инструкции по резервному копированию и восстановлению данных, регламенты по проведению внутреннего аудита ИТ-систем. Данные локальные акты стали распространенными практическими инструментами для минимизации правовых и технологических рисков.

В качестве примера можно привести «Правила использования искусственного интеллекта студентами НИУ ВШЭ», в рамках которых студентам разрешается использовать ИИ в процессе выполнения учебных работ (письменных или устных), но в целях соблюдения академических норм они обязаны выделять результаты своей деятельности, при реализации которой был использован ИИ, указывая характер и объем работ, выполненных с его помощью1. Интересную практику демонстрирует Московский физико-технический институт, поскольку вовсе не планирует запрещать студентам использовать искусственный интеллект при подготовке дипломных работ. Руководство вуза убеждено, что «использование технологий искусственного интеллекта, таких как СhatGPT, не означает, что человек не самостоятельно выполнил работу»2. Можем предположить, что данное правило пока что носит устный характер.

Напротив, в СПбГУ «использование ИИ полностью запрещено по направлениям “Психологические науки”, “Сервис и туризм”, “Физическая культура и спорт”, “Искусствознание”». По остальным направлениям применение искусственного интеллекта допустимо при соблюдении ряда условий, направленных на сохранение авторства и научной добросовестности. Примечательно, что в другом петербургском вузе – в ЛЭТИ имени В. И. Ульянова (Ленина) – нет четкой системы контроля за использованием ИИ сту-дентами3.

На втором уровне находятся региональные органы управления образованием и центры компетенций. В соответствии со статьей 8 Федерального закона № 273-ФЗ от 29 декабря 2012 г. «Об образовании в Российской Федерации» практика региональных министерств (управлений) образования включает подготовку и реализацию региональных программ развития образования (которые могут учитывать специфику использования ИИ), рекомендации по адаптации программ дополнительного образования (в том числе с применением ИИ-технологий).

Региональные органы также проводят политику внедрения отдельных ИИ-технологий в образовании на уровне субъекта РФ. К примеру, «апробация умных сервисов – Цифровой образовательной платформы “Московская электронная школа” (МЭШ) с использованием технологий искусственного интеллекта, которая позволят школьникам строить персонализированные образовательные траектории. Благодаря “МЭШ” учителя смогут воспользоваться рекомендациями по планированию обучения в зависимости от образовательных результатов учеников и их прогнозами, автоматической подборкой материалов, необходимых для восполнения образовательных пробелов ребят, а также рекомендациями по повышению квалификации. В ближайшие годы московская образовательная платформа “МЭШ” будет внедрена как минимум в 20 регионах страны»4.

Федеральные органы государственной власти формируют третий уровень надзора. Роскомнадзор фокусируется на соблюдении Федерального закона «О персональных данных» при использовании ИИ-си-стем, особенно в ситуациях обработки биометрических данных, контроле за обезличиванием персональных данных, разработке процедур тестирования и оценки моделей ИИ. В практике Роскомнадзора наблюдаются проверки операторов, выявление нарушений принципов обработки данных, предписания об устранении нарушений и, при необходимости, административные санкции (ст. 13.11, 13.11.3, 19.4, 19.4.1, 19.5, 19.7 КоАП РФ)1.

Роль Роспотребнадзора особенно актуальна в случаях, когда использование ИИ влияет на психологическое и физиологическое состояние обучающихся. Полномочия Роскомнадзора включают проверку соответствия требованиям законодательства по обеспечению безопасных условий обучения при внедрении новых технологий. Роструд и иные трудовые контролирующие органы участвуют в обеспечении трудовых прав педагогов и административного персонала, акцентируя внимание на получении объективной оценки состояния условий труда на рабочих местах, а также информации о влиянии применяемых технологий, используемых материалов и методов на состояние здоровья и безопасность работников (ст. 356 ТК РФ).

На федеральном уровне закреплены правила использования электронных учебных материалов и систем автоматизированной оценки, включая электронные дневники и иные способы цифрового учета данных образовательной сферы2.

В сфере судебной защиты и правоохранительной деятельности также наблюдается тенденция к росту количества дел, связанных с применением ИИ в образовательной среде. Судебная практика охватывает случаи утечки персональных данных3, незаконного использования изображений и биометрических данных учащихся (в МАОУ СОШ № 70 г. Тюмени реализовывался проект «Ладошки», предусматривающий возможность безналичного расчета за питание учащихся в школе путем считывания индивидуального рисунка ладони ребенка, что было расценено родителями как сбор биометрии без согласия)4, споры, связанные с достоверностью автоматизированных оценок (как правило, рассматриваются в административном порядке в конкретном вузе или школе), оспаривание решений, принятых на основе алгоритмической обработки5. Практика отражает необходимость формирования специальных экспертных компетенций по исследованию алгоритмов работы ИИ-систем, что требует междисциплинарного взаимодействия IT-экспертов, педагогов и юристов.

Контрактная практика взаимодействия между образовательными организациями и разработчиками ИИ также претерпевает значительные изменения.

Типичные гражданско-правовые договоры на поставку оборудования или на техническое обслуживание теперь нередко содержат положения о гарантии соответствия требованиям законодательства о персональных данных, условиях обработки и хранения данных, ответственности сторон при утечках. В перспективе, по нашему мнению, большинство договоров будут содержать требования по обеспечению прозрачности алгоритмов и положения о праве образовательной организации проводить независимый аудит алгоритмических решений.

Практика оценки качества ИИ-технологий в образовании развивается через совместные инициативы профильных министерств, научного сообщества и частного сектора. Уже сегодня активно формируются рекомендации по тестированию систем автоматической оценки знаний по валидации моделей машинного обучения применительно к конкретным образовательным задачам, по оценке устойчивости к ошибкам и т. д. Такие технико-правовые меры направлены на создание критериев приемлемости результатов ИИ, повышение доверия к автоматизированным инструментам и обеспечение механизмов защиты права (например, возможность оспаривания автоматизированного решения путем привлечения человека-эксперта).

Однако практика выявляет и проблемные точки. Ограниченные ресурсы и недостаточный уровень компетенции педагогов многих образовательных организаций препятствуют полноценной реализации мер по информационной безопасности. Вопросы ответственности при причинении вреда вследствие ошибок ИИ (как в области оценки, так и в сфере рекомендаций по обучению) остаются предметом дискуссий между юристами, работниками сферы образования, ИТ-специалистами и представителями органов власти.

Можно сделать заключение о том, что практика контроля и надзора за применением технологий ИИ в российском образовании формируется как многоуровневая система взаимодействия образовательных учреждений, муниципальных, региональных органов управления, федеральных органов власти, судов и рынка поставщиков информационных технологий. Эффективность этой практики во многом зависит от развития методологии оценки алгоритмов, повышения правовой и технической грамотности участников образовательного процесса, формирования прозрачных контрактных механизмов и совершенствования нормативно-правовой базы, направленной на сбалансированное сочетание инновационного потенциала ИИ и защиты прав и свобод субъектов образовательных отношений.

Рекомендации по совершенствованию правового регулирования применения ИИ в сфере образования

На основе анализа рисков и проблем использования искусственного интеллекта в сфере образования в Российской Федерации мы пришли к выводу о необходимости принятия специализированного нормативного акта, охватывающего особенности использования систем искусственного интеллекта в образовательной деятельности. Допустимо применять уже существующую международную практику и методологию международных стандартов (например, подходы ЕС в AI Act), но в то же время адаптировать нормы права к правовой системе России и отраслевым особенностям образовательной сферы. Данный закон должен содержать четкие определения таких терминов, как ИИ-система, разработчик, оператор, поставщик данных, модель обучения, объяснимость, аудит ИИ, разграничивать сферы применения (ассистенты преподавателя, системы оценки знаний, адаптивное обучение) и классифицировать уровни рисков в зависимости от потенциального вреда субъектам образования (также по аналогии с европейским опытом). Такое нормативное регулирование обеспечит безопасность в работе образовательных учреждений с участниками рынка информационных технологий, создаст основу для последующей дифференциации мер ответственности за нарушения.

Учитывая множественность субъектов, участвующих в отношениях по внедрению и эксплуатации ИИ-технологий (разработчики, владельцы данных, интеграторы, операторы платформ, представители образовательных организаций, обучающиеся), следует подумать о возможности реализации модели смешанной ответственности, предполагающей наличие вины двух и более сторон гражданско-правового соглашения. Данный подход раскрывается в работе О. А. Кузнецовой и предполагает несение прежде всего материальной ответственности [13, c. 71–76]. Для случаев системных нарушений безопасности или грубой небрежности, повлекшей значительный вред, целесообразно предусмотреть повышенную ответственность оператора/владельца платформы, где реализуются ИИ-технологии, что облегчит решение вопроса компенсации ущерба и превентивно стимулирует данных субъектов к соблюдению стандартов безопасности.

В рамках совершенствования уголовного права необходимо четко определить содержание вины для деяний, где необходима морально-правовая оценка поведения: преднамеренная манипуляция оценочными возможностями системами ИИ-технологий, сокрытие уязвимостей, использование данных в мошеннических и иных противоправных деяниях, ответственность за которые предусмотрена УК РФ. Нормативно должны быть четко закреплены следующие критерии: степень контроля за системой, возможность предсказания вреда, наличие мер по предотвращению риска, обязанности по мониторингу и реагированию.

Важнейшей организационно-правовой рекомендацией является внедрение обязательного требования к уровню объяснимости ИИ, адекватному характеру его применения в образовании. Для систем, влияющих на права учащихся (оценка успеваемости, доступ к дополнительным образовательным ресурсам, допуск к экзаменам и т. д.), необходимо обеспечить механизм «объяснения» причин конкретного результата в понятной форме для всех заинтересованных субъектов (преподавателей, представителей администрации образовательных учреждений, родителей, самих учащихся) и органов контроля. Практическая реализация предполагает обязательное логирование всех операций алгоритма, сохранение версий моделей, данных обучения и метаданных о наборе данных и процессах валидации. Законодательно следует установить правила доступа к этим журналам для образовательных организаций, обучающихся и уполномоченных органов в сфере контроля (Рособрнадзор, Роскомнадзор, прокуратура), при этом гарантируя защиту коммерческой тайны для разработчиков ИИ через процедуры санкционированного доступа в рамках процессуально-правовых норм. Эти меры обеспечат возможность проведения экспертизы ИИ-технологий, применяемых в образовательном процессе, восстановления хронологии решений со стороны ИИ и объективного анализа при изучении жалоб.

Для предупреждения и минимизации алгоритмической дискриминации рекомендуется ввести институт оценки воздействия ИИ на права человека и проводить ее до ввода ИИ-модели в эксплуатацию, а затем периодически в ходе эксплуатации. Оценка должна включать анализ исходных данных на предмет предвзятости, тестирование на выборках, репрезентативность данных по ключевым показателям, стресс-тестирование на негативных сценариях и меры смягчения последствий. Наряду с этим целесообразно обязательное проведение независимых проверок алгоритмов с привлечением специализированных экспертных центров и профильных ведомств (Минобрнауки, Роскомнадзор, Роспотребнадзор) для подтверждения соответствия стандартам. Следует также предусмотреть обязанность разработчика и оператора публиковать сводные результаты таких проверок в доступном виде, сохраняя при этом необходимые ограничения для защиты интеллектуальной собственности.

Практика обучения моделей на больших данных в сфере образования требует соблюдения правил обработки образовательных материалов, в том числе охраняемых авторским правом. Мы полностью разделяем следующее предложение К. Вач, К. Д. Дуонг, Дж. Эйдиса: «Для снижения рисков, связанных с отсутствием контроля качества информации, дезинформацией, глубокой подделкой контента и алгоритмической предвзятостью, рекомендуется использовать разнообразные и высококачественные предварительно утвержденные наборы данных и внедрять механизмы обратной связи с людьми» [48, p. 20]. Необходимо законодательное закрепление правил использования учебных и учебно-методических материалов для обучения ИИ. Это может быть реализовано через введение требований к обязательному получению лицензий у правообладателей, а также через развитие института освобождения от ответственности при условии соблюдения четких правил использования учебных материалов (например, для целей некоммерческого использования с обязанностью удаления оцифрованных копий по завершении процесса).

Параллельно должно быть признано право правообладателей на материальное вознаграждение при коммерческом использовании их результатов интеллектуальной деятельности для обучения ИИ-моделей. Для образовательных учреждений целесообразно предусмотреть специальные режимы: расширенные права использования учебных материалов, научных статей, монографий и диссертаций для обучения ИИ-систем, используемых самим вузом в образовательных и научно-исследовательских целях.

Международный коллектив исследователей – Л. Лескравет, Х. Вагнер, Ч. Юн и С. Шукла – приходит к заключению, что «сегодня требуется формирование культуры корпоративной ответственности, приведение в соответствие бизнес-целей с этическими стандартами в области ИИ, а также содействовать повышению осведомленности всех заинтересованных сторон. Крайне важно, чтобы лица, принимающие управленческие решения, прежде всего – политики, досконально знали специфику функционирования искусственного интеллекта, были достаточно образованны в этой сфере» [37, p. 202–203]. Соответственно, следует предусмотреть программы обязательного повышения квалификации для IT-персонала образовательных организаций, для лиц, отвечающих за организацию управления образованием.

Эффективная реализация нормативных мер требует институционального обеспечения: создание специализированного органа или уполномоченных подразделений в рамках действующих ведомств (например, межведомственная комиссия при Минобрнауки в координации с прокуратурой, Роскомнадзором, Рособрнадзором, МВД, ФСБ и ФСТЭК) для контроля за применением ИИ в образовании, лицензирования и сертификации ИИ систем, ведения реестра используемых платформ и моделей. Параллельно необходима сеть независимых экспертных центров для проведения аудитов, сертификации и научно-правовой экспертизы алгоритмических систем.

Взаимодействие с зарубежными государствами (например, Китаем) и обмен опытом позволят своевременно адаптировать лучшие методы регулирования ИИ в образовании и технические стандарты.

Следует подчеркнуть, что перечисленные рекомендации носят взаимодополняющий характер и предполагают комплексный подход: нормативное регулирование должно сочетаться с техническими стандартами, а также с мерами повышения правовой и цифровой грамотности субъектов образовательного процесса. Только такое системное сочетание мер обеспечит баланс между развитием инновационных образовательных технологий и защитой прав личности, сохранением доверия к системе образования и эффективным предотвращением правонарушений, связанных с применением ИИ.

Выводы

Без сомнений, ИИ-технологии могут повысить качество образования, однако стремление к данной цели сразу же сталкивается с необходимостью учитывать права обучающихся, преподавателей и иных субъектов образовательных отношений, обеспечивать безопасность данных. Эти требования обусловливают появление ключевых рисков, среди которых наиболее существенны: нарушение конфиденциальности и утечки персональных данных, отсутствие прозрачности и объяснимости действий ИИ, влияющие на оценки и доступ к образовательным ресурсам, неопределенные меры юридической ответственности при использовании ИИ-технологий, а также технические проблемы в виде непрогнозируемых уязвимостей алгоритмов.

Понимание и систематизация этих рисков может привести к формированию стратегических принципов при внедрении ИИ, включающих единообразие правоприменения, соблюдение баланса между технологическим прогрессом и целями образовательного процесса при сохранении базовых прав человека и гражданина. Следствием выработанных принципов становятся практические меры по снижению рисков: возможна оценка негативного воздействия на права человека до внедрения конкретной технологии, обеспечение технической защиты высокого уровня (шифрование, контроль доступа, резервное копирование, мониторинг и регулярные имитации атак на информационные ресурсы – пентесты), установление гражданско-правовых гарантий в контексте взаимодействия с поставщиками ИИ-технологий.

Для обеспечения качества применяемых ИИ-тех-нологий в образовании требуется ввести регулярные внутренние и внешние проверки ИИ-систем, нормативно закрепить процедуры обжалования решений автоматизированных систем в образовательном процессе, а также назначить лиц, ответственных за внедрение, безопасность и правовое соответствие ИИ-технологий, поскольку только четкое распределение ответственности позволит оперативно реагировать на инциденты и предотвращать их появление в будущем.

Эффективное применение указанных мер невозможно без повышения квалификации и профессиональной переподготовки педагогов. Очевидно, что проведение тренингов для преподавателей, административного состава, в том числе и IT-персонала образовательного учреждения, по работе с ИИ и контролю за ним поможет избежать существенной доли проблем. Информирование обучающихся и их законных представителей о применении ИИ, наличие возможностей обжалования решений ИИ, а также активное вовлечение педагогов в оценку применяемых ИИ-технологий позволит гармонизировать процессы использования искусственного интеллекта.

Следует установить и закрепить показатели образовательной эффективности применения ИИ, оценить влияние на мотивацию обучающихся и обеспечить равный доступ, скорректировать практику использования ИИ на занятиях. Параллельно образовательные организации должны выстраивать взаимодействие с органами власти, экспертными центрами и профессиональным научным сообществом для обмена опытом, знаниями и в целях участия в разработке новых государственных стандартов.

На практике внедрение ИИ в образовании следует проводить поэтапно: разработать внутреннюю политику, провести оценку рисков, выбрать поставщиков и реализовать пилотные проекты, обеспечить технические меры защиты, обучить персонал и лишь затем информировать обучающихся о внедрении новых технологий на основе ИИ, после – внедрить мониторинг, аудит и осуществить корректировку на основе получаемых результатов. В итоге ответственно и целенаправленно внедряемые ИИ-решения в образовании, опирающиеся на нормативно-правовую базу и технические меры безопасности, могут минимизировать риски внедрения данных технологий и максимизировать пользу для образовательного процесса.