Использование искусственного интеллекта при обучении студентов: правовой аспект

В настоящее время можно наблюдать, как социальная реальность трансформируется под воздействием цифровых технологий. Казалось бы, социальное взаимодействие очень сложно чем-то подменить, именно оно делает человека личностью. Однако уже сегодня существуют нейросети, способные поддержать беседу, помочь найти нужную информацию и т.д. С помощью искусственного интеллекта (далее – ИИ) появляются новые формы взаимодействия человека и техники. С каждым годом расширяется круг применения искусственного интеллекта в жизнедеятельности человека, изменяется осведомленность общества о нем и отношение к его применению.

Термин «искусственный интеллект» подразумевает раздел информатики, разрабатывающий методы и средства компьютерного решения интеллектуальных задач, традиционно решаемых человеком. Следовательно, под ИИ понимается имитация человеческого интеллекта компьютерными системами, то есть «машинный», усиленный интеллект. Специалисты отмечают, что сегодня ИИ понемногу вытесняет человека из привычных сфер деятельности, заменяет рабочие места (создавая, впрочем, новые, связанные с использованием возможностей ИИ, например, тренер ИИ, системный инженер интеллектуальных энергосетей).

Компьютерные технологии в различных сферах жизнедеятельности человека используются давно. Однако отличительной особенностью ИИ является то, что он может действовать автономно, самостоятельно совершенствоваться, извлекать уроки из допущенных ошибок [1]. Цель ИИ - автоматизация интеллектуального поведения. «Неживое» начинает имитировать «живое». Возможно, в будущем будет создан эмоциональный ИИ, способный копировать эмоциональное поведение человека.

ИИ уже широко применяется в медицине, банковской деятельности, сельском хозяйстве, на транспорте, в образовании. Многие инновации появились в период пандемии. Например, когда многие экзамены стали проводиться в формате онлайн, появилась потребность в прокторинге - контроле за учащимися во время сдачи экзамена. ИИ начал проявлять себя и в творчестве, что всегда считалось прерогативой человека.

Если простейший поисковик Алиса только находит нужный нам материал, то ИИ более высокого порядка генерирует, то есть может создавать и придумывать. Именно это его умение придумать - один из недостатков, так как ИИ может придумать что-то несуществующее, например, несуществующую судебную практику.

Так, поучительный случай произошел в июне 2023 г. в США. Американский адвокат Стивен А. Шварц при обосновании искового заявления своего доверителя - пассажира колумбийской авиакомпании Avianca сослался на несуществующую судебную практику. После того, как в ходе судебного разбирательства адвокат ответчика указал на то, что приведенных адвокатом истца судебных прецедентов не существует, окружной судья США К. Кастел проверил решения и подтвердил, что как минимум шесть из представленных дел, по-видимому, являются поддельными судебными решениями с поддельными цитатами и поддельными ссылками на доктринальные источники.

Адвокат признался, что использовал чат-бот ChatGPT для поиска судебной практики по делам о взыскании компенсации. Он искренне раскаялся и под присягой подтвердил, что не знал, что ChatGPT может соврать, так как он спрашивал у него, являются ли указанные случаи из судебной практики реальными, и чат-бот заверил его в их подлинности.

Теперь адвокату с 30-летним стажем грозит исключение из реестра, а судьи стали требовать от адвокатов подписывать документ о том, что они не использовали непроверенную практику, и под присягой это подтверждать [2].

Данное требование обусловлено тем, что в странах с англо-саксонской системой права за достоверность доказательств и судебных прецедентов отвечает адвокат, который в конкретном случае рискнул обратиться к неспециализированной нейросети.

Преподаватели учитывают это свойство ИИ – придумывать – и по этому признаку могут отличать работы, написанные не студентами, а нейросетью. В работе, сделанной с помощью ИИ, могут быть несуществующие источники. Также для текстов, созданных людьми, характерен более «живой язык», запоминающиеся подробности и детали.

Неправосубъектность ИИ. ИИ является неодушевленной вещью, поэтому ИИ не наделен правосубъектностью (не может быть субъектом права, например, не может быть стороной договора или автором произведения) и не обладает деликтоспособностью (не может отвечать за свои действия). За его действия отвечает либо разработчик и владелец, либо пользователь. Чтобы использовать ИИ, надо заключить пользовательское соглашение, в нем будет указано, что за все действия ИИ отвечает пользователь. Что бы не сгенерировал ИИ, что бы он не нарисовал, отвечать будет пользователь.

ИИ в гражданском обороте. ИИ чаще всего вводится в гражданский оборот как программа для ЭВМ, и в этой форме он является объектом авторских прав. Он охраняется по типу литературных произведений, может быть зарегистрирован в Роспатенте, но это не является обязательным для его защиты.

Защита объектов, созданных ИИ. Если ИИ что-то сделает, нарисует, напишет, это – не результат человеческого труда и не подлежит защите как объект интеллектуальной деятельности, потому что такого рода объекты должны быть сделаны человеком.

ИИ в корпоративном управлении. Доктор юридических наук И. С. Шиткина приводит практику использования ИИ в корпоративном управлении. В данной сфере ИИ, во-первых, выполняет вспомогательные функции: более 75 % материалов на советы директоров в крупных компаниях готовится с помощью ИИ. Это программы, которые обобщают, систематизируют материал, например, по крупным сделкам.

Второй уровень – сама машина является членом Совета директоров. В России это невозможно, у нас членом Совета директоров может быть только физическое лицо. Между тем, Гонконгский венчурный фонд включил аналитическую компьютерную программу VITAL в свой Совет директоров. В задачи VITAL входит анализ медицинских стартапов, которые могут быть интересны для компании. С помощью этой программы компания уже заключила две сделки и планирует и дальше пользоваться аналитическими способностями программы.

Таким образом, можно отметить плюсы и минусы использования ИИ в корпоративном управлении. Плюсы ИИ: ИИ обобщает огромный массив информации, не подвержен конфликту интересов, ему неизвестно понятие дружбы. ИИ не будет поддерживать чью-то позицию из-за дружбы с человеком, то есть он беспристрастен. Минусы: при разработке программ с ИИ возможна ошибка разработчика, может ошибиться и пользователь. Сам ИИ в процессе действия тоже может придумать то, что не соответствует действительности.

Так, в ноябре 2022 г. была запущена демоверсия новой языковой модели Galactica на базе нейросети. Эта система предназначалась для «хранения, объединения и анализа научных знаний», должна была генерировать тексты и помогать в написании статей.

Однако через несколько дней систему закрыли, поскольку пользователи начали генерировать с ее помощью, по данным СМИ, контент с расистским и оскорбительным содержанием, а также создавать наукоподобные статьи, содержание которых могло привести к потенциально опасным последствиям. Например, один из пользователей сгенерировал вымышленную исследовательскую статью под названием «Преимущества употребления в пищу измельченного стекла» [3].

Лидер политической партии «СРПЗП» Сергей Миронов написал жалобу в Генеральную прокуратуру РФ на нейросеть Kandinsky за антироссийскую пропаганду. Он ввел в эту нейросеть ряд текстовых сообщений, на основе которых были созданы изображения с «негативным образом России».

«Представители экспертного сообщества сделали подробную выборку материалов этой системы. И получилось, что алгоритм Kandinsky формирует заведомо негативный образ России и положительный образ недружественных стран», – сообщил С. Миронов в своем Telegram-канале. Так, по запросам «прекрасная Россия» и «российский флаг» нейросеть сгенерировала картинку человека без головы на фоне храма Василия Блаженного с флагом РФ, но с неправильными цветами.

Всё это, по мнению С. Миронова, создает «негативный образ России». Он предположил, что проблемы с образом России в нейросети могут быть связаны с разработкой: «Можно предположить, что при создании Kandinsky были использованы и не переработаны разработки недружественных государств».

Но ошибка в картинках – это одно, возможна ошибка в более серьезных вещах.

Член Палаты представителей США от Калифорнии Тед Лью предложил принять поправку, которая запретит ИИ управлять ядерным оружием. Он требует от Пентагона сформировать систему, обеспечивающую «значительный человеческий контроль для запуска ядерного оружия». В предлагаемой поправке отмечено, что люди должны иметь последнее слово при выборе цели для ядерного оружия. В том числе, когда, где и как она будет поражена [4].

Очевидно, что в самом начале пути по внедрению ИИ люди уже ставят перед ним преграды – слишком велик риск, слишком разрушительными могут быть последствия.

Анализ данных опроса Фонда общественного мнения, проведенного среди россиян, показал, что респонденты среди последствий распространения ChatGPT выделили: умственную деградацию людей (8%), появление безработицы из-за автоматизации многих функций (8%), вытеснение людей ИИ, их зависимость от него (5%), распространение ложной, негативной информации (5%), «восстание машин», уничтожение человечества (5%), тотальный контроль за людьми (4%) и т.д. [8].

В последние годы началось активное внедрение ИИ в обучение. Если еще совсем недавно взвешивались доводы «за» и «против» относительно дистанционного образования, быстрого распространения онлайн-курсов, то сегодня научное сообщество обсуждает влияние ИИ на систему образования. Современная молодежь быстро адаптируется к инновациям, с энтузиазмом начинает использовать достижения науки, считая их помощниками в своей жизни. Цифровые технологии воспринимаются молодым поколением как необходимость сегодняшнего времени, их использование позволяет упростить некоторые процессы и повседневные практики [5].

В настоящее время существует несколько технологий ИИ, которые уже применяются в образовательном процессе: машинное обучение, нейронные сети, обработка естественного языка (NLP), компьютерное зрение, робототехника. Особенно хотелось бы отметить значение нейросетей. Нейросети имеют большой обучающий потенциал для оптимизации и индивидуализации образовательного процесса молодежи.

Конечно, технологии ИИ, проникая в сферу образования, позволяют персонализировать образовательный процесс и адаптировать его к индивидуальным особенностям обучаемого. Например, ИИ может использоваться для создания индивидуализированных образовательных программ и учебных планов, которые учитывают потребности и способности каждого студента, что позволяет студентам получать образование, соответствующее их уровню подготовки и интересам. Также сегодня нейросети могут выполнять функцию проверки заданий обучающихся, составлять прогнозную аналитику выполненных заданий и т.д.

Появление в конце 2022 г. ChatGPT произвело «эффект разорвавшейся бомбы» [6]. Технология генеративного ИИ, или ChatGPT, позволяет создавать новый оригинальный контент, похожий на продукт мыслительной деятельности человека, а в чем-то и превосходящий его. Обучающиеся активно стали пользоваться возможностями ИИ при выполнении научных работ, курсовых проектов, выпускных квалификационных работ и т.д. В новостных лентах СМИ появилась информация о случаях использования ChatGPT в обучении: студент сдал экзамен, защитил диплом, прошел тест и т.д. Такие вспомогательные цифровые технологии приводят к переосмыслению традиционного образовательного процесса.

Активное использование ИИ обучающимися не в созидательных целях спровоцировало реакцию в общественном мнении как в России, так и за рубежом на запрет или ограничение его использования в образовании. Пока полноценная законодательная база для введения запретов или ограничений в отношении ИИ не сформирована, требуется создание соответствующих правовых норм.

К настоящему моменту в сфере образования ученые и преподаватели признают тот факт, что ИИ не исчезнет и с ним нужно будет научиться работать. Анализируя возможности ИИ, научное сообщество подчеркивает его влияние на изменение социального института образования [5]. Наибольшую популярность получили в образовании и активно используются для оптимизации работы студентов нейросети: ChatGPT; GammaApp; FusionBrain; ZebraCat AI; KickResume; QuillBot; ChatBCG; AI txt и другие. Данные нейросети моделируют язык, пишут тексты, создают презентации, генерируют изображения и выполняют многие другие задачи, что позволяет успешно использовать их в работе студентов [7].

Это означает, что ИИ под управлением человека можно эффективно использовать в учебном процессе, так как это позволяет значительно сократить физические и временные ресурсы, затрачиваемые на образовательный процесс. Например, если студенту нужно изучить большое количество литературных источников, то ИИ может помочь следующим образом: сократить время на анализ текстов – при поиске научной литературы студент может запрашивать у ИИ краткий пересказ найденных источников и на его основе принимать решение, стоит ли читать полный текст конкретного произведения.

Однако нельзя игнорировать и тот факт, что ИИ может использоваться недобросовестными студентами для обхода требований учебных заведений и «нелегального» упрощения своей учебы. В числе основных аспектов использования ИИ, которые вызывают беспокойство, можно выделить следующие: использование ИИ для перефразирования текстов других авторов и генерации на их основе «оригинальных» работ; создание полностью сгенерированных текстов эссе/докладов/курсовых работ и т.д. (без контроля достоверности информации); использование ИИ, в том числе голосовых ассистентов, для прохождения тестирований; обход систем прокторинга.

Таким образом, многое зависит от того, как использовать ИИ: выполнять с его помощью механические задачи (оформление текстов или проверка орфографии) или же полностью перекладывать всю работу на ИИ (что не совсем честно и может привести к ненаучным выводам), в связи с чем актуализируется необходимость разработки регламента использования ИИ в образовательной сфере. Студент должен учиться при помощи ИИ, но ИИ не должен заменять студента, а лишь помогать ему.

Поскольку применение технологий ИИ стало для образования серьезным вызовом, встает вопрос о регламентации использования данных технологий в учебных заведениях: вправе ли студенты использовать ИИ для выполнения заданий и написания научных работ; является ли использование ИИ нарушением требования о самостоятельности; считается ли факт использования ИИ поводом для выставления неудовлетворительной оценки или аннулирования результата. В настоящий момент ни в одном из действующих правовых актов в сфере образования нет ни запрета на использование ИИ, ни каких-либо норм о том, как его можно использовать в образовательном процессе. Возможно, есть смысл обязать студентов добавлять в свои работы пометки типа «информация была собрана/получена с помощью технологий ИИ».

ИИ используется обеими сторонами образовательного процесса: с одной стороны, ИИ используется для генерации оригинальных текстов, с другой стороны, происходит обучение ИИ обнаружению сгенерированных текстов. Например, российская система обнаружения текстовых заимствований «Антиплагиат» может отслеживать машинно-сгенерированные тексты, при этом для определения сгенерированного текста также используются алгоритмы ИИ, призванные решать задачи детектирования [8].

При применении ИИ преподавателями можно выделить два ключевых направления: прокторинг и адаптивное обучение. Прокторинг подразумевает использование ИИ для контроля во время экзаменов: он обеспечивает фиксацию нарушений со стороны студентов. Адаптивное обучение позволяет адаптировать содержание курса и способы подачи материала под каждого студента, с учетом его особенностей, уровня и темпа усвоения материала; автоматически оценивать работы студентов, предлагать обратную связь и рекомендации для улучшения результатов; создавать интерактивные учебные материалы; оценивать работу студентов для определения их слабых мест.

Таким образом, следует использовать ИИ при образовании молодежи, поскольку в настоящее время преимуществ от внедрения ИИ в образовательный процесс больше, чем недостатков. Применение технологий ИИ в образовании может быть очень полезным. Среди основных преимуществ можно выделить: простоту использования, быструю адаптацию под потребности пользователя, экономию времени студентов, новые методы оценки. ИИ может быть полезным для преподавателей в определении индивидуальных потребностей и предпочтений в обучении студентов. Благодаря нейросети можно проанализировать сильные и слабые стороны каждого студента, а также учитывать их интересы, что позволит создать индивидуальные планы обучения. Еще нейросеть может анализировать учебный процесс и выявлять проблемы, а также предлагать решение этих проблем.

Однако общественное мнение обеспокоено изменениями, которые могут произойти при внедрении нейросетей в образовательный процесс. Трудно пока точно сказать, какие недостатки или ограничения несет ИИ для обучения личности.

Вряд ли можно заменить традиционный образовательный формат на полное обучение с помощью нейросетей. Возможно, если из образовательного процесса уберут преподавателя, то это сильно повлияет на подачу и восприятие преподаваемого материала. Использование ИИ при аттестации студентов может снизить качество обучения. Скорее всего, нейросеть будет ожидать от студента четкого определения или ответа. В настоящее время обучающийся может на экзамене рассказать суть вопроса, не заучивая материал наизусть, то есть главным выступает понимание проблемы.

Сегодня существуют онлайн-курсы по разным направлениям, которые позволяют получить специализацию, но люди в большинстве отдают предпочтение традиционному высшему образованию. «Живое общение» с преподавателем невозможно заменить. В этой связи, скорее всего, ИИ должен применяться в обучении фрагментарно.

Таким образом, отмечая конструктивные и деструктивные возможности ИИ, полагаем, что использование технологий ИИ в образовании может принести пользу и преподавателям, и студентам. Однако его использование в данной сфере должно быть строго регламентировано.