Искусственный интеллект в образовании: чего опасаться, что использовать?

Lomonosov Moscow State University, Moscow, Russia, ,

Несмотря на огромные политико-социальные потрясения, 2023 г. оказался знаковым в том, что касается интереса к появлению и особенно проникновению искусственного интеллекта (ИИ) практически во все сферы человеческой деятельности. 30 ноября 2022 г. впервые в свободный доступ была запущена большая языковая модель GPT-4. Это событие привлекло огромное внимание, в том числе и педагогической общественности, вызвав совершенно противоположные эмоции – от страха и желания запретить до полного восхищения.

Полагаем, что сегодня в методической науке появилась новая научная проблема: осознать современный технологический контекст обучения, проанализировать и понять, чего, собственно, необходимо опасаться, а чем можно с успехом воспользоваться в рамках образовательного процесса в отечественных учебных заведениях.

Отметим, что современная образовательная система оказалась не готова к ситуации с появлением в свободном доступе моделей искусственного интеллекта, поскольку этот факт оказался совершенно неожиданным. Если несколько лет назад стоял вопрос о целесообразности/нецелесо-образности использования цифровых технологий в обучении иностранным языкам, то сегодня вопрос об использовании ИИ-моделей уже не возникает, они существуют и легко доступны современным учащимся. Таким образом, система образования должна очень быстро выработать образовательную стратегию в новых технологических условиях.

Прежде всего, педагогам необходимо понять, что такое искусственный интеллект. Эти знания становятся крайне важными в области образования, поскольку человечество стремительно двигается в неизвестном на данный момент направлении создания искусственной цифровой личности, а наши учащиеся уже сегодня живут и учатся в мире ИИ.

В словарях понятие «искусственный интеллект» определяется следующим образом:

• •    искусственный интеллект (ИИ) (рус.) – метафорическое понятие для обозначения системы созданных людьми средств, воспроизводящих определенные функции человеческого мышления¹;

• •    intelligence artificielle (IA) (фр.) – набор теорий и методов, применяемых с целью создания машин, способных имитировать человеческий интеллект²;

• •    artificial intelligence (AI) (англ.) – это разновидность компьютерной технологии, которая связана с тем, чтобы заставить машины работать разумно, аналогично тому, как работает человеческий разум³.

Как видно из приведенных выше примеров, в российском, французском и английском словарях искусственный интеллект определяется как моделирование когнитивных функций человека на основе компьютерных технологий.

По словам специалистов в данной области, а именно Владимира Васильева, исследователя данных, академического руководителя онлайн-магистратуры Skillfactory и ТГУ «Анализ естественного языка в лингвистике и IT», искусственный интеллект, или, как предпочитают его называть специалисты, Data Science , основан на трех основных областях знаний в науке о данных:

• •    Natural Langage Processing – обработка естественного языка;

• •    Machine Learning – классическое машинное обучение;

• •    Computer Vision – компьютерное зрение⁴.

На принципах искусственного интеллекта основаны большие языковые модели (современные GPT-подобные языковые модели, как, например, GPT-4), которые называют генеративными нейросетями , их основным элементом является механизм внимания ( Attention Mechanism ). Это позволяет модели фокусироваться на наиболее важных элементах последовательности текста при его обработке. Таким образом, отвечая на заданный вопрос, языковая модель не пытается дать лучший ответ, она просто генерирует наиболее подходящую последовательность слов в ответе в соответствии с последовательностью слов в вопросе.

Метафорическое мышление для ИИ-моделей вовсе недоступно, они могут лишь использовать статистику употребления слов и оборотов. Причинно-следственные связи предложений в тексте также не принимаются ими во внимание, система просто генерирует последовательность предложений. Подчеркнем, что давать ответ на вопрос – это свойство на данный момент исключительно человеческого интеллекта. В связи с этим в области, связанной с искусственным интеллектом, даже появился особый термин – галлюцинации – генерирование чат-ботами не соответствующей действительности информации⁵.

Большие языковые модели должны быть обучены, и делается это на основе той информации, которая находится в настоящий момент в свободном доступе. Именно поэтому ответы, генерируемые GPT-подобными моделями, могут быть либо неточными, либо вовсе неверными. Иногда они, как было отмечено выше, «выдумывают» несуществующие факты. Владимир Васильев отмечает также, что большие языковые модели на данный момент не умеют делать сложные логические выводы, что свойственно экспертам в определенных областях, они не способны также сопоставлять множество фактов и специфических знаний. Все это повышает риски их использования в таких областях человеческой деятельности, как, например, медицина, образование или юриспруденция.

Что касается вопроса лингводидактического потенциала, то здесь важно учитывать цель иноязычного образования, которая заключается в формировании Homo moralis (человека духовного), овладевшего иноязычной культурой в качестве содержания обучения и способного вести диалог на иностранном языке с опорой на собственную культуру и культуру собеседника (Пассов, 2012). В новой версии «Общеевропейских компетенций владения иностранным языком 2020»¹ также смещается акцент с изучения языка как системы на его использование в качестве инструмента коммуникации. В рамках образовательного процесса язык стал рассматриваться не только как объект изучения, но и как инструмент для коммуникации в реальном и цифровом пространствах. Были выделены четыре составляющие коммуникации:

• –    рецепция во время коммуникации;

• –    продуцирование во время коммуникации;

• –    взаимодействие во время коммуникации;

• –    посредничество во время коммуникации (Кащук, 2024).

Директор по развитию технологий искусственного интеллекта компании «Яндекс» Александр Крайнов отмечает, что «нейросеть не заменит людей в общении, размышлении и умении договариваться»². То, что специалист в области искусственного интеллекта назвал «общением, размышлением и умением договариваться», в «Общеевропейских компетенциях владения иностранным языком 2020» соответствует двум из четырех основных функций языка – «посредничеству» и «взаимодействию». Таким образом, изучение иностранного языка исключительно на основе возможностей искусственного интеллекта (который обучают, обрабатывая естественный язык, рассматривая естественный язык как модель и, более того, как последовательность слов) в настоящий момент имеет определенные лимиты и кажется маловероятным, поскольку в процессе обучения иностранному языку мы рассматриваем язык не только как языковую модель, но и как средство коммуникации .

Что касается коммуникации, то опыт практического использования GPT-подобных моделей показывает определенные сложности в этой области. Полагаем, что они могут быть связаны с невозможностью понять двойственность, недосказанность, намеки и т. п., свойственные человеческому общению в эпоху до появления искусственного интеллекта. Интересную мысль высказал по этому поводу философ алжирского происхождения Идрис Аберкан: «Урок Дарвина заключается в следующем: выживает отнюдь не самая большая, самая сильная или умная особь, выживает особь, умеющая приспосабливаться, то есть самая гибкая. <…> Каждый раз, когда вы заменяете способность приспосабливаться на супероптимизацию, вы делаете человечество не более умным, а гораздо более глупым. Если вы супероптимизированы, вы ригидны, а если вы ригидны, вы уже немного мертвы. <…> Если современные машины так плохо справляются с двойственностью, это потому, что они используют последовательность всего из двух цифр – 0 или 1: ток идет или нет» (Aberkane, 2021: 28‒30).

Изучение языка, как модели, с помощью ИИ-систем (например, чата GPT-4) возможно. Как показала практика (а на данный момент мы находимся в эмпирической стадии изучения дидактического потенциала генеративных языковых моделей), интеграция возможностей искусственного интеллекта в систему иноязычного образования вызывает определенный интерес как у учащихся, так и у преподавателей иностранных языков, поскольку это ново и срабатывает методический принцип новизны . Отметим, что конкретных педагогических технологий интеграции возможностей искусственного интеллекта в систему иноязычного образования на сегодняшний день мало, философские размышления превалируют. На страницах журнала «Иностранные языки в школе» (Кащук, 2023) мы описали наш опыт интеграции чата GPT-4 в процесс обучения французскому языку студентов и аспирантов факультета государственного управления МГУ имени М.В. Ломоносова (уровень владения французским языком не ниже В2). На практических занятиях использовались такие возможности чат-бота, как:

• –    упрощение/усложнение текста . Чату GPT-4 можно дать задание упрощать текст до тех пор, пока уровень текста не станет соответствовать уровню владения иностранным языком учащихся и станет доступным для понимания. Возможен и обратный процесс: чат-боту задают вопрос, и он генерирует текст в соответствии с последовательностью слов в вопросе или «расширяет» данную ему информацию до нужного объема;

• –    деление текста на смысловые части . Как показала практика, чат GPT-4 неплохо справляется с выделением смысловых частей в сложных (например, газетных) текстах;

• –    выделение ключевых слов . С определением ключевых слов в тексте у GPT-подобных языковых моделей есть проблема, поскольку компьютерное зрение, заложенное в алгоритм генерирования текстов, направлено не столько на «понимание» смысла написанного, сколько на восприятие последовательности слов в предложениях. Таким образом, в ключевые могут попасть не очень важные в смысловом плане, но часто встречающиеся в тексте, слова;

• –    генерирование текстов в прозе и стихах, подражание авторскому стилю . На занятиях со студентами факультета государственного управления было отмечено, что особый интерес вызвала возможность трансформации чатом GPT-4 газетной статьи в текст, написанный в стиле определенного поэта или писателя. Несмотря на то, что данный вид деятельности носил больше развлекательный характер, лексический материал газетной статьи был учащимися успешно усвоен.

Основной вывод, который был сделан преподавателем после данных видов деятельности, – работа чат-бота небезупречна, сгенерированные тексты нуждаются в тщательной проверке и корректировке, но использование ИИ-моделей на занятиях по иностранным языкам повышает мотивацию учащихся и помогает усвоению учебного материала. Хотелось бы подчеркнуть и тот факт, что после изучения французского языка с использованием чата GPT-4 в аудитории студентами был сделан вывод о необходимости опоры на собственный, а не искусственный интеллект. Полагаем это важной составляющей для борьбы с академическим мошенничеством.

Кроме того, специалисты выявили еще один существенный изъян чата GPT-4: алгоритм его работы создан таким образом, что он не раскрывает источники информации, на основе которых генерирует ответы на вопросы. Именно поэтому нет большого доверия к его ответам. Более того, в результате практического использования чата GPT-4 французские специалисты пришли, например, к следующему выводу: «Очень быстро становится понятным, что речь идет о машине аппроксимации. Чаще всего ее высказывания не являются полностью ложными, но и не совсем правдивы. Это закономерно, поскольку она создавалась не для изложения истин, а для создания правдоподобных текстов на основе модели. Другими словами, когда она не несет полную чушь, она выдает общие расплывчатые фразы»1.

Что касается проблемы академического мошенничества в результате использования учащимися возможностей генеративных нейросетей, то она не должна пугать специалистов в области образования, поскольку старания учащихся выдать ответы искусственного интеллекта за свои очень заметны (однообразие грамматических конструкций, использование оборотов, не свойственных естественной речи, стилистические неточности и ошибки и т. п.). Практика показала, что проверенные не одним столетием методы обучения иностранным языкам в эпоху искусственного интеллекта остаются столь же эффективными, поскольку процесс формирования знаний в результате использования когнитивных способностей (анализа и синтеза полученной информации) не изменился.

Вместе с тем сегодня произошли значительные изменения в доступности информации. Интересно, что в эпоху искусственного интеллекта, как и в эпоху господства в середине прошлого века аудиовизуального и аудиолингвального методов обучения иностранным языкам, вновь встает вопрос соотношения информации и знаний. Приверженцы этих методов основывали свои исследования на теории бихевиоризма в психологии и рассматривали человеческий мозг как «черный ящик», поскольку происходящие в нем когнитивные процессы к тому времени еще не были изучены и понятны. Таким образом, вся получаемая информация приравнивалась к знаниям. Язык подавался в структурах, которые просто заучивались наизусть. Сегодня мы знаем, что информация переходит в знания лишь в результате когнитивных процессов человеческого мозга – анализа и синтеза. В эпоху господства цифровых технологий ничего не изменилось. Именно информация стала легкодоступной, а знания по-прежнему необходимо формировать в рамках подготовки учащихся к будущей профессиональной (и не только) деятельности.

В наши дни разработки в сфере искусственного интеллекта вновь упираются в проблему «чёрного ящика», поскольку пользователям непонятен алгоритм работы генеративных языковых моделей и доверие к ним начинает ослабевать. Эта проблема требует адекватных решений, одним из которых является создание объяснимого, понятного каждому интеллекта ‒ Explainable AI (XAI)² . Исследования в данной области развиваются столь стремительно, что терминологический аппарат не успевает формироваться. Мы в нашей статье предложим русифицированную версию XAI – ОИИ (объяснимый искусственный интеллект).

Как отмечает специалист в области безопасности искусственного интеллекта Роман Ямполь-ский3, если человечество привыкнет безоговорочно доверять ответам ИИ-систем без объяснения причин, то оно не сможет гарантировать, что эти системы не будут давать неправильные или манипулятивные ответы. Это очень опасно, поскольку на сегодняшний день способность человечества создать ИИ-системы превышает способность их контролировать, что может стать со временем экзистенциальной угрозой (Yampolskiy, 2024). Кроме того, алгоритм работы по принципу «чёрного ящика» значительно удешевляет процесс обучения искусственного интеллекта, поскольку не нужно раскрывать контент, на основе которого происходит обучение, и можно использовать сразу большой массив непроверенных данных, как это происходит сегодня с GPT-подобными языковыми моделями. Более того, компании, занимающиеся разработкой искусственного интеллекта, затрудняют разработку средств защиты от угроз, которые исходят от ИИ-систем.

Создание объяснимого искусственного интеллекта (ОИИ) стало новым шагом и направлением в развитии ИИ-систем. Специалисты в данной области пытаются создавать модели, алгоритм работы которых понятен пользователям, и более того, модели, которые способны сами давать понятные объяснения своих действий и принимаемых решений, что, безусловно, повысит доверие пользователей (Решетникова, 2024). Внедрение ОИИ становится обязательным требованием на уровне законодательства. Европарламент, например, принял 24 января 2024 г. закон AI Act, устанавливающий правила и требования для разработчиков ИИ-систем1.

В 2024 г. в результате появления в свободном доступе сервисов искусственного интеллекта мы попали в интересный временной промежуток «сегодня/завтра», который порождает в системе образования множество философских, дидактических и экзистенциальных вопросов, ответы на которые нам еще предстоит найти.

Дени Кристоль, французский мыслитель, педагог, высказывает интересную мысль о том, что стремительно ворвавшийся в систему образования чат GPT выявил «педагогический долг» системы образования перед современными учащимися. Как мы отметили выше, GPT-подобные языковые модели обучаются на уже имеющихся в свободном доступе современных, но стремительно устаревающих или вовсе устаревших данных. Запрещая использование чата GPT-4 в образовании из-за страха академического мошенничества учащихся, образовательная система показывает свою слабость: предлагая учащимся найти ответы на вопросы из прошлого (что с легкостью делает чат GPT), готовит ли она их к будущему, которое наступает гораздо быстрее, чем мы можем себе представить? Насколько система образования сегодня адекватна вызову, связанному с навязанным нам (никто его не желал и не предвидел) новым образовательным пространством, далеко ушедшим за рамки учебного класса в цифровое, стремительно развивающееся пространство (Cristol, 2024).

Подводя итог сказанному, отметим:

• –    в настоящее время вопрос целесообразности/нецелесообразности использования ИИ-моделей в системе образования вообще и иноязычного, в особенности, уже не стоит, поскольку свободный доступ к GPT-подобным языковым моделям – это реальность, которую нужно понять и принять;

• –    алгоритм, на основе которого работают генеративные языковые модели, далеко не безупречен, но он постоянно совершенствуется, поэтому необходимо следить за стремительной эволюцией технологического контекста обучения и вносить своевременные коррективы в учебный процесс;

• –    четко работающих педагогических технологий интеграции GPT-подобных языковых моделей в систему иноязычного образования на данный момент нет, но есть эмпирический опыт, который нужно расширять и анализировать;

• –    организация процесса иноязычного образования с интеграцией возможностей GPT-подобных языковых моделей под контролем преподавателя позволяет не только повышать мотивацию учащихся и эффективность учебного процесса, но и бороться с академическим мошенничеством, показывая изъяны алгоритма языковых генеративных моделей и повышая самооценку учащихся.