Искусственный интеллект и проблемы медиаобразования

Со времен Джона МакКарти и Марвина Мински, ученых, которые дали старт изучению проблем искусственного интеллекта, прошло более полувека, однако широкое развитие этой темы мы наблюдаем в последнее десятилетие. Если раньше модели нейросетей упрощали предлагаемую учёными архитектуру, потому что возможности технологий не позволяли ее воплотить, то сейчас мы, напротив, моделируем сложнейшие процессы, по дороге обретая новые знания об этих процессах.

«Машинное мышление»: степень доверия

Как выглядят современные нейросети с точки зрения теоретиков и практиков – это отдельный вопрос. Мы сосредоточимся на практических целях их применения. Как ни странно, несмотря на то, что интеллект чаще всего определяют как психическое явление, для программистов имитацией интеллекта становится набор логических процессов, который далеко не соответствует даже узкому служебному понятию интеллекта. Терминология становится нечеткой, современное информационное поле диктует некие общие подходы, где каждый может трактовать термин согласно своему пониманию, а в итоге программисты выстраивают психологический процесс, не имея представления о работе мозга, которую они имитируют. [1]

У нас нет точных определений понятий «обучение», «развитие», «образование», «мышление», «критическое мышление» и многих других, которые в моделях ИИ предполагают конкретный набор алгоритмов. Исследователи уже неоднократно признавали, что в нейросетях могут происходить неуправляемые пока процессы усложнения обработки информации, которые иногда приводят к парадоксальным для внешнего наблюдателя итогам и выводам. В итоге возникает эффект, который называют «самообучением», «самообразованием» нейросетей.

Так, активно обсуждали случай, когда перед ИИ в виртуальной реальности была поставлена задача уничтожить дрон, а потом оператор стал вводить дополнительные задачи в противоречие первой (пока что не уничтожать дрон). В итоге нейросеть попыталась убрать препятствие к исполнению базовой цели – проявила готовность «убить» оператора. По открытым данным это произошло в 2018 году, в процессе имитации военных учений в США, однако данные расходятся, и точных подтверждений этого случая нет. Понятно, что секретность многих исследований может вводить свои коррективы, однако если это фейк, то очень показательный.

Научная фантастика второй половины ХХ века предлагала нам много вариаций действий ИИ, когда различные варианты логики приводили к гибели человека или целого мира. Одни читатели считали это предостережением, другие в дискуссиях высказывались о том, что человек обязательно найдёт выход – будет «разумно» программировать компьютеры будущего. Но – время пришло, а мы так и не сформулировали, что такое «разумно», но уже ставим нейросетям реальные и сложные задачи, а главное, надеемся, что решение этих задач не приведет нас в информационный, этический или моральный тупик.

Еще Марвин Мински предостерегал от излишнего оптимизма, предрекая, что мы никогда не сможем даже имитировать работу человеческого мозга, где более ста миллиардов нейронов и триллиарды связей, которых мы себе не представляем! Однако несколько революций в мире процессоров привели к тому, что в нашем распоряжении сейчас огромные возможности для новых теорий и практик, просто немыслимые еще 10 лет назад. Но – как и раньше – надо очень точно ставить цели. Что же происходит сейчас?

Отметим, что современные нейросети по-прежнему еще очень далеки даже от элементарной имитации человеческого мышления [2]. Человеческий мозг работает на не вполне известных нам принципах, использует массу логических механизмов (в том числе схемы так называемой «нечеткой логики»), способен переключаться и этим помогать решению основной задачи (а в принципе мозг многозадачен настолько, что нам еще долго подбираться к его нейродинамической модели) [3].

Есть и социальные аспекты – недоверие к «машинному мышлению», вложенный через искусство образ ИИ как возможного уничтожителя человечества (история терминаторов и модель «Скайнет»); есть прогнозы о гибели профессий, связанных с написанием оригинальных текстов – журналистов, писателей. Но при этом современные разработчики ИИ готовы широко внедрить промежуточные итоги своей работы в реальность. Что же предлагают нам в качестве сфер, где самому потребителю доверяют обучать ИИ, предполагая, что взаимодействие нейросети и реальных запросов в условиях цифрового общества выработает новую социальную реальность?

Используем для анализа сайт «зерокод-движения», которое предлагает широко использовать и самим изучать ИИ. Движение весьма показательное, поскольку обещания и предложения использовать ИИ в целом объединят все то, что по частям предлагают другие разработчики и реализаторы.

Итак, нам предлагают:

Диджитал-специалистам любого профиля — почти все ваши задачи можно значительно оптимизировать с помощью нейросетей;

Предпринимателям, стартаперам и управленцам — ИИ может значительно ускорить процессы в вашем проекте, заменить специалистов и сократить расходы;

IT-специалистам любого профиля — нейросети помогут в написании ТЗ и другой документации, сгенерируют код и создадут подходящий дизайн, который вы сможете использовать в проекте;

Студентам — поможет в написании курсовых и проектных работ, написании диплома и многих других задачах;

Всем, кто работает с текстами — поиск данных, рерайт, написание текста с нуля по запросу — лишь малая часть возможностей ИИ;

Исследователям и ученым, бизнес-аналитикам и менеджерам, финансистам и трейдерам, медицинским специалистам, инженерам , а также людям, которые интересуются новыми технологиями [4].

Если мы будем воспринимать это как медиатекст и определим его смысл – обнаружим элементарные признаки рекламного текста, где слегка замаскированы и смешаны три смысловых слоя:

Нам предлагают:

• •    научиться оптимизировать свои задачи с помощью нейросетей;

• •    избавиться от рутинной обработки больших объемов информации и переложить креативную часть развития мышления (создание нового из уже имеющихся элементов) на нейросети;

• •    переложить творческую часть вашей деятельности (поиск и выделение нужной информации, творчество как создание нового) на нейросети.

Взаимодействие с информационной средой: новый этап

Это уже не просто некое усовершенствование групп человеческих отношений (1), освоения окружающей среды (2), внутреннего развития и рефлексии (3). Это все та же (несколько завуалированная) реклама общества потребителей, где самостоятельность мышления сводится к прогулкам по уже заготовленным дорожкам. Творческим профессиям в этом обществе нет места – только тем, кто поддаётся данному виду оптимизации. Мы не создаем новых текстов – впереди многолетний рерайт уже имеющегося. Да, традиционная журналистика, писатели и поэты, художники могут отойти в сторонку, уступая место таким действиям, как recreate & reproduce – в прямом переводе воссозданию и воспроизведению – но не творчеству, которое в этой модели просто не предусмотрено. Художник становится человеком, который может вырабатывать правильные промты (запросы), а творчество сводится к отслеживанию трудов нейросети и остановке на том этапе, когда итоги работы хотя бы частично начинают приносить удовлетворение.

Все это напоминает «работу» ребенка с игрушками типа «стеклянный шар со снегом внутри» - но ребенок способен написать сказку по этой игрушке, дать новый образ мира – то, чего пока не может сделать самая совершенная на сегодняшний день нейросеть.

Пока что мы вынуждены относиться к бурным восторгам по поводу саморазвивающегося ИИ весьма сдержанно. И отметить, что элементарный поиск смысла/смыслов в текстах-описаниях ИИ показывает, что мы снова сильно рискуем расширить область потребления, но не самостоятельности мышления и развития индивидуальности. В частности, как рецензент ряда научных журналов часто сталкиваюсь со стилем статей, который успешно имитирует научный текст, по сути не являясь вообще текстом. Большинство преподавателей будет рассматривать рерайт как возможный, но нежелательный способ заработка.

В реальности нам нужны школьники и студенты, которые способны найти нужную информацию везде – от библиографического аппарата диссертации и библиотечной полки до электронного комплекса словарей. Уходя на промтах в информационные базы ИИ, ученик лишается возможности, а затем и способности самостоятельного мышления. Возможно, это потребует пересмотра всей существующей системы итоговых работ для завершения образования, потому что рефераты, курсовые и дипломы, оптимизированные с помощью ИИ – это абсолютный отказ от той системы ценностей, на которой выстроено наше образование. В Европе уже являются проблемой домашние задания, сделанные ИИ: доказать авторство электронного текста невозможно, решения проблемы пока не нашли.

Безграмотные, а зачастую и неосмысленные тексты, которыми сейчас переполнен интернет – свидетельство того, что мы вступаем в новую эпоху взаимодействия с окружающей нас информационной средой [5]. Учитывая, что в этой среде мы (особенно дети и подростки) иногда находимся больше, чем взаимодействуем с реальностью, следует и рассматривать её особенности и опасности. Это возможность практически полностью подменить картину мира, вложить нужные мысли в афористически короткие сообщения, обучить читать при помощи смартфона – и напрочь отключить способность самостоятельной оценки людей, явлений, событий.

Об опасности такого отношения к реальности и некритического развития ИИ говорят сейчас многие. Очень много сказано по этому поводу Татьяной Владимировной Черниговской, доктором биологических наук, крупнейшим специалистом в области нейронауки и психолингвистики, в частности и то, что мы просто обязаны понимать процессы, происходящие в ИИ и вокруг него, и в этом отношении уже во многом опоздали с областями, где нужен контроль, особое внимание, комплексные исследования; ну а непонимание механизмов, с помощью которых трансформируется («самообучается») ИИ, просто недопустимо.

Однако не так уж всё безнадежно. Программисты, непосредственно создающие ИИ, могут вложить в нейросети как механизмы самокоррекции только то, чем обладают сами. И поэтому один из последних выводов о возможностях развития ИИ несколько неожиданно гласит: нейросети могут и «поглупеть». Например, профессор компьютерных наук Калифорнийского университета в Беркли Магей Захария сообщил, что «процент успеха GPT-4 в вопросе «является ли это число простым? Думайте шаг за шагом» упал с 97,6% до 2,4% с марта по июнь». Вместе с соавторами Линцзяо Чен и Джеймсом Цзоу была опубликована посвященная проблемам развития нейросети GPT-4 работа «Как поведение ChatGPT меняется со временем?». Тем не менее надо представлять, что выводы о развитии или деградации деятельности нейросети зависят от избранной системы измерений, и в линейных системах легко увидеть количественный рост параметров как изменение качества. Авторы статьи предположили, что нейросеть не «глупеет» - просто пользователи дают ей более сложные задачи, и недостатки процесса становятся более заметными [6].

Таким образом, ИИ – интересный и перспективный инструмент цифровой эпохи, который требует серьёзного анализа ситуаций его применения и последствий его влияния на информационную среду. Использование ИИ оказывает сильное влияние на образование, игнорировать это нельзя. Необходимо осмысление процесса и поиск здравых методик включения ИИ в процессы обучения.

Поэтому особую важность обретает сегодня медиаобразование – как умение анализировать, искать и интерпретировать смыслы, работать с аргументами «за» и «против», находить ключевые позиции в борьбе с фейками и вырабатывать собственную точку зрения. Помимо множества апробированных методик работы с информацией медиаобразование еще и заметный стимул развития личности. Критическое мышление – это основа взаимодействия молодёжи с нынешней цифровой реальностью. Да и проблему авторства цифровых медиатекстов вне решения проблем информационной безопасности цифровой гигиены просто не решить.

Медиатворчество становится областью, где юное поколение может применить свою активность, адаптироваться к новой информационной среде и проявить себя как личность. И здесь надо четко различать формирование потребительских качеств и творчество. Проводить время в соцсетях – или открывать для себя мир. Создавать фильм, анимацию, картину, проект – или бродить от ролика к ролику в поисках сильных впечатлений…

Ситуация, связанная с тем, что вместо собственного творчества авторы начнут рассылать рукописи ИИ, уже реальна. Так, редакция знаменитого научно-фантастического сетевого журнала Clarkesworld заявила , что приостанавливает выпуск новых номеров из-за потока рассказов, написанных с помощью искусственного интеллекта. И если до конца 2022 года это был плагиат, теперь это истории, созданные нейросетью ( https://www.vice.com/en/ article/7k8584/clarkesworld-ai-submissions).

За февраль 2023 года администрация Clarkesworld заблокировала около 500 заявок на публикацию рассказов, и с марта журнал пока не выходит. Вопрос, как мы понимаем, не только в развитии технологий, но в невозможности совместить её со старой доброй этикой…

В целом в области креативных индустрий наиболее ярко проявляются преимущества и недостатки работы с нейросетями. Работа по алгоритмам не дает возможности полноценного творчества. ИИ может предложить варианты образов, дизайна, костюмов – но не может принять творческих решений, распознать и реализовать культурные коды, предположить восприятие целевой аудитории. Эти направления работы должны быть освоены еще в процессе образования, и тут медиаобразование, которое помогает осмыслить собственное восприятие и соотнести его с массовым, также незаменимо. И прогнозы по поводу того, что нейросети уничтожат творческие профессии, становятся беспочвенными.

Заключение

Нам еще не приходилось видеть нейросеть, которая смогла бы создать даже не произведение искусства – статью, книгу, рассказ, – а хотя бы внятный неимитированный текст. Книги, написанные «в соавторстве» с нейросетью, по большей части вообще нечитаемы, онb могут удовлетворить только самолюбие графомана. «Живопись» и «иллюстрации», созданные ИИ, увы, тоже не обладают теми качествами, которые говорят о творческом процессе или хотя бы о его имитации. Однако там, где речь идет о поиске и выборке информации, нейросети незаменимы – если, конечно, грамотно ими пользоваться. Ну а умения работать с информацией – это основа медиаобразования.

Конечно, сделать с помощью нейросети портрет любимого кота в стиле Кандинского или Ван Гога – хорошая шутка, но когда речь идёт о воспитании и формировании человека, ИИ был и будет инструментом, который надо научиться эффективно использовать. Сейчас в интернете более 1000 вариантов моделей ИИ, заточенных под разные виды деятельности. Поэтому разработка методик использования ИИ в обучении и поиск путей стимулирования не рерайтинга разных видов, но собственного медиатворчества детей и подростков – насущная необходимость, одна из наиболее актуальных задач современного образования.