Деструкция цифрового наследия: искусственный интеллект в культуре и образовании*

Стремительное внедрение генеративных инструментов на основе искусственного интеллекта во все сферы гуманитарной жизни общества стало неожиданной реальностью последних лет. Высокая экономическая эффективность; несравнимая скорость получения готового результата по сравнению с «живым» дизайнером, копирайтером, художником; легкая доступность для неквалифицированного пользователя — эти и целый ряд других преимуществ делают дальнейшее внедрение искусственного интеллекта (ИИ) в креативную сферу экономики, образование, науку, культуру абсолютно неизбежным. Оспаривать преимущества генеративного инструментария при выполнении рутинных задач в дизайне, обработке больших массивов информации, генерации текстов бессмысленно. Однако существует особая сфера общественной жизни, где неограниченное внедрение искусственного интеллекта чревато разрушительными последствиями — это сфера сохранения национального и мирового культурного наследия.

Хорошо известно, что учреждения культуры всего мира предприняли за два минувших десятилетия значительные усилия по оцифровке огромного массива материальных объектов, являющихся национальным и мировым достоянием, с последующим размещением в сети виртуальных библиотек, музеев, архивов, туристических достопримечательностей, литературных, музыкальных, живописных произведений. Трудно переоценить значимость произошедшей культурной революции: за ничтожно малый исторический период населению планеты в виртуальном пространстве стали доступны культурные сокровища мира. Представители самого широкого круга гуманитарных наук получили возможность работать в архивах и музейных хранилищах разных стран, не отходя от домашнего компьютера.

За минувшие пять-семь лет представление о сохранении цифрового культурного наследия претерпело заметную трансформацию. Напомним, что под этим термином ( digital cultural heritage ) исследователи понимают «культурный материал, произведенный в цифровой форме или оцифрованный для целей сохранения, либо изначально созданный в цифровом формате, либо конвертированный в цифровую форму из существующего аналогового ресурса»¹. Определение «цифровое культурное наследие» было введено в юридический оборот на Генеральной конференции ЮНЕСКО 15 октября 2003 г., с принятием «Хартии о сохранении цифрового наследия». В начале 2000-х гг. дискуссия вокруг сохранения цифрового наследия фокусировалась на проблеме хранения накопленной информации, которая могла быть утеряна вследствие порчи магнитных носителей или обновления программного обеспечения. Так, статья 3 упомянутой Хартии формулирует угрозы, которые считались актуальными в начале 2000-х гг.: устаревание оборудования и программ, недостаточная разработанность методик по обеспечению сохранности фондов².

Отечественные исследователи до конца 2010-х гг. уделяли внимание развитию электронных библиотек, архивов, созданию и адаптации цифровой среды в образовательных целях, рассматривая сохранение цифрового наследия как эволюцию технологического процесса3. Историко-культурные и философские вопросы, связанные с возможным переформатированием всего накопленного культурного наследия, исследователями в эти годы не рассматривались по вполне очевидной причине: генеративный инструментарий искусственного интеллекта еще не оказывал заметного влияния на социокультурную среду человеческой цивилизации.

Перелом наступил на рубеже 2020-х годов: правовые и социальные последствия активного внедрения ИИ в экономику и общественную жизнь начали активно изучаться современными исследователями4. Вместе с тем, внимание ученых сосредоточено, главным образом, на вопросах правового регулирования результатов деятельности ИИ, авторском праве и этических аспектах. Научное сообщество, к большому сожалению, лишь приближается к необходимости философского осмысления внедрения генеративного инструментария в сферу культуры и массового сознания, не в должной степени отдавая себе отчет о последствиях происходящей цифровой революции5.

Редким исключением в этом смысле стала статья Н. П. Лысиковой «Уязвимость культурных кодов как угроза существования цивилизации»6. Автор предприняла попытку проанализировать уязвимость культурных кодов человечества в качестве цивилизационной угрозы в условиях бесконтрольного использования искусственного интеллекта. Под «культурными кодами» автор предлагает понимать «как осознанные, так и неосознаваемые индивидом регуляторы деятельности, поведения и общения, закрепленные в вербальных и невербальных формах взаимодействия, в том числе предписаниях, рекомендациях, законах, заповедях, знаках, правилах этикета, дистанции между общающимися, приветствиях, сигналах, эмблемах, символах, которые в разных культурах обретают свои смыслы и значения»7.

Это вполне добротное определение культурного кода мы дополнили бы указанием на необходимость рецепции индивидом комплекса национального культурного наследия как условия сохранения культурной идентичности; как цивилизационного базиса ментальности современного человека.

• Н.    П. Лысикова ссылается в своих рассуждениях на известного специалиста по искусственному интеллекту из КНР Кай-Фу Ли, считающего, «что культура, регулирующая жизнь человека, достаточно хрупка и уязвима, а с возрастанием хаоса, беспорядков, неопределенности с полной очевидностью усилятся гуманитарный и личностный кризисы, связанные с потерей человеком своего основного ориентира — смысла жизни»⁸.

Кай-Фу Ли обращает пристальное внимание на растущую зависимость человека от ИИ, который «способен искажать истину, сужать мировоззрение, негативно влиять на настроение, эмоции и, что особенно важно, на психологическое здоровье индивида… Искусственный интеллект представляет не только блага, но и страшную угрозу для современной цивилизации, потому что неразличение как в самом человеке, так и им самим сущности и оппозиции универсалий "добро и зло", "прекрасное и безобразное", "мужское и женское", "моральное и безнравственное", которые складывались веками в большинстве мировых культур, ведет к разрушению культурных кодов как основы существования современного мира»9.

Деятельность национальных правительств и частных компаний по созданию виртуальных коллекций культурного наследия продолжается активными темпами. Несколько лет назад стартовал проект Google по оцифровке культурного наследия, получивший название “Open Heritage” («Открытое наследие») и нацеленный на оцифровку предметов из коллекций 2000 музеев по всему миру¹¹. Другой амбициозный проект этой американской компании — сканирование и оцифровка ВСЕХ когда-либо изданных человечеством книг, коих, по подсчетам Google , насчитывалось на 2010 год почти 130 миллионов. Проект занял несколько лет, было оцифровано 25 миллионов книг, однако из-за юридических препятствий это гигантское хранилище до сих пор недоступно для мирового сообщества¹².

В Российской Федерации созданием виртуальных коллекций исторического и культурного наследия занимается как государство в лице учреждений культуры, так и немногочисленные энтузиасты13. Особенно заметны в сети виртуальные площадки таких российских музеев как Государственный Эрмитаж14, Мемориальный музей космонавтики15, Государственный историко-мемориальный музей-заповедник «Сталинградская битва»16, Государственный Русский музей17. Созданием оцифрованных книжных и документальных коллекций занимаются Российская государственная библиотека18, Государственный архив Российской Федерации19, Российский государственный архив древних актов20, многие другие государственные учреждения культуры и науки.

Однако на фоне этой позитивной тенденции неизбежно возникает вопрос: насколько защищены цифровые образы культурных объектов, сканы исторических источников, оцифрованные тексты классических литературных и научных произведений, кино- и фотодокументы, произведения музыки, графики, живописи, хранящиеся в виртуальных архивах, музеях, депозитариях? И речь в данном контексте идет не об опасности их утери или неправомерного использования — проблема значительно масштабнее.

Дело в том, что алгоритмы всех существующих на сегодня генеративных инструментов на основе искусственного интеллекта базируются, в числе прочего, на компиляции полученных в открытом доступе данных, их переработке и создании на основе имеющегося в сети контента некоего условно нового цифрового продукта, создаваемого по сформулированному запросу пользователя. Иными словами, на нынешнем этапе развития ИИ не способен самостоятельно создать оригинальное художественное произведение — продуктом его деятельности станет некий совокупный результат трансформации множества ранее созданных произведений, скомпилированных и обработанных по заданным алгоритмам. При этом полученный результат может быть очень убедительным, и выполнен на высоком технологическом уровне, с сохранением той или иной стилистики — будь то текст, изображение или звук.

Очевидно, что, когда мы говорим об огромном массиве данных, доступных для использования искусственным интеллектом в качестве исходного материала для последующей компиляции, мы понимаем, что этот «сырьевой ресурс» ИИ включает в себя и оцифрованное культурное наследие, находящееся в открытом доступе.

Новая цифровая реальность, в контексте защиты авторских произведений от искажения искусственным интеллектом, уже заставляет некоторые издательства предпринимать шаги по защите оригинальных текстов. Так, крупная британо-американская издательская компания Penguin Random House (PRH) недавно усилила защиту интеллектуальной собственности своих авторов от ее использования для обучения моделей ИИ. Новая формулировка, размещаемая на страницах книг PRH по всему миру, прямо запрещает использовать любую часть книги для обучения ИИ. Новая оговорка PRH ссылается на Директиву Европейского Парламента и Совета №96/9/EC от 11 марта 1996 г. о правовой охране баз данных21, что делает позицию издательства еще более уверенной22.

Следует признать, что власти многих стран мира предпринимают конкретные действия по созданию нормативно-правовой основы использования генеративных инструментов. В Российской Федерации обсуждение новой цифровой реальности происходит, в том числе, на уровне Президента страны. Так, в ноябре 2024 г. на заседании международного дискуссионного клуба «Валдай» В. В. Путин заявил, что «мы должны противопоставить свое мировоззрение, свою точку зрения на все процессы, которые и у нас в обществе происходят, и в мире. Искусственный интеллект в России должен обучаться на российских данных, чтобы отражать нашу культуру»23.

В том же контексте выдержаны и заявления российских должностных лиц, причастных к сохранению культурного наследия страны. Замминистра культуры РФ на заседании G20 («большой двадцатки») в Бразилии констатировал создание на Западе «альтернативной культурной реальности», когда в ходе развернутой информационной войны подвергается целенаправленному искажению культурное наследие России. Комментируя случаи переименования произведений русского искусства в ряде музее мира, Сергей Обрывалин заявил: «Ужасает, что ведущие зарубежные институции позволяют себе подобные поистине преступные действия в адрес мировой культуры и науки. Жаль, что правительства стран Европы и США лишают своих граждан врожденного права на правду»²⁴.

Нетрудно предсказать дальнейшую судьбу таких «видоизмененных» произведений искусства: попадая в общедоступную цифровую среду, русские авторы и их произведения, подвергшиеся искажениям авторства и наименования, становятся «исходным материалом» для дальнейших компиляций генеративным инструментарием ИИ, создавая искаженную историко-культурную реальность для многих миллионов пользователей, включая граждан РФ, использующих зарубежные цифровые платформы25.

Вот как может выглядеть на практике результат искажения нейросетью российского литературного наследия в студенческих работах: «Булгаков пишет: "Москва — столица мирового царства сатаны, проникшего в неё с черным шествием, посеявшего свой мрак, свой беспредел, свой разврат"»26.

В этом отрывке студенческого реферата, как в увеличительном стекле, оказались сконцентрированы все признаки деструкции цифрового наследия, о которых идет речь в данной статье. Во-первых, Булгаков никогда такой фразы не писал — ни в романе «Мастер и Маргарита», ни где бы то ни было еще. Искусственный интеллект сгенерировал «фейковую» цитату писателя, заключив ее в кавычки. Внезапно была создана «новая реальность»: перу русского писателя М. А. Булгакова приписано несуществующее утверждение, не только не отражающее его убеждения и внутренний мир, но и прямо их фальсифицирующее. Притом самым опасным в этом сетевом «творчестве» является тот факт, что современный студент не в состоянии распознать эту фальсификацию: как правило, лишь очень немногие молодые люди читают литературные произведения в «бумажном» издании.

Во-вторых, нейросеть вульгаризирует русский литературный язык, вводя в сгенерированный текст неологизмы с откровенно криминальной коннотацией. Так, по утверждению Википедии, слово «беспредел» «изначально использовалось исключительно в криминальной субкультуре. Формулировка получила распространение в массовой культуре с начала 1990-х годов»27. Разумеется, в годы создания романа «Мастер и Маргарита» ни в русском литературном языке, ни в повседневной речи этот термин не использовался.

Наконец, сфальсифицированная ИИ цитата Булгакова является очевидной манипулятивной практикой, направленной на формирование негативного образа Москвы, страны и народа, якобы отраженного писателем на страницах романа: «черное шествие, царство сатаны, мрак, беспредел, разврат». «Упакованные» нейросетью в одну фразу, эти манипулятивные символы, без сомнения, оказывают разрушительное воздействие на мировосприятие молодого человека, на которого, собственно, и направлено это «сетевое творчество».

Вот еще один пример подобного «нейросетевого бреда», меняющего содержание и смысл уже другого произведения Булгакова, повести «Собачье сердце»: «В повести Булгакова мы видим, как главный герой, Шариков, оказывается в центре различных культурных и развлекательных событий. Он посещает театры, концерты, выставки и другие мероприятия, которые были доступны образованным и богатым людям того времени. Профессор Преображенский, обладая высоким социальным статусом, часто посещает роскошные рестораны и клубы, где проводит время в компании своих друзей. В то же время, Шарик, после своего превращения в человека, испытывает трудности с поиском места для отдыха из-за своего низкого социального статуса. В этом ему мог помочь только главный герой Преображенский»28.

Ситуация усугубляется тем, что использование нейросетей для подготовки квалификационных работ в школах и вузах страны стало массовым явлением. В ничтожно короткий срок деструкция национального наследия стала неотъемлемой частью образовательного процесса: нынешнее поколение выпускников будет пребывать в полной уверенности, что «Гоголь замечательно передает атмосферу деревни Русины»29, «Андрей Болконский женится на Наташе, но не успевает насладиться счастьем в браке»30, а «Советские киноленты склонны рисовать однозначно негативный портрет противника. Фашисты и нацисты представлены как безличные злодеи без попыток глубокого понимания их мотиваций или человеческих качеств»31.

В указанных обстоятельствах можно лишь предполагать, чем закончатся эксперименты по замене «живого» преподавателя симулякром на основе ИИ, вроде тех, что были инициированы в Тюменском государственном университете. Вуз предложил своим студентам общение с «ИИ-персонами», созданными на основе существующих нейросетей. По словам директора Центра образовательных разработок ТюмГУ У. Раведовской, «в ряде учебных курсов ИИ-персоны реконструируют личности — самые яркие в этой предметной области. Интересные примеры — Роберт Сапольски, Сергей Семёнович Уваров, Стив Джобс»32.

И подобные эксперименты над образовательным процессом можно было бы назвать «инновационными» и «передовыми», — что, собственно, и делается многими специализированными изданиями33, — если бы не существующий опыт других вузов. Так, студентам-историкам РГГУ в 2024 г. было предложено написать эссе на заданную тему. Вот пример «реконструкции» искусственным интеллектом личности Степана Халтурина, в 1880 г. совершившего покушение на Александра II: «Степан Халтурин родился в 1718 году в семье казанского купца. В 1734 году он начал служить в русской флотилии Каспийского моря и показал себя как один из лучших моряков своего времени. Халтурин написал множество стихов и прозы на русском и немецком языках. Халтурин также создал новую систему навигации, которая была широко использована в России в XVIII и XIX веках»34. Иными словами, искусственный интеллект полностью сфальсифицировал биографию исторического лица, «отбросив» его во времени на 150 лет и наделив фантастическими качествами. Хочется верить, что Роберту Сапольски, Сергею Семёновичу Уварову и Стиву Джобсу, а вместе с ними и ТюмГУ повезет больше.

Сказанное вовсе не означает призыва ограничить технологический прогресс в образовании — столь абсурдная задача не стоит перед автором исследования. Внедрение ИИ во все сферы интеллектуальной деятельности — неизбежный процесс, и образование не является исключением. Яндекс и ВШЭ (Высшая школа экономики) подготовили на эту тему доклад, отражающий мировые образовательные практики в контексте использования ИИ. Проведенные опросы показали, что более 60% студентов использовали нейросети при выполнении выпускных квалификационных работ³⁵ .

При этом, на наш взгляд, данная статистика представляется заниженной: собственный педагогический опыт автора позволяет утверждать, что по ряду образовательных дисциплин процент использования студентами ИИ может доходить до 90%. Эта ситуация затрагивает подавляющее большинство гуманитарных наук: историю, антропологию, культурологию, экономику, юриспруденцию и др. — вероятно, некоторые студенты, отвечая на вопрос социологического исследования, постеснялись дать полностью правдивый ответ.

К сожалению, авторы опубликованного Яндексом доклада, ссылаясь на опыт крупных российских вузов по интеграции ИИ в образовательный процесс, не предприняли попытки осмыслить выявленные тенденции с философско-культурных позиций, спрогнозировав не только технологические нюансы внедрения нейросетей в высшее образование, но и «просчитав» его неизбежные последствия для умов и духовности молодых людей, чей интеллект не получит должного развития, будучи подмененным искусственной симуляцией.

Между тем, соавторы Яндекса предпринимают попытки скрыть собственную неспособность наладить образовательный процесс в условиях конкуренции с ИИ, формулируя в оправдание этого бессилия наукообразные объяснения. Так, в августе 2023 г. Московский педагогический государственный университет официально разрешил использовать генеративные инструменты на основе ИИ при написании выпускных квалификационных работ, заявив при этом, что «сгенерированные тексты — это хороший материал для поиска творческих идей» (!)36.

Представители ВШЭ признались, что главная цель внедрения нейросетей в образовательный процесс — «помочь преподавателям и студентам улучшить образовательный процесс с помощью ИИ, переложив на него рутинные задачи: разработку сценариев образовательных программ, генерацию контента и ассистирование»37. Неизбежно возникает вопрос: что же останется в образовательном процессе, если «разработку сценариев образовательных программ, генерацию контента и ассистирование» будет выполнять ИИ? Собственно, в этих трех составляющих и заключена суть образовательного процесса. За скобками остается контроль знаний — его, по замыслу администрации ВШЭ, вероятно, некоторое время продолжат выполнять «живые» преподаватели, читая сгенерированные той же нейросетью выпускные квалификационные работы.

Интерполируя описанные выше образовательные тенденции на проблему деструкции национального культурного наследия, находящегося в открытом доступе, становится очевидным следующее. При сохранении существующего тренда уже нынешнее поколение выпускников российских вузов может оказаться первым в череде подобных, чей национальный культурный код не только не будет сформирован за период получения высшего образования, но и то, что заложено семьей и школой, окажется трансформированным, размытым и искаженным вследствие рассмотренных выше процессов.

Описанные тенденции являются частью процесса информационной глобализации, когда с нарастанием цифровых процессов киберпространство приобретает «посткультурный» характер: «Цена глобализации — отказ культуры от самой себя, подмена собственной живой традиции аморфными истинами… Происходит стирание границ локальных, этнических культур. Люди, погружаясь в виртуальную реальность, могут просто забыть о традиционных культурных ценностях, для них это перестает быть интересным и актуальным»38. Дополним процитированную выше мысль: информационная глобализация, которая станет следствием активного внедрения ИИ, приведет не только к возможной потере интереса к традиционным культурным ценностям, но и в перспективе неизбежно создаст предпосылки к их искажению и деструкции.

Нами уже предлагалась идея защиты национального культурного наследия, размещаемого в цифровом виде в открытом доступе, через присвоение «цифровым подлинникам» NFT (non-fungible token) — невзаимозаменяемых токенов. Обязательная токенизация объектов хранения Архивного фонда РФ; кинофотодокументов; межгосударственных соглашений; иных государственных актов; оцифрованных литературных произведений, являющихся общепризнанным культурным наследием, впервые в истории создадут национальное хранилище «цифровых подлинников» верифицированных источников, чье происхождение и достоверность будут отражены в NFT ³⁹. Предложенные меры могут отчасти нивелировать бесконтрольное использование цифрового наследия генеративными инструментами, сохранив в сети «эталонные» копии текстов, изображений и звуков.

И схожие прецеденты уже существуют. В разных странах мира для регистрации произведений используются блокчейн-технологии. Можно отметить такие проекты как Глобальная европейская база данных произведений (European Global Repertoire Database) или Британский центр авторского права (U.K. Copyright Hub), а также ряд частных проектов40. Заметного успеха им достичь не удалось, поскольку это были коммерческие инициативы, направленные на извлечение прибыли через отслеживание и монетизацию использования авторских произведений. Однако создание на основе блокчейна национального хранилища цифрового наследия, генеральной целью которого станет сохранение традиционной и суверенной культурной матрицы, окупит все возможные затраты на нее, сохранив цифровое культурное наследие страны для будущих поколений. И, конечно, насущной необходимостью является создание национальной нейросети, ориентированной на нужды и ценности российской культуры и образования, алгоритмы которой будут базироваться на примате сохранения цифрового наследия страны.