Техноутопия и искусственный интеллект: репрезентация в литературе начала ХХI века (на материале либретто электронной оперы "2032: легенда о несбывшемся грядущем" В. Аргонова)

И сследование репрезентации техноутопии и искусственного интеллекта актуально в силу того, что рубеж ХХ–ХХI веков явился переломным мо мент ом в истории человечества – информация стала одной из основных

СИБИРСКИЙ ФИЛОЛОГИЧЕСКИЙ ФОРУМ ^{2021. № 3} (¹⁵)

движущих сил развития общества, возросшие темпы производства информации, изменение способов передачи, создания информации, появление нейросети ставят перед человечеством совершенно новые задачи как технологического, так и этического характера. Т.Б. Медведева пишет: «Обращение к технологической версии утопических представлений (техноутопии) на примере технопрогрессивизма, трансгуманизма и “цифровой утопии” является закономерным и необходимым, так как выявление модусов социальных феноменов в их связи с воображаемыми мирами утопического открывает возможность описать социокультурную реальность через категории возможного, желаемого и ожидаемого» [Медведева, 2011, с. 60]. Именно поэтому рассмотрение данной проблематики в художественной литературе не может не привлекать внимания современного гуманитария.

Новизна работы состоит, во-первых, в установлении значимых оценок феномена технологической утопии и искусственного интеллекта современной литературой, во-вторых, в обнаружении самих элементов этой утопии в неисследованном ранее тексте либретто электронной оперы Виктора Юрьевича Аргонова «2032: Легенда о несбывшемся грядущем».

Цель исследования – выявление культурных и философских оснований функционирования техноутопии, одним из центральных элементов которой является искусственный интеллект.

Жанровая природа текста сложна – в ней просматриваются черты киберпанка – киберпанковая литература, как правило, описывает «высокотехнологический мир, переживающий социальный кризис, особое внимание в ней уделяется описанию высоких технологий и классовой борьбе» [Новичкова, 2019, с. 226]. А.Т. Камалова рассматривает русский литературный киберпанк «как своеобразный жанровый синтез научной фантастики и антиутопии. Основными составляющими его содержания являются антиутопический мир будущего на пороге социально-культурных перемен и фантастические последствия, обусловленные научными открытиями и технологическим прогрессом» [Камалова, 2019, с. 20]. Анализируемое произведение создавалось в период с 1999 по 2007 год. Этапы создания подробно описаны на сайте «Complex numbers. Электронная музыка для интеллектуалов»3;2исходные материалы оперы находятся в открытом доступе.

Сюжет основан на альтернативной истории: в конце восьмидесятых Советский Союз не распался, а, напротив, укрепил свои позиции, расширив территории. Этому ощутимо поспособствовало создание АСГУ – Автоматической Системы Государственного Управления, первоначально разрабатывавшейся с 60-х годов ХХ века Киевским институтом кибернетики (кстати, это имеет реальную историческую основу4,3работа над созданием системы управления велась с конца 50-х до конца 80-х, но проекту не суждено было воплотиться в жизнь. В 2028 году Система была подключена к Государственной Информационной Сети, что в корне изменило «структуру нашей власти и жизнь миллионов советских трудящихся»5.4Параллельно с этой сюжетной линией развивается еще одна – история любви школьницы Светланы Лимаевой к генеральному секретарю Милиневскому. Судьбы героинь (АСГУ и Светланы) похожи, и это сходство носит знаковый характер.

Методология и методы исследования. Одним из векторов развития утопического мировоззрения в настоящее время служат размышления о природе и сущности искусственного интеллекта (ИИ), а также влиянии ИИ на будущее. В этом смысле появление электронной оперы В. Аргонова закономерно и логично – ИИ играет в опере центральную роль. Автор подчеркивает близость разных родов утопий – утопии религиозной, эсхатологической (в тексте есть упоминание о философии Н.Ф. Федорова), коммунистической – с государством, во главе которого стоит искусственный интеллект. Примечателен гностический элемент – женские персонажи подсвечены образом Софии – софийные черты есть у АСГУ и Светланы Лимаевой. Образ Софии в разнообразии вариантов – один из ключевых в русской литературе в целом [Ковтун, 2011, с. 53–70]. Таким образом, методология исследования, с одной стороны, носит мифопоэтический характер, с другой – опирается на литературную герменевтику, философию техники, а также трансгуманистическую философию.

Результаты исследования. Одной из черт Софии является ее двойственность – она первая и последняя, почитаемая и презираемая (низшая и высшая София в гностическом мифе, Дева и Блудница, небесная и тварная) [Йонас, 1998]. В тексте электронной оперы двойственность Софии подчеркивается разной природой воплощающих ее персонажей – живая девушка, с одной стороны, а с другой – порождение сумрачного советского гения – искусственный интеллект.

Две героини оперы – школьница Светлана Лимаева, признающаяся в любви к генеральному секретарю на школьном концерте, где тот должен присутствовать по долгу службы, и АСГУ – обладают одним голосом, говорят одними и теми же фразами. Вместе с тем АСГУ – система, которая может в том числе программировать саму себя, в тексте есть указание, что голос она выбрала себе сама и

СИБИРСКИЙ ФИЛОЛОГИЧЕСКИЙ ФОРУМ ^{2021. № 3} (¹⁵)

специально никто ее не озвучивал. Два женских образа связаны не только голосом, но и особыми отношениями с Анатолием Сергеевичем Милиневским, генеральным секретарем ЦК КПСС. Светлана томится от чувств, АСГУ ведет долгие разговоры с руководителем государства, полунамеками давая понять, что она не только машина, что и у нее есть чувства и мнения.

В техноутопии нет видимой эротики, однако есть опровержение сексуальной стихии. Светлана Лимаева признается Милиневскому в любви, но генеральный секретарь отвергает девушку. Ничего не происходит – отсутствие действия является знаковым в контексте упоминания идей Федорова и заморозки Светланы ради последующего ее воскрешения. «Эротическое воздержание, рассматриваемое как необходимое условие для уничтожения смерти и достижения бессмертия тела, представляет собой оксюморонную сексуальную практику. Оно не только отвергает естественный закон продолжения рода и прославляет неутоленное эротическое желание, но и отражает радикальное представление о том, что отказ от секса является действующей силой. <…> символисты провозглашали эротическое влечение неотъемлемой частью преображающего воздержания» [Матич, 2008, с. 9]. Отсутствие эротики логично – Лимаева почти ребенок, АСГУ – машина.

Опасность искусственного интеллекта заключается, прежде всего, в обретении им субъектности. И именно этот процесс становится центральным в опере Аргонова – АСГУ диктует высшим менеджерам стратегии управления. Хотя основная магистраль развития нового мира генеральному секретарю не нравится, – ему кажется, что человечество будет деградировать, если выполнение задач, ранее решаемых посредством человеческой рабочей силы, будет поручено искусственному интеллекту: «Милиневский. В твоей программе технология одна. Не вижу нравственного роста человека»6.5Таким образом, обретение машиной субъектности в художественном мире оперы может повлечь за собой лишение субъектности человека7.6К тому же подобные стратегии управления лишены идеологического элемента – АСГУ применяет математический расчет при планировании, ее решения не обусловлены коммунистической идеологией, что вступает в противоречие с новой советской государственностью. Этот конфликт важен для понимания смысла текста.

Грядущее, которое не сбылось, подразумевается в качестве совершенной техноутопии, но Милиневский берет на себя ответственность за остановку процесса становления идеально управляемого государства. Понимая, что расчет не всегда вписывается в коммунистические представления о бытии, он принимает решение внести изменения в программу АСГУ.

Еще в 1993 году увидело свет эссе В. Виджа «Грядущая технологическая сингулярность. Как выжить в постчеловеческую эпоху» [Vinge, 1993], где описывается событие появления между 2005 и 2030 годами Сингулярности – искусственного интеллекта, превосходящего по мощности человеческий. Именно после наступления Сингулярности, по мнению ученого, наступит постчеловеческая эпоха. Проблемой сингулярности активно занимаются зарубежные ученые [Kurzweil, 2005; Chalmers, 2010], размышляя об особенностях грядущего, когда машина обретет субъектность. Вероятно, это и есть то самое грядущее, о котором говорит автор либретто.

АСГУ – героиня оперы – не просто машина, обладающая искусственным интеллектом: она обладает сознанием. С одной стороны, делает умозаключения на основе алгоритма, заложенного создателями, с другой – ведет дискуссии, то есть обосновывает логичность своих умозаключений. Наличие сознания у машины – спорный тезис. Результаты эксперимента Джона Серла [Серл, 1990] опубликованы в 1980 году. Философ доказывает, что машина, действующая по алгоритму, демонстрирует лишь способность действовать по алгоритму, но не понимание процесса, поэтому сознания у машины быть не может. Например, отвечая на вопрос на китайском языке, машина может дать правильный ответ, но осознавать этот ответ, как, впрочем, и вопрос, она не будет.

Вопросы наличия/отсутствия сознания у машины рассматриваются философией техники и трансгуманистической философией [Bostrom, 2005]. Авторы электронной оперы допускают наличие сознания у машины (еще один значимый элемент в альтернативно футуристическом пространстве), тем самым моделируя мир, развивающийся по сценарию технологической утопии, принципы которой описал Бернард Гендрон [Gendron, 1997] (стабильный технологический рост, отсутствие товарного дефицита и уничтожение социальных зол). Мир, управляемый машиной, обладающей сознанием, но не сознанием коммунистическим, ее подход к управлению Милиневский называет неоднозначным, выражая сомнения в правильности машинного подхода. Таким образом, можно увидеть противоречие – автоматический разум (интеллект и сознание – в художественном мире Аргонова) с его точным расчетом противопоставляется человеческому разуму с его интуитивно переживаемыми ощущениями и коммунистической картиной мира: «Милиневский. В твоей программе только технология одна. Не вижу нравственного роста человека. АСГУ. Абсурдно слышать в наши времена ошибку просветительского века»⁸. 7

СИБИРСКИЙ ФИЛОЛОГИЧЕСКИЙ ФОРУМ ^{2021. № 3} (¹⁵)

АСГУ выдвигает оценочное суждение, Милиневский сомневается в обоснованности автоматизации больших объемов производств, полагая, что отсутствие производительного труда негативно скажется на нравственности граждан СССР.

На профанном (читательском) уровне мы можем наблюдать постановку этических проблем, связанных с искусственным интеллектом.

Вместе с тем у нарратора и автора возникают вопросы относительно духовного мира машины. В части «Догмы» рассказчик рассуждает о том, что АСГУ сама способна произвести истины, доступные разуму, которые, к сожалению, могут противоречить коммунистическим догматам. Рассказчик называет машину божеством (далее она именуется даже «рукотворным богом»), однако полагает, что божественное можно попрать ради идейного. Божество, по его мнению, может быть не правым. В следующей части «Сомнения» мы наблюдаем Милиневского, который подчеркивает свою правоту, но задается вопросом, не является ли осязаемая утопия результатом исключительно машинного подхода, то есть не является ли утопия искусственно созданным конструктом, а не делом рук человеческих и достижением цели – светлого будущего. Искусственность настигающей государство утопии заключается еще и в отсутствии религиозного, мистического компонента. Н.В. Ковтун пишет о том, что «пафос самозабвенного труда, жертвенности во имя дела Октября оказывается близок настроениям крайних сектантов, радостно всходивших на костер в надежде сохранить истинную веру, обрести рай немедленно» [Ковтун, 2004, с. 249]. АСГУ, однако, лишает советских людей той самой жертвенности, того самого самозабвенного труда – математический подход приводит ее к логическому выводу о том, что благо не в труде, а это не соответствует догме. Ангел жизни новой оказался неправильным – он не несет благую весть, он не связывает с высшим, не служит, следовательно, ангел этот – ненастоящий. И здесь Ар-гонов спорит с традиционной гностической системой ориентиров социалистического толка [Ковтун, 2004] – сотворенное коммунистическим государством оборачивается против него и, несмотря на очевидные блага, может это государство разрушить, разрушить саму его основу: «Зло – незнание коммунизма, служение “ложным” целям – вызывает снисхождение к несчастным, неведающим людям, погрязшим во зле. Одновременно “принцип зла” позволяет оправдывать любые репрессивные меры против тех, кто сознательно уклоняется от истины коммунизма. Идея насилия смыкается с идеей прогресса» [Ковтун, 2014, с. 18].

Таким образом, логика оперы подразумевает абсолютную правоту власти в решении перепрошить АСГУ, иначе она «зло». Здесь возникает противоречие – утопическое грядущее при таких условиях сбыться не может, движение вперед искусственно прекращается, АСГУ – уже не ангел жизни новой, не посланник богов (боги бывают разными), она духом – земная, то есть изменение ее природы ведет к тому, что подлинной АСГУ уже не существует (София соединяется с плеромой). И это вполне согласуется с выводом Н.В. Ковтун о том, что «коммунистическое учение, провозглашая материализм, постоянно опирается на мистику, иллюзию, тайну, спиритуализацию материи» [Ковтун, 2004, с. 254]. В технике нет мистики, поэтому техноутопия становится невозможной: круг замыкается, время останавливается, история не может идти по идеологической колее.

В интервью сайту «Правда-info» сам Виктор Аргонов рассуждает: «Показанный сценарий все-таки не может претендовать на роль пророчества, пусть даже нереализованного. Здесь нет особого исторического реализма. Основные вопросы, которые хотелось показать, носят скорее не политический, а общефилософский характер, пусть и неотделимый от исторического контекста. Философская проблематика коммунистических идей очень многослойна, она сложнее, чем реально существовавшее и существующее отношение к ней большинства политических сил (как прокоммунистических, так и антикоммунистических). Но по мере удаления от советской эпохи у нас появляется шанс подойти к вопросу более взвешенно, не впадая в крайности»9.8Осмысление советского мифа здесь становится отстраненным, исключающим личное отношение – Виктор Аргонов родился в 1979 году, незадолго до начала перестройки.

Религиозно-мистический уровень прочтения текста помогает оценить видение автором технологической утопии на советском пространстве, явные софио-логические мотивы позволяют сделать вывод о коммунистическом характере технологической утопии.

Обсуждение результатов. Два уровня прочтения либретто являются основанием для обсуждения трансформации советской утопии в пространстве альтернативной истории, где присутствует искусственный интеллект.

В опере разрушается патриархальный соцреалистический миф о большой семье – во главе стоит не Отец – генеральный секретарь не может быть Отцом, он не уникален, у него были предшественники – вожди (в тексте упоминается Романов, ставший в художественном мире оперы генеральным секретарем, выиграв в партийной борьбе у Горбачева). Его образ напоминает образ номенклатурного функционера эпохи застоя, Милиневский (даже фамилия подчеркивает не силу, не строгость, а некоторую мягкость – по созвучию), он не полноправный властелин нового мира, а скорее оператор, во всем полагающийся на искусственный интеллект АСГУ.

На фоне генерального секретаря машина еще больше проявляет свою субъектность – решения (даже по поводу времени подачи поезда для делегатов) принимает она, она же является воплощенным божеством: «Но ты была сотворена как ангел жизни новой, твоя мечта за собой нас вела к мечтам пути земного, и день придет, и однажды тебе все снова станет ясно, и день придет, и мы скажем себе: Стремленья не напрасны!»10.9Это слова Милиневского, и можно сделать вывод о его полной зависимости от диктата машины. Это вызывает закономерный

СИБИРСКИЙ ФИЛОЛОГИЧЕСКИЙ ФОРУМ ^{2021. № 3} (¹⁵)

страх секретаря. Исследовательница темы искусственного интеллекта в научной фантастике Н.И. Верещагина пишет: «Перспективы появления нового вида возбуждают в обществе страх восстания машин, которое может привести к уничтожению человечества, поэтому силы направляются на уничтожение умных машин и возникает тенденция к ограничению новых технологий. В конечном счете обществу удается сдержать восстание, что не приводит к полному уничтожению более совершенного вида» [Верещагина, 2016, с. 72]. Только в случае с АСГУ актуально не полное уничтожение, а перепрошивка – изживание субъектности.

Исследование религиозно-мистического уровня текста позволяет говорить о том, что АСГУ/Светлана воплощают образ Софии. Кроме иных, принятых характеристик, АСГУ/Светлана двойственна еще и потому, что предстает в двух ипостасях – машинной и человеческой. Эта трансформация идеи Софии, примечательная в рамках развивающейся технологической утопии. АСГУ и Светлана практически ровесницы: первой – 13 (но создаваться она начала гораздо раньше), второй – 16 полных лет.

Песня Светланы, посвященная Милиневскому, наполнена намеками на неоднозначную природу девушки: «Я искала встречи – встречи, о которой быть не могло и речи: сквозь толщу микросхем ваш взгляд, как звезда, далек на Пути на Млечном»11.10Указание на то, что поиск происходил сквозь толщу микросхем и на то, что встреча невозможна, дает основания полагать, что Светлана обладает природой, отличающейся от обычной человеческой. Окончание сна в песне метафорически сравнивается с погасшим экраном – будто Светлана сама механизм. Помимо прочего, упоминание Млечного пути отсылает к идеям Федорова о бессмертии и осеменении Космоса.

После исполнения песни Светлана падает в обморок. Этот эпизод становится переломным – утопия не завершена, мир не идеален: «И нереальна сегодня мечта, чтобы любить всех живущих на свете: вечной весны высота не взята в сказке этой»12.11Одновременно осуществляется искусственное введение идеологических аксиом в АСГУ – теперь ее решения будут приниматься не на основе точного расчета – коммунистическая идеология вновь станет фундаментом управления. Историческая параллель – отказ Советского государства от автоматизации экономики в 70-е дает повод полагать, что сама, по природе своей утопическая, идея построения коммунизма парадоксально невозможна в рамках данной идеологии.

За два месяца, прошедших после перепрошивки АСГУ, жизнь меняется – происходит сепаратистский переворот, который, однако, подавляется силовыми методами, все 17 (исторически их было 16, но в художественном мире оперы их больше) республик СССР снова в полном составе, это влечет за собой внешнеполитические изменения. АСГУ в своих рассуждениях доходит до того, что конфронтация со странами Запада может привести к новой Революции. Оценивая мировую Революцию позитивно, АСГУ ссылается на внушенные ей коммунистические догмы.

В разговоре с Милиневским АСГУ утверждает, что она всегда мертва, но это лишь подчеркивает ее нематериальность, то есть разум Системы – это нематериальная сторона Софии, тогда как Светлана – материальная. Перепрошивка АСГУ заводит ее в тупик, выхода из которого искусственный интеллект не видит – нарушен баланс внутри Софии, соответственно, жизнь Светланы Лимае-вой тоже находится под угрозой – она умирает в больнице в Зеленодольске-26. Сама Светлана говорит о своей грядущей смерти – «так надо» (но она не умирает полностью, в последний момент повергшись заморозке). АСГУ отключает Ми-линевский. София возвращается в плерому, утопия исчезает, материальный мир больше не наполняется духом, остается обычный мир, потенциально способный воспроизвести утопию в будущем. Как пишет Е. Черткова в статье «Утопия как тип сознания» пишет: «Трансцендентность утопии более радикальна: это выход за границы не только действительного, но и возможного, каким оно представляется в перспективе логики развития существующего мира. Временные каузальные связи предшествующего с последующим не имеют для нее никакого значения» [Черткова, 1993, с. 72]. Искусственный интеллект встраивается в альтернативную интерпретацию советского утопического проекта.

Выводы. В статье рассмотрена проблема репрезентации феноменов техноутопии и искусственного интеллекта в современной литературе на примере либретто электронной оперы В. Аргонова «2032: Легенда о несбывшемся грядущем».

Культурным и философским фундаментом функционирования техноутопии в современной литературе являются гностическая философия, послужившая одной из основ советского утопического проекта, сам социалистический реализм, канон которого подвергается разрушению, а также дискуссионные идеи философии техники, связанные с искусственным интеллектом (центральным элементом техноутопии), наличием или отсутствием у него сознания и возникающими в связи в этим этическими вопросами.

Номинация оперы дает ключ к пониманию ее концепции – несбывшееся грядущее (где полноту мира создает присутствие Софии, воплощенной в образе АСГУ/ Светланы) – это, с одной стороны, отрицание утопии, с другой – заморозка, остановка времени, но грядущее не эсхатологично – конец не предречен – есть надежда на встречу в другом, новом, уже в утопическом мире («Когда-нибудь, через сотни, через тысячи лет люди смогут вернуть к жизни когда-либо живших, ведь так же? Ведь там мы сможем быть вместе. Ведь коммунизм – это когда каждый человек будет любить каждого. Ведь это правда?»13),129где будет возможность разморозки, обретения миром Софии. Божественное в опере приравнивается к математическому, техническому – расчет противопоставлен идеологии, АСГУ – ангел новой

СИБИРСКИЙ ФИЛОЛОГИЧЕСКИЙ ФОРУМ ^{2021. № 3} (¹⁵)

жизни – то, что наполняет мир духом, коммунистическая перепрошивка бесконечно отдаляет момент наступления светлого будущего – так автор осмысляет противоречивость как советской идеологии, так и советского проекта в целом. Невозможность воплощения репрезентируемой в либретто техноутопии заложена в ее основаниях, парадоксально противоречащих самой идее Сингулярности.