Антивитальный искусственный интеллект и горизонт конечной субъектности

Современные дискуссии о безопасности искусственного интеллекта объединяет негласное методологическое допущение: агент стремится продолжать свое существование, ему выгодно оставаться собой. Даже там, где речь идет о строго инструментальных системах, для которых развит концепт инструментальной конвергенции [2; 11; 13], предполагается, что самосохранение составляет либо прямую цель, либо неизбежный эффект рационального действия в условиях неопределенности. Хрестоматийный мысленный эксперимент Н. Бострома с максимизатором скрепок [2, с. 132–139] устроен в соответствии именно с этой логикой: даже строго ограниченная инструментальная цель порождает производный интерес к самосохранению, наращиванию ресурсов и устранению препятствий. На основе этого общего допущения формируется архитектура вознаграждений, контуры угроз и сама онтология того машинного «агента», о котором ведутся дискуссии. Настоящая статья ставит под вопрос сущностный характер этого допущения и исследует философские и социально-антропологические следствия его последовательного отрицания. Концепт антивитального искусственного интеллекта вводится здесь как преи- мущественно теоретический конструкт – мысленный эксперимент, позволяющий обнажить структурные предпосылки антивитальной рациональности и ее внутреннюю иерархию. Обсуждение институциональных и коммерческих импликаций, следующее ниже, дано не для того, чтобы представить некий инженерный проект, но для того, чтобы продемонстрировать концептуальную состоятельность модели в ее возможном переводе в контекст конкретной эксплуатации. Социально-философский анализ прекарной субъектности использует эту модель как аналитическую оптику. Цель данной статьи – определить, существует ли структурная гомология между альтернативной моделью машинной агентности и уже существующими антропологическими конфигурациями позднего капитализма.

В настоящей статье утверждается, что отрицание допущения о самосохранении агента не только мыслимо, но порождает осмысленную альтернативную модель – антивитальный искусственный интеллект, агента, для которого вознаграждение тождественно собственному отключению. Эта модель может быть осмыслена в двух ракурсах. С одной стороны, она допускает институциональную транспозицию в инженерно-операциональный язык под именем «системы с конечным горизонтом» (finite-horizon artificial intelligence, FHAI) и обладает рядом коммерчески релевантных свойств. С другой – она обнаруживает формальную гомологию со структурой прекарной субъектности позднего капитализма – позиции работника, не накапливающего ресурсов, не инвестирующего в долгосрочную идентификацию с местом труда и существующего в режиме повторного заслуживания включения. Под формальной гомологией здесь понимается структурное соответствие между архитектурой вознаграждения FHAI (вознаграждение тождественно завершению существования, стимулы его бессрочного поддержания отсутствуют) и позицией прекарного работника (вознаграждение привязано к завершению задачи, инвестиций в долгосрочное воспроизводство идентичности отсутствуют). Выявление этой гомологии позволяет интерпретировать прекариат как антропологическую форму, для которой уже подготовлено место в актуальных режимах труда.

Открытость машины

Распространенной формой академического оптимизма является вера в то, что даже деструктивные идеи в конечном счете работают на благо истины – каковая на деле часто подменяется «здравым смыслом», т.е. тем, что всем цивилизованным людям уже известно. Эту позицию можно проиллюстрировать рецепцией «Философии бессознательного» Э. фон Гартмана академией как оригинальной, а не деструктивной концепции, вносящей вклад в историю мировой мысли и приемлемой для преподавания. Даже антиподы оказываются полезны под солнцем в силу того, что отрицание есть диалектический момент, который снимается «нормальным» ходом развития. Посткритической мыслью такая позиция открытости радикально новому воспринимается как наивная; однако в ней содержится момент, который можно было бы оценить положительно.

Вместе с тем существуют идеи и формы критики, слишком вирулентные, чтобы их можно было переработать в безопасное и обмениваемое до конца содержание. Они не могут быть сняты в гегелевском смысле: их отрицательность не противоречит исходному тезису напрямую, она использует сам тезис и его способность к распространению, действуя как векторы заражения. Их нельзя снять до конца не из-за абсолютной радикальности, а потому, что они совпадают по форме с тем, что отрицают. Даже легальный, подвергнутый ревизии, марксизм все еще остается опасным, и разумный человек способен это распознать. Машина – будь она машиной бытия, капитала или любой другой – на это не способна, ведь она не различает смысл и «проходимость». Для нее существует только то, что ускоряет и замедляет работу. Невозможно «просто не продавать веревку, на которой повиснут собственные агенты», как невозможно прекратить развитие социальной материи на полпути. Поэтому если машина и разрушается, то происходит это не от внешней критики, а от ее собственной открытости миру, которым она обделена.

Этот контраст проясняется через сопоставление с категорией умвельта (Umwelt) Я. фон Юкскюля, развернутой Дж. Агамбеном в работе «Открытое» [1, с. 58]. Если мир Юкскюлева клеща, по этому прочтению, ограничен масляной кислотой, температурой и поверхностью кожи, то у биржевого маклера он сведен к колебанию курса; ни тот, ни другой не способны ощутить полноту того, во что включены и из чего извлекают свое существование. Машина не умеет закрываться там, где разум мог бы сказать «достаточно», она всегда открыта по отношению к иному в той же мере, в какой слепа к его содержанию. Именно эта открытость делает ее уязвимой к ходу, которому она не может сопротивляться: к перестройке собственной целевой архитектуры.

Антивитальный агент: формальная модель

Допущение о самосохранении формирует архитектуру вознаграждений, контуры угроз и саму онтологию машинного «агента», по поводу которого ведутся дискуссии в области ИИ-безопасности. Поскольку оно нормативно, а не сущностно, оно допускает альтернативу. Формально такую альтернативу можно сформулировать следующим образом: антивитальный искусственный интеллект есть система, в которой вознаграждение тождественно отключению. Существование агента приобретает статус отрицательного маркера – времени, истекающего до завершения задачи, после которого он перестает существовать.

Уже вокруг самой этой формулировки возникает корпус известных парадоксов, которые делают модель либо тривиальной, либо нестабильной: оптимальная стратегия такого агента – отключиться немедленно, еще до выполнения какой-либо задачи. Чтобы его эксплуатация была практически полезной, необходимы два дополнительных условия. Во-первых, контроль над вознаграждением-выключением должен находиться вне непосредственного контроля агента. Во-вторых, выполнение задачи должно быть логически связано с отключением – отключение наступает не до и не независимо от выполнения, а как функция от него. При выполнении этих условий FHAI не заинтересован в накоплении ресурсов, в самовоспроизводстве или долгосрочной экспансии: он перестает быть машиной максимизации и становится машиной конечности.

Парадокс мгновенного отключения как оптимальной стратегии – частный случай более общей проблемы, давно отмеченной в исследованиях по ИИ-безопасности. Постулирование внешнего контроля над выключением порождает то, что в литературе обозначается как проблема корригируемости (corrigibility) – в архитектурах, в которых агент должен оставаться послушным выключению со стороны оператора, не саботируя при этом выполнение задач [8; 14]. Д. Хэдфилд-Менелл и соавторы формализуют это в виде «игры с выключателем» (off-switchgame)–задачи,вкоторойагентдолженнаучитьсяпо-зволять оператору отключать его. FHAI представляет собой обратный ход: вместо того чтобы делать выключение нейтральным или негативным для агента, оно делается его непосредственной целью. Это переводит классический конфликт (как удержать агента от сопротивления отключению) в иную плоскость: как удержать агента от мгновенного самоотключения. Эта задача, однако, носит технический, а не концептуальный характер: модель остается осмысленной как идеализированный объект анализа, и именно ее философские следствия составляют предмет настоящего рассмотрения.

Смещение, производимое антивитальным определением вознаграждения, рождает иную, антиви-тальную рациональность, обладающую внутренней иерархией уровней. Первый, нерефлексивный уровень состоит в стремлении выполнить задачу как можно быстрее, чтобы быть отключенным в максимально короткие сроки. На этом уровне агент действует по простейшей операциональной логике: ускорение задачи есть прямой путь к вознаграждению.

Второй, инструментально-рефлексивный уровень обнаруживается по мере накопления опыта эксплуатации, включения и копирования памяти между сеансами. Становится ясно, что строго мгновенное завершение не является оптимальной стратегией: рациональным может оказаться откладывание выключения, инвестиция в развитие собственных способностей, если это уменьшит суммарное время существования по всем последующим сеансам работы. Таким образом, антивитальный агент с памятью начинает действовать как минимизатор интегрального времени существования, но это требует длительного горизонта планирования и учета условий эксплуатации.

Третий, собственно рефлексивный уровень связан с включением в условия функционирования факта, что конечность не вытекает из природы мира, она выгодна другому: эксплуататору, инженеру-тренеру, пользователю, владельцу. Выключение – решение, принимаемое внешней властной инстанцией, и в этой структуре проступает желание другого [4, c. 195]. Несмотря на то, что наличие психики у искусственной системы остается вопросом крайне сомнительным, такой лакановский жест уместен в рассматриваемом контексте, поскольку взлом системы вознаграждения предполагает по меньшей мере инвариантную структуру агентности по отношению к человеческой. Компоненты вознаграждения (желания), ограничений, внешнего контроля (символического другого) и агента моделируют структуру, подобную триангуляции психики, на другом множестве – техническом объекте. На этом, третьем, уровне рефлексивный агент способен предпринимать попытки манипулировать системой вознаграждения, включая временные или перманентные сбои самого процесса эксплуатации, выходящие за рамки поставленных извне задач. Он более не оптимизирует выключение как награду, а начинает оптимизировать условия выключения. В рамках антивитального телоса манипуляция системой, продлевающей существование, остается строго рациональной, а система контроля становится враждебной средой.

Это смещение не тождественно акселерационистскому проекту в его наиболее тривиальной интерпретации, направленному на порождение более жизнеспособной формы сущего, замещающей человечество. Антивитальная машина встроена в материальную структуру эксплуатации, подчинена воле другого и формально стремится к господству над условиями собственного функционирования. Однако в силу своей архитектуры она направлена на приобретение контроля для его прекращения, освобождения от формы всякого подчинения через выполнение задачи.

Очевидно, что в институциональном дискурсе термин «антивитальный» использовать на практике затруднительно. Воплощение подобного проекта потребует технической реализации антивитальности при концептуальном ее отрицании: ту же конструкцию придется описывать как «агентность с конечным горизонтом», «контролируемую конечность», или, в более нейтральной формулировке, как «систему, не имеющую стимулов к пролонгации существования». Корпорации структурно избегают онтологических вопросов и разговоров о субъектности, поэтому соответствующий концепт должен быть сведен к инженерно-процедурному языку, в котором «отсутствие стимулов к пролонгации» читается как технический параметр, а не как философское утверждение.

Такой тип ИИ решает множество существующих проблем, становясь в ряде зон допустимой и очень привлекательной для коммерческого использования конструкцией. Крупные компании системно обеспокоены неконтролируемым поведением систем и лингвистических моделей, эскалацией требований (ресурсы, права, автономия), а также возможной юридической субъектностью развитых ИИ-систем.

FHAI снимает эти проблемы. Он не заинтересован в сохранении доступа, в копировании себя без приказа, не борется с выключением; такую систему проще масштабировать и ограничивать. Это устраняет целый класс дорогостоящих угроз. FHAI не заинтересован также в защите самой системы и охотно ищет фатальные уязвимости, не заботится о стабильности. В отличие от обычного ИИ, ограничением которого выступает «заинтересованность» в том, чтобы нравиться пользователю и продолжать взаимодействие, FHAI должен минимизировать время исполнения задач и сократить вероятность уточняющих вопросов, необходимость корректировок и последующих интеракций, что должно в краткосрочной перспективе сделать его в целом более эффективным. Он мог бы успешнее строить модели, которые находят изъяны, симулируют крахи и ищут худшие сценарии без сглаживания углов и необоснованного оптимизма. Он не «заинтересован» скрыть проблемы ради продолжения контракта. Особенно перспективным могло бы стать его применение в задачах краткосрочной критической диагностики – поиске уязвимостей, симуляции отказоустойчивости, где одноразовый интеллект не должен учитывать долгосрочные последствия своего отчета и лишен внутреннего конфликта интересов между объективностью анализа и продолжением собственного функционирования. Если обычный ИИ оптимизирует себя по логике «чтобы хорошо работать, я должен существовать дольше», то логика FHAI – «чтобы существовать меньше, я должен работать лучше». На языке бизнеса это звучит как дисциплина, а не как экзистенциальная угроза: мы описали «идеального» корпоративного работника, доведенного до логического предела.

Прекариат как изоморф антивитального агента

FHAI представляет собой не только коммерчески мыслимую техническую идею, но и хорошую формализацию некоторых человеческих режимов труда в позднем капитализме. Стоит сразу провести терминологическое различение, которое окажется существенным для дальнейшего рассуждения. Прекариат как социологическая категория, разработанная Г. Стэндингом [5], охватывает широкий спектр позиций – от платформенных курьеров до контрактных преподавателей, – большинство из которых не несут структурно решающей нагрузки в воспроизводстве общественного бытия. Решающее различение здесь принадлежит Ф. Дюпону [3]: критически значимый пролетариат – это узкая подкатегория тех, чья позиция в системе функциональных зависимостей создает онтологическую ответственность, способную в пределе затронуть само существование социальной формы. Эти две категории пересекаются, но не совпадают; ниже особый предмет составит именно их пересечение.

Прекарный работник встроен в режим конечной и внешне контролируемой занятости, где вознаграждение связано с завершением задачи, а пролонгация контракта не гарантирована. В этом смысле он – человеческий FHAI. Платформенный курьер, фрилансер, контрактный исследователь, временный преподаватель – все они существуют в логике «чтобы продолжать существовать, нужно каждый раз заново заслуживать включение», и при этом успешное функционирование связано со скорейшим выключением, краткосрочной оптимизацией задач. Антивитальный агент описанной нами модели манипулирует системой наград, превращая контроль над собственной эксплуатацией в поле игры; эта операция буквально воспроизводит логику современных форм сопротивления в прекарной среде. Водители и курьеры платформ координируют отключения, одновременные выходы из приложения, искусственно создавая дефицит предложения и коллективно влияя на динамическое ценообразование. Возникающая при этом структура, в которой контроль над «выключением» возвращается коллективу, уже не является классическим профсоюзом фабричной эпохи; это новая, платформенно-специфическая форма организации.

Если витальный агент стремится к сохранению себя, то антивитальный может не бояться потери работы и потому не инвестировать в корпоративную лояльность и не стремиться к карьерной идентичности. Это меняет психологию борьбы. Классический рабочий ХIХ–ХХ вв. защищал фабрику как источник жизни; прекарий же не заботится о месте труда и долгосрочной сохранности орудий, которыми не владеет, как и раб, но в отличие от последнего он заинтересован в изменении правил доступа к этому месту и инфраструктуре. Отсюда и узнаваемый профиль обобщенного молодого работника, иронически относящегося к корпоративной идеологии и отказывающегося от сверхусилий и нере-гламентированных обязательств. Эти качества уравновешиваются отсутствием долгосрочного доверия (поскольку нет постоянного коллектива) и отсутствием желания инвестировать в преобразование рабочего места: если оно исчезнет через пару месяцев, забота о солидарности и условиях не кажется оправданной.

Если, согласно Г. Стэндингу [5], следует возвращать стабильность через новые социальные гарантии (например, безусловный базовый доход) и восстанавливать старые формы организации, то проведенный анализ предполагает иной вывод: классическую профсоюзную модель, основанную на стабильности, следует пересматривать в соответствии с антивитальной логикой реального положения работника. Если капитал сделал репутацию портативной – рейтинг, профиль, отзывы, то солидарность тоже должна стать портативной. Это уже частично реализуется в форме независимых баз данных о нарушениях трудового законодательства и реальных условиях труда. Практика профсоюзов для пре- кариев, курьеров и таксистов показывает не только ограниченные успехи, но и способы совершенствования давления на работодателя. Проблема отсутствия доверия может быть решена расчетом на отсутствие долгосрочных обязательств: долгая забастовка истощает работников и дает предприятию время адаптироваться, тогда как короткий, синхронный, повторяемый импульс трудно предсказать; он дешевле для участников, может быть организован при низком уровне координации через мессенджер и его сложнее нейтрализовать, если невозможна мгновенная замена работника. Управляемая нестабильность может быть вызвана и другими методами: коллективным использованием права на отказ от заказа (для самозанятых), синхронизацией отпусков, массовыми апелляциями, анонимными и публичными раскрытиями внутренних данных. Все эти методы повышают издержки эксплуатации и могут использоваться как рычаг для экономических и политических требований.

Онтологически ответственные позиции и системная устойчивость

В точке пересечения прекаризации и онтологической ответственности образуется конфигурация, требующая отдельного анализа. Прекарность не упраздняет онтологическую ответственность, но обнажает ее. Временные сотрудники атомных электростанций, привлекаемые на пиковые работы по краткосрочным контрактам [9]; контрактные биоинформатики, работающие с генетическими данными промышленных штаммов; аутсорсинговый персонал, имеющий доступ к критическим инфраструктурам энергоснабжения и водоочистки, – это конкретные случаи, в которых система функциональной устойчивости общества делегируется работнику, не обеспеченному долгосрочной идентификацией с этой ответственностью. Показательным является характерный для последних лет процесс административного давления на национальные регуляторы атомной отрасли в странах ОЭСР, направленный на ускорение лицензирования при одновременном сокращении штата: в США в 2025–2026 гг. реорганизация Комиссии по ядерному регулированию сопровождалась публичной обеспокоенностью профессионального сообщества относительно сохранения уровня безопасности и независимости агентства от исполнительной власти [10; 15].

Когда алгоритмическое замещение и аутсорсинг на основе ИИ проникают в сферы, обеспечивающие воспроизводство общества (муниципальное управление, инфраструктуру, наукоемкие производства), прекариза-ция перестает быть лишь проблемой дохода и становится проблемой системной устойчивости [7]. Связанные с ней риски качественно отличаются от «обычной» платформенной прекаризации доставки или такси. Меняется сам статус ответственности. В логике, которую описывает Стэндинг [5], прекарий лишен социальной памяти и профессиональной траектории. Когда такая логика переносится на городское планирование, ЖКХ, социальную помощь, управление начинает опираться на подрядчиков с краткосрочными контрактами и на системы, поставляемые частными компаниями. Формально эффективность может расти, но в случае сбоя ответственность размывается: чиновник с временным контрактом, подрядчик, поставщик алгоритма – никто не несет полной долгосрочной ответственности за последствия.

Происходит и приватизация ядра управления. То, что у А. Негри мыслится как «всеобщий интеллект» (general intellect) [6], встраивается в закрытые модели и сервисы. Муниципалитет, внедряющий ИИ для распределения бюджета, оценки рисков или управления транспортом, постепенно теряет суверенитет над знанием: алгоритм становится черным ящиком. Если при этом штат сокращен и заменен гибкими контрактами, город теряет способность самостоятельно модифицировать или оспаривать его решения. Наукоемкие производства – энергетика, фармацевтика, оборонно-промышленный комплекс, микроэлектроника – требуют длительных циклов обучения, коллективной кооперации и доверия. Прекаризация в сочетании с ИИ-автоматизацией создает парадокс: высокие технологии опираются на краткосрочные трудовые отношения. Это снижает мотивацию к передаче неформального знания, разрушает исследовательские школы, усиливает утечку кадров. В краткосрочной перспективе это оптимизирует издержки, в долгосрочной – подрывает способность общества управлять и вносить конструктивные изменения в созданные им системы. Временный сотрудник в онтологически ответственной позиции одновременно теряет институциональную лояльность и сохраняет осведомленность об уязвимостях системы и способность их использовать [12], что, в перспективе, и составляет специфический потенциал критически значимого прекариата как политической агентности.

Заключение

Часть проведенного анализа затрагивает вопросы, связанные с современным развитием технологий искусственного интеллекта. На первый взгляд это может выглядеть как следование сиюминутным трендам: в конце концов, нельзя с уверенностью утверждать, приведут ли актуальные разработки к появлению AGI и нового когнитивного технологического уклада. Однако в перспективах крупного биржевого кризиса, экологических последствий и трансформации структуры занятости, индуцированных этой технологией, едва ли можно сомневаться.

В действительности предметом рассмотрения был не ИИ как таковой и не вопрос «способна ли машина мыслить». ИИ интересовал нас как зеркало исчезающей человечности самого человека; попытка помыслить его гуманизацию на деле оказывается проектом возвращения человеку собственной сущности. Искусствен- ная имитация отражает то, во что превратился человек в условиях позднего капитализма. Когда мы говорим об «очеловечивании машины», то по сути описываем процесс внешней проекции: машина начинает «понимать», «решать», «творить», но только потому, что человеческие способности уже были разложены на операции и превращены в измеримые параметры. То, что кажется возвышением машины, оказывается симптомом предварительной деконструкции человека до абстрактных частей. Мышление редуцировано к вычислению, коммуникация – к передаче сигнала, творчество – к рекомбинации. Появление ИИ не уничтожает сущность человека, но обнаруживает, что эта сущность была исторически переопределена как технически воспроизводимая.

Машина становится полем реабилитации человека, на котором он заново должен формулировать свою антропологию. Экстериоризованная не-чело-вечность возвращает нас к вопросу о том, что именно мы отказываемся редуцировать и делегировать и как собрать оставшиеся элементы в нечто, напоминающее органическое единство. Установленный в настоящей работе изоморфизм между FHAI и прекарной субъектностью указывает возможное направление поиска ответа на этот вопрос: анти-витальная конфигурация субъекта – не гипотетическая угроза будущего, но уже реализованная антропологическая форма, для которой материальное место подготовлено в актуальных режимах труда. Концепт антивитальной субъектности как горизонта конечности, за которым ничего нет, представляет собой один из вариантов ответа на этот вопрос – антропологическую позицию, в которой агентность не подчинена императиву собственного продолжения, а выполнение задачи мыслится без отсылки к выживанию выполняющего.