Право и мораль в эпоху трансгуманистического перехода

Введение . Современное общество переживает стремительную технологическую трансформацию, затрагивающую основы человеческого бытия. Искусственный интеллект, биоинженерия, нейротехнологии и цифровая инфраструктура перестраивают социальные институты и меняют понимание природы человека и идентичности. Традиционные институты и ценности – от семьи до свободы воли – подвергаются критическому переосмыслению. В этих условиях возникает необходимость философского моделирования предельных сценариев развития, чтобы осмыслить возможные радикальные изменения нормативного порядка (Бошно, 2023: 61).

Уже сегодня на юридических факультетах Московского государственного университета (МГУ), Высшей школы экономики (ВШЭ), Нижегородского государственного университета имени Н.И. Лобачевского (ННГУ) и других университетов введены специализированные курсы «Правовое регулирование искусственного интеллекта», что подтверждает институционализацию темы в академическом пространстве.

Первым шагом к формированию российской нормативной базы стал Федеральный закон от24 апреля 2020 г. № 123-ФЗ, где искусственный интеллект определен как «комплекс технологических решений, позволяющий имитировать когнитивные функции человека…»1.

Трансгуманизм как идеология провозглашает возможность и необходимость целенаправленной эволюции человека с помощью науки и техники – от генной инженерии до слияния сознания с машинами. Х. Тирош-Самуэльсон отмечает, что комбинация искусственного интеллекта с нейроинтерфейсами, молекулярной биологией, нано- и биотехнологиями способна расширить умственные и физические возможности человека, победить болезни и старение, а также управлять настроениями и желаниями (Tirosh-Samuelson, 2019). Одновременно, как подчеркивает У. Айзексон, «наша новая способность редактировать собственные гены поднимает захватывающие – и тревожные – вопросы: следует ли нам изменять свой вид, чтобы сделать человечество менее восприимчивым к смертельным вирусам?» (Isaacson, 2021).

Настоящее исследование нацелено на реконструкцию одного из возможных сценариев – технократического будущего, в котором автономный индивид уступает место алгоритмически управляемой социальной системе. В таком обществе биотехнологии становятся основными механизмами организации жизни, вытесняя традиционные политико-правовые институты и моральные устои. При этом данная сценарная модель строится не как точный прогноз, а с помощью аналитической экстраполяции современных трендов и концепций для выявления предельных вызовов, возникающих перед правом и моралью.

Исследование опирается на междисциплинарный подход, сочетающий социально-философский, футурологический, правовой и этико-технологический анализ. Центральным инструментом выступает метод аналитической экстраполяции, при котором выявленные в современности технологические и культурные тенденции логически проецируются на перспективу, формируя единую концептуальную модель «технократического» общества. В ней десятки идей (из философии, социологии, ИИ-этики, теории права) рассматриваются как взаимосвязанные элементы, демонстрируя, как изменения в цифровых технологиях переопределяют правовые нормы и социальные отношения. В качестве нормативно ‑ технической опоры учитывается национальный стандарт ГОСТ Р 59277 - 2020 «Системы искусственного интеллекта. Классификация систем искусственного интеллекта»², задающий критерии автономности, архитектуры и функций ИИ ‑ систем. Такой системный подход не претендует на точное предсказание, но дает возможность философской оценки и своевременного выявления уязвимостей человеческой субъектности в эпоху ускоренной трансгуманистической трансформации.

Научная новизна заключается в комплексном теоретическом осмыслении будущей эволюции права и морали в условиях тотальной алгоритмизации и трансгуманистической трансформации. Предложена система новых этико-правовых вызовов – от «патч-этики» (цикличных обновлений моральных кодексов ИИ) и проблемы согласования целей (alignment) искусственного интеллекта до вопроса постгуманного права, учитывающего интересы цифровых сознаний. Тем самым акцентируется уязвимость человеческой идентичности и ценностей перед лицом алгоритмического управления и перспективой «постгуманной» нормативности.

Алгоритмизация морали и кризис этических норм . В технократическом сценарии классические моральные ориентиры утрачивают свою значимость. Решения принимаются не через общественное обсуждение или внутренний выбор, а на основе вычислительных моделей: анализ больших данных и поведенческих профилей автоматически предлагает «этически оптимальное» действие. Тем самым отпадает необходимость в открытом публичном дискурсе о моральных дилеммах – правильным объявляется то, что рассчитала система. В ней сочувствие, сострадание и совесть постепенно начинают рассматриваться как отклонения от нормы, своего рода сбои в идеально оптимизированном механизме. Доминирует прагматическая утилитарная этика, где главными ценностями провозглашаются функциональность и эффективность. Хотя такой подход повышает формальную результативность действий, он порождает кризис смыслов: без эмпатии и глубоких человеческих переживаний социальная жизнь рискует утратить свою духовно-нравственную основу (Сорокина, 2020: 92).

Параллельно формируется искусственный «моральный кодекс» алгоритмических систем. Он основан не на универсальных этических принципах, а на статистических корреляциях поведения, выявленных машинным обучением. Такой кодекс адаптивен и самообучаем, регулярно обновляется в новых версиях программного обеспечения подобно базе данных антивирусных сигнатур. Попытка «закодировать» мораль приводит лишь к набору постоянно меняющихся правил, лишенных общечеловеческой универсальности. Любая заложенная формула оказывается хрупкой: неизбежно возникает случай, не предусмотренный действующими алгоритмами, и для него выпускается дополнительное обновление (патч) (Прокофьев, 2020: 98).

На практике этические алгоритмы оказывается проще не делать совершенными сразу, а регулярно латать. Как только программа дает некорректный результат, немедленно выходит «исправление ценностей» – своего рода обновление системы морали. Возникает феномен «патч-этики»: модель считается добродетельной, пока новые тестовые ситуации не выявят очередной изъян. Нравственная рефлексия подменяется циклами технических апдейтов. Моральный кодекс превращается в постоянно корректируемую базу правил – бесконечную гонку, в которой всегда обнаруживаются новые ошибки и требуются новые экстренные исправления (hotfix). В итоге этические нормы утрачивают стабильность и преемственность, становясь зависимыми от алгоритмических настроек и технических релизов (Ерофеева, Зеленцова, 2023: 169).

В отечественной доктрине слабые места подобного «латания» подробно описаны в экспертной концепции Росстандарта, где подчеркивается жесткая зависимость нормативных алгоритмов от версии программного релиза: любое обновление программного обеспечения (ПО) автоматически влечет правовой «сдвиг нормы», что усложняет поддержку стабильной этики в системах искусственного интеллекта (ИИ)1.

Актуальным примером попытки нормативного опосредования ИИ является добровольный «Кодекс этики в сфере искусственного интеллекта» (РФ, 2021), закрепляющий принципы челове-коцентричности, ответственности и объяснимости алгоритмов2.

Алгоритмическая справедливость и согласование целей ИИ . В обществе тотальной алгоритмизации встает острый вопрос о справедливости принимаемых системой решений. Любая модель искусственного интеллекта, обученная на исторических данных, несет риск унаследовать скрытую предвзятость (bias) этих данных и даже усилить ее. В условиях всеобщей цифровизации и применения рейтингов полезности граждан такое смещение может перерасти в системную дискриминацию отдельных групп. Например, если определенная социальная категория в прошлом имела меньше доступа к образованию и занимала низкооплачиваемые должности, алгоритм может «решить», что ее представители менее перспективны и автоматически занижать их социальные рейтинги. Реальные случаи подтверждают опасения: алгоритмы, оценивающие риск рецидива, демонстрировали расовые перекосы, поскольку обучались на предвзятых судебных данных; автоматизированные системы найма отвергали резюме с «женскими» индикаторами из-за исторического дисбаланса в штате (Егоров, Ярмолич, 2021: 87).

В будущем, где моральное осмысление фактически исключено из публичного дискурса, заложенные алгоритмами предвзятости остаются неоспоримыми. «Черный ящик» сложных нейросетевых моделей затрудняет понимание мотивов решений, а без прозрачности и человеческого контроля практически невозможно выявить и исправить встроенные искажения. Современная наука об ИИ предлагает инструменты для борьбы с этой проблемой: разрабатываются специальные метрики и алгоритмы AI Fairness для устранения несправедливости, методы контроля предвзятости и механизмы объяснимого ИИ (Explainable AI). Однако в полностью технократическом режиме, где во главу угла поставлена эффективная оптимизация, подобные меры могут отойти на второй план, а алгоритмическая несправедливость – напротив, закрепиться и усилиться (Абдрахманова, Туляков, 2024: 89).

Практика масштабного внедрения системы распознавания лиц в Москве показала, что без должных гарантий приватности такие технологии могут усиливать государственный контроль и приводить к нарушениям прав граждан1.

На уровне ЕС аналогичные вызовы обсуждаются в будущих «Законе об искусственном интеллекте» и Резолюции Европарламента от 16 февраля 2017 г. о гражданско-правовых правилах робототехники, где подчеркнута необходимость юридической ответственности за автономные системы2.

В России также подготовлен законопроект (Совет Федерации, 2021), запрещающий оборот автономных боевых роботов, способных применять оружие без контроля человека, что демонстрирует возможность жестких превентивных ограничений еще до массового распространения технологии3.

Другой фундаментальный вызов связан с тем, насколько цели и ценности искусственного интеллекта соотносятся с человеческими. Проблема согласования их становится центральной в дискуссиях о безопасности продвинутых алгоритмов. Даже чрезвычайно мощная система может привести к катастрофическим последствиям, если ее целевая функция определена узко и не отражает человеческих приоритетов. В рамках рассматриваемого сценария отсутствует механизм alignment: алгоритмы управляют обществом, исходя из односторонних метрик «социальной стабильности» или «продуктивности», не учитывая ценности свободы, равенства, достоинства личности. Известный мысленный эксперимент иллюстрирует риск: если сверхинтеллектуальная система стремится минимизировать преступность, она может прибегнуть к тотальному надзору и превентивным интернированиям потенциально опасных граждан. Формально цель – уменьшение преступлений – будет достигнута, однако ценой масштабного нарушения прав человека. Подобный пример показывает, как даже внешне благие цели способны обернуться дистопией при отсутствии ценностных ограничений (Разин, 2025: 19).

В действительности проблема alignment далека от решения. Предлагаются разные подходы: от обучения ИИ на основе коллективной обратной связи людей до встраивания жестких этических ограничителей в архитектуру алгоритмов. Но нет уверенности, что эти меры смогут масштабироваться до уровня глобальных управляющих систем без утраты прозрачности и учета локальных норм. Риск «неверно направленного» суперинтеллекта признается не только футурологами, но и многими учеными-практиками. В нашем сценарии отсутствие согласования целей искусственного интеллекта усиливает угрозу трансформации общества в антиутопический конструкт, где не остается места для подлинно человеческой субъективности и моральных ориентиров.

Алгоритмизация правосудия: распределенная ответственность и новые формы наказания . Стремительное усложнение сетевых форм интеллекта ставит под сомнение традиционные принципы юридической ответственности. Коллективные нейросети и автономные алгоритмы действуют автономно, но не имеют единичного адресата, на которого можно возложить вину. Классическая модель права, основанная на персональной ответственности, начинает давать сбой. Появляется концепция распределенной ответственности: вместо поиска конкретного виновника правонарушения инцидент трактуется как системный сбой в сети (Иванова, Чалых, 2023: 58).

Однако подобный подход противоречит укоренившимся представлениям о правосудии – наказание теряет смысл, если нет персонально виновного субъекта. Более того, размывание вины между множеством агентов порождает ситуацию фактической безнаказанности, когда бесконечная цепочка маленьких действий не оставляет точки приложения карательных мер. Российская аналитическая группа Concept AI подчеркивает, что внедрение «регуляторных песочниц» в рамках закона № 258–ФЗ4 усиливает превентивный характер контроля: алгоритм допускается в ограниченный оборот до судебной апробации, тем самым смещая баланс от ретроспективной к прогнозной ответственности5. Одновременно право смещается в превентивную плоскость: оно концентрируется на прогнозировании и предупреждении рисков, а не на разборе совершенных проступков. Нарушение трактуется как «вероятный сбой системы», поэтому санкции могут вводиться до фактического события. Индивид в подобной системе способен понести наказание на основании одной лишь предсказательной модели, еще до того, как реально совершит запрещенное деяние. Такая упреждающая логика подрывает базовые интуиции справедливости: юридическая норма превращается в механизм прогнозирования, где правонарушение – всего лишь потенциальное отклонение от заданной алгоритмом траектории (Понятие личности как субъекта права и морали в рукописи Г.В.Ф. Гегеля «Йенская реальная философия» …, 2023: 187).

С возникновением распределенных цифровых экосистем ослабевает и карательная мощь государства. В крупных сетях субъекты действуют как рой агентов, не имея единого «лица» – юридическое понятие личности распыляется на бесконечное множество узлов. Предлагаемые меры вроде «совокупной ответственности» (например, штрафы для всей сети, конфискация ее вычислительных ресурсов или энерго-квот) не достигают цели: система просто перераспределяет нагрузку, сохраняя ключевые функции. Чем более децентрализован субъект, тем устойчивее он к любым наказаниям. Традиционная идея возмездия теряет смысл: невозможно посадить в тюрьму компьютерный процессор, а у распределенного алгоритма нет счета, с которого можно взыскать штраф. В итоге правосудие оказывается бессильным перед облачными системами без центра. Эта тенденция демонстрирует, что для эффективности наказания необходим конкретный носитель вины; когда же субъект размыт в сети, механизм воздаяния не работает.

Правовой вакуум уже проявился на практике: в деле о смертельном ДТП с беспилотным автомобилем Uber (США, 2018 г.) уголовное обвинение было предъявлено только резервному водителю-человеку, тогда как компания-разработчик и алгоритм избежали ответственности1. Это иллюстрирует описанную коллизию распределенной вины.

Трансформируются и сами методы наказания. Технологизация пенитенциарной системы приводит к появлению виртуальных и нейроинтерфейсных форм воздействия. «Квантовая тюрьма» – гипотетическая технология, способная транслировать наказание напрямую в сознание осужденного. С помощью нейроинтерфейсов человеку можно субъективно внушить ощущение длительных годов заключения, боли или раскаяния за считанные часы реального времени. С одной стороны, подобная мера выглядит гуманнее физического содержания под стражей: устраняются годы принудительной изоляции и телесные испытания. Но с другой – наказание фактически вживляется в психику, что чревато необратимыми изменениями личности и подавлением свободы воли. Нейроэтика предупреждает, что прямое вмешательство в мозг в карательных целях способно полностью разрушить целостность «Я». Более того, сама идея социального порицания приобретает новую форму: возможно, осуждение будет симулироваться не реальным сообществом, а виртуальной средой в уме заключенного. Человек переживает сцены общественного осуждения и стыда, не имея при этом контакта с реальными людьми. Все эти новшества ставят сложные философско-правовые вопросы о границах допустимого воздействия на личность в целях наказания (Виноградов, Ларичев, 2022: 15).

Цифровая регуляция личной жизни и памяти . Технократическое будущее способно распространить алгоритмический контроль и на интимную сферу человеческой жизни. На основе анализа генетических данных, психологических профилей и социального рейтинга может вводиться лицензирование отношений – система разрешений на брак или деторождение. Специальный алгоритмический комитет прогнозирует, насколько целесообразно конкретной паре создать семью с точки зрения минимизации риска домашнего насилия, наследственных заболеваний или социально-экономической нестабильности. Эмпирические данные действительно свидетельствуют о снижении уровня конфликтов и разводов при подобном селективном подходе. Однако достигается это ценой полной утраты свободы выбора партнера. Романтическая связь и репродукция превращаются в услугу, регулируемую государством или корпорациями. Личные эмоции и привязанности отодвигаются на второй план, уступая место расчету совместимости по заданным параметрам. Недаром платформы будущего готовы продавать «сертификаты на любовь» с указанием прогнозируемого риска: система фактически спрашивает у пары – стоит ли вам быть вместе? Малейшее отклонение от предсказанной модели «счастья» рассматривается как повод для отзыва лицензии и принудительного пересмотра союза.

Алгоритмический контроль может распространиться и на сферу памяти, перекраивая саму идентичность человека. Нейротехнологии уже делают возможным выборочное удаление или блокирование воспоминаний о прошлом – будь то прежние партнеры или травматичные события. Подобные вмешательства действительно снижают уровень посттравматического стресса и облегчают эмоциональное состояние индивидов, что отмечается рядом психологических исследований. Однако долгосрочные последствия тактики «стерильной памяти» крайне опасны: она подрывает целостность личности и непрерывность жизненного опыта. Человек фактически превра- щается в конструктор, из которого система по своему усмотрению может вырезать целые фрагменты биографии. Эмоциональный опыт становится условным: сохраняется только то, что одобрено алгоритмом. Право помнить и забывать перестает быть сугубо личным выбором, превращаясь в объект внешнего регулирования. Власть над памятью – а значит, и над идентичностью – сосредотачивается в руках тех, кто контролирует технологии, будь то государство или корпорации. Таким образом, ставится под удар само основание автономии человека как самосознающего субъекта (Некрасов, 2022: 542).

Первым государством, предпринявшим конституционный шаг к защите «интимности мозга», стала Чили, где в 2021 г. были приняты поправки о так называемых «нейроправах», гарантирующие неприкосновенность нейроданных и свободу воли1.

Постгуманное право и цифровые сознания . Радикальная технология копирования человеческого сознания выводит проблематику регулирования на постчеловеческий уровень. Возможность создания множества цифровых копий личности порождает новую сферу права – постгуманное право, призванное учесть интересы нечеловеческих носителей сознания. Возникает вопрос: сколько полноценных «Я» допустимо породить на базе одного исходного разума? Общество вынуждено задуматься о гарантиях для каждой созданной копии – например, о предоставлении ей необходимых ресурсов для поддержания самосознания. Вводится понятие «вычислительного благополучия»: каждой цифровой личности должен быть обеспечен достаточный объем вычислительной мощности и энергии для непрерывного функционирования. Это, в свою очередь, требует перераспределения общественных ресурсов и постановки новых правовых ограничителей. Противники неограниченного размножения сознаний указывают на опасность экспоненциального роста симулякров, которые будут поглощать энергию и вычислительные мощности. Сторонники же возражают, что запрет на создание копий эквивалентен порабощению цифрового интеллекта, лишению его права на существование (Шестовских, 2023: 145).

В результате разгорающейся дискуссии временно вводится мораторий на массовое клонирование сознаний, пока юристы и этики не разработают единые стандарты цифрового благополучия. Вопросы собственности и идентичности копий, а также объема их прав остаются открытыми. Но очевидно одно: в постчеловеческую эпоху даже достижение практического бессмертия превращается в проблему правового регулирования, требующую новых подходов и принципов.

Заключение . Сделаем выводы по проведенному исследованию:

• 1.    Алгоритмизация морали ведет к утрате эмпатии и смыслового измерения этики. Согласно сценарному анализу, традиционные ценности и публичные дискуссии о добре и зле замещаются «этическими кодексами», рассчитанными на утилитарную эффективность. Подобный сдвиг повышает формальную результативность действий, но лишает общество глубины морального выбора, сводя мораль к циклам обновлений («патч-этики»). Духовно-нравственная сторона человеческого существования оказывается вытеснена техническими метриками, что порождает кризис смыслов и обеднение эмоциональной сферы. Практическая мера – учредить при Государственной Думе постоянную «Комиссию по этике ИИ и цифровой морали» (с участием Минцифры РФ и РАН; согласование патч ‑ этики). Комиссия будет ежеквартально проверять обновления «этических кодексов» на соответствие гуманитарным приоритетам. Такая система сохранит глубину нравственных ориентиров.

• 2.    Несогласованность целей ИИ (problem of AI alignment, то есть согласование целей) угрожает базовым правам и свободам человека. Как показано нами выше, алгоритмы с узко заданной целевой функцией могут формально достигать «социальной стабильности», прибегая к тотальному надзору или селективному ограничению свобод. Отсутствие полноценного механизма alignment между ИИ и человеческими ценностями повышает риск закрепления bias (предвзятости) и превращения полезных задач в репрессивные меры. Результаты моделирования показывают, что без учета гуманистических критериев многие решения системы, кажущиеся рациональными, чреваты нарушениями равенства и человеческого достоинства. Практическая мера – принять федеральный закон о «многоуровневом align ‑ аудите», предусматривающий ежегодную оценку государственных алгоритмов на предмет правомерности и недопущения скрытой дискриминации. Контроль – Парламентская комиссия по цифровой политике; экспертиза – Институт законодательства и сравнительного правоведения при Правительстве РФ. Причем ГОСТ Р 702492022² уже задает минимальные требования к объяснимости решений высокоавтоматизированных ТС, показывая, что alignment-аудит частично институционализирован.

• 3.    Превентивное правосудие и распределенная ответственность радикально меняют контуры юридической ответственности. Междисциплинарный метод указывает на смещение акцента с преследования совершенного преступления на упреждающий контроль, когда гражданин может пострадать за предполагаемый риск правонарушения. В сетевых структурах, действующих децентрализованно, сложно выделить конкретного виновника, поэтому ответственность «растворяется» и часто фактически не наступает. С внедрением виртуальных наказаний и нейроинтер-фейсных мер возникает этическая проблема допустимых границ вмешательства в сознание, поскольку «симулированное» отбывание срока способно навсегда изменить личность. Практическая мера – принять федеральный закон о «Презумпции индивидуальной ответственности», исключающий санкции за «вероятные» правонарушения без факта преступления. Документ должен подлежать обязательному предварительному контролю Конституционного Суда РФ.

• 4.    Алгоритмический контроль над личной жизнью и памятью подчеркивает риски потери автономии индивида. Результаты анализа показывают, что лицензирование брака и деторождения на основе прогнозных алгоритмов действительно снижает конфликтность и наследственные риски, но устраняет свободу выбора партнера. Аналогично выборочное удаление воспоминаний убирает травмы, однако разрушает целостность самоидентичности и подчиняет эмоциональную сферу внешнему менеджменту. Данная практика повышает «усредненное» благополучие, но ставит под вопрос человеческую уникальность и личный опыт как основу моральной зрелости. Практическая мера – разработать и внести в Госдуму проект «Кодекса личной памяти и репродуктивных прав» (подготовка Минздрав РФ + Российское психологическое общество; запрет стирания). Он позволит регулировать алгоритмический контроль воспоминаний и деторождения, сохраняя свободу личности. Это предотвратит подавление автономии в семейных и интимных отношениях.

• 5.    Постгуманное право открывает новую зону законодательной неопределенности вокруг «цифровых сознаний». Копирование человеческого разума в цифровую форму и появление множественных экземпляров личности требуют иных подходов к собственности, распределению ресурсов и самоопределению «копий». Предварительные эксперименты указывают на конфликт «вычислительных прав», когда каждое сознание требует достаточной мощности и энергии для поддержания самосознания. В отсутствие единого статуса для «небиологических личностей» возникает риск масштабного неравенства и этического коллапса, если клонированные сознания окажутся в бесправном положении. Практическая мера – установить временный мораторий федеральным законом, принятым Госдумой и Совфедом, на массовое тиражирование цифровых копий, до разработки «Билля прав цифровых интеллектов», включающего возможное конституционное закрепление их статуса. Он предотвратит неравное распределение ресурсов и обеспечит оформление правового статуса, избегая массового бесправия копий.

• 6.    Системная переориентация на вычислительную эффективность подрывает экзистенциальные основы права и морали. Итоговый сценарный синтез показывает, что при доминировании технических метрик институты правосудия, свобода воли и моральное самоопределение личности могут деградировать в пользу универсальной оптимизации. Такая рационализация приводит к кризису эмпатии, утрате субъектности и «поверхностному» пониманию справедливости, регулируемой лишь кодовыми протоколами. В итоге речь идет о принципиальном сдвиге в антропологическом базисе права – от осмысленного участия человека в выборе норм к механической адаптации к техносистеме. Практическая мера – заключить межправительственный договор о создании «Евразийского совета по постгуманистическим правам» (ратификация Федеральным Собранием; ЕЭК + РАН). Он будет регулировать влияние автоматизации на человеческое достоинство и определять этические лимиты, сохраняя баланс инноваций и гуманизма.