Потеря личности в сфере искусственного интеллекта: экзистенциальная и правовая сторона проблемы

Научная статья                                          PTS         I Attribution                                       I

Введение.

Представление о том, что из себя представляет личность, можно рассматривать с разных точек зрения.

Социокультурный подход к пониманию личности связывает её формирование с погружением ее в определенную культурную среду, социокультурный контекст, поскольку личность не может существовать без накопленного опыта, самоосо-знавая себя через данный опыт.

Социально-психологический подход приобретения такого опыта и становление посредством него личности предстаёт как сложный развернутый во времени процесс опосредствованного познания себя, в ходе которого человек учится осознавать себя как субъекта, отличного и иногда противопоставленного другим, либо в каком-то формате с ними соотносящегося. Здесь также учитывается фактор понимания себя, как чего-то или кого-то самостоятельного, способного действовать от других независимо и не терять своего самоопределения, но при этом находиться в обществе.

С подобной трактовкой тесно связано и объяснение такого феномена, как субъектность, то есть способность выступать активным преобразователем действительности, в частности, социального мира, и тогда можно говорить о социальной субъектности личности.

Вопрос о том, может ли искусственный интеллект выступать с позиций социального субъекта, реализуя селективность вариантов социальных действий и обеспечивая воспроизводство социальных практик, характеризуется как экзистенциальным, так и правовым ракурсами рассмотрения.

Главной экзистенциальной проблемой, в этом аспекте, становится проблема уникальности человеческой личности и рисков её подмены огромным комплексом возможных алгоритмов социальных действий, а также проблема исчезновения личности как таковой.

В определенном смысле, данную проблему можно считать продолжением дискуссии о смерти субъекта, распространенной в неклассической философии и связанной с определением субъекта как некоего конструкта, за которым, кроме составляющих элементов, нет сущностного центра, метафизической субстанции.

Правовая же сторона проблемы связана с обширным охватом всех сторон социальной жизни современного человека механизмами правового регулирования. Общественная значимость внедрения технологий искусственного интеллекта определяет и очевидную актуальность правовой регламентации данного процесса, то есть включает искусственный интеллект в систему правоотношений в обществе. В то же время, сами правоотношения становятся объектом воздей- ствия технологий искусственного интеллекта с целью упрощения их регулирования.

Может ли данный процесс вытеснить личность как таковую, отгородив человека от возможности влиять на траектории правоотношений и их результаты? В данном вопросе экзистенциальная и правовая стороны проблемы пересекаются, создавая предмет для социально-философской и правовой рефлексии вопроса о потере личности в эпоху цифровизации и повсеместного внедрения искусственного интеллекта, а также о способности права противостоять упомянутым угрозам.

Обсуждение.

Согласно теории самодетерминации, важным аспектом участия человека в какой-либо деятельности является наличие чувства контроля над своими действиями, или автономия воли. Мотивация практической деятельности формируется исходя из ряда принципов поиска внутренней свободы и путей её реализации, обусловленного необходимостью удовлетворения базовых психологических потребностей. Отсюда можем сделать вывод о том, что для человека одной из потребностей, определяющих сущностное наполнение жизни, является чувство обладания контроля над собой.

Конституция Российской Федерации упоминает термин «личность» в ч. 1 ст. 21, где говорится о том, что достоинство личности охраняется государством и ничто не может быть основанием для его умаления [3]. В данном случае, речь идет о «личных» правах и свободах граждан. Также несмотря на то, что законодатель, как правило, употребляет термин «личность» в значении «человек» и никак не разграничивает данные понятия, мы можем на подсознательном уровне уловить факт принадлежности права определенному субъекту. В случае с употреблением слов «человек» и «личность» в законодательстве, мы смотрим на то, что человек обладает правами и является субъектом правоотношений, но никак не объектом.

XXI век славится стремительным развитием искусственного интеллекта и быстрым внедрением его во многие сферы общественной жизни: беспилотные автомобили, перевод текста, исправление орфографических ошибок, принятие решений по правовых вопросам, и др.

При рассмотрении вопроса внедрения искусственного интеллекта в нашу жизнь следует упомянуть классификацию Стюарта Рассела и Питера Норвига 2006 г. [2, с. 35]:

• 1.    Системы, мыслящие по-человечески.

• 2.    Системы, действующие по-человечески.

• 3.    Системы, мыслящие рационально.

• 4.    Системы, действующие рационально.

Исходя из вышеуказанных критериев, мы можем сделать вывод о том, что мышление и действия человека могут как соответствовать, так и противоречить рациональному подходу на практике. Например, при использовании закона тождества формальной логики легко можно прийти к неправильному суждению: «Ученики прослушали учителя» – фраза была сказана одна, но значений у фразы два. Согласно закону тождества, мысль должна быть ясной, определённой, однозначной и недвусмысленной.

Также можно привести в пример загадку с подвохом: «этим заканчивается и день, и ночь». В данном случае, закон нарушается тем, что берется время суток и некое слово. Слово ≠ не время суток, а время суток ≠ не слово – два нетождественных объекта незаметно отождествляются и возникает видимость головоломной задачи.

Вопрос заключается в том, способен ли искусственный интеллект быть улучшен до такой степени человеком, что ошибки допущены не будут? И следующий вопрос, который возникает из первого: Необходимо ли создавать такое мышление, которое будет работать на основе «правильных» законов логики и не будет никогда допускать ошибок?

В таком случае, за пределами «правильности» оказывается неклассическое мышление и порожденные им теории, направления в искусстве и в принципе «ошибочная» точка зрения, хотя в зависимости от контекста она может повлиять на социальную жизнь и конкретные социальные практики конструктивно (можно вспомнить цивилизационные теории развития общества, в частности, подход А. Тойнби, когда жизнеспособность цивилизации может быть спасена за счет нетривиального, оригинального уникального «ответа на вызов» как угрозы её существованию).

Человеческое мышление способно на многое, и мы видим это каждый день, когда пользуемся различными бытовыми приборами или теми вещами, которые являются незаменимой частью нашей жизни, например, Интернет.

Возможно ли в таком случае разработать искусственно выведенный тип сознания, который сможет таким же образом эволюционировать и изменяться?

Некоторые открытия совершались учёными случайно в результате совершения «ошибок». Например, пенициллин открыли в тот момент, когда Александр Флеминг забыл вымыть чашки Петри перед отъездом в отпуск от стафилококков. Через несколько дней в них появилась плесень, вокруг которой все бактерии исчезли. Является ли это действие «ошибкой» в том понимании, в котором мы используем это слово? Сможет ли искусственный интеллект в нужный момент понять, что совершаемая им ошибка не является таковой на самом деле, сможет ли он в

целом совершать такие «ошибки», используя модель рационального способа мыслить и действовать?

Результаты.

В настоящее время в Российской Федерации на законодательном уровне, посредством Федерального закона от 24.04.2020 N 123-ФЗ, закреплено официальное определение искусственного интеллекта – «комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека» [6].

Россия является не единственным страной в мире, которая обращается к применению искусственного интеллекта в рамках внешней и внутренний политики государства. Такая тенденция распространяется повсеместно, более того, на сегодняшний день является показателем прогрессивности страны и составляющей её политического и военного веса на мировой арене.

В то же время, данная тенденция имеет и многочисленные минусы. Военная мощь и технические возможности, зависящие от системы, способной принимать решения и выбирать варианты действия без участия человека, могут обернуться ожившими сценариями из фантастических кинофильмов о робо-апокалипсисе на Земле. В менее эсхатологическом ракурсе упомянутые риски могут быть связаны с неоправданными с точки зрения гуманности, однако, «рационализированными» искусственным интеллектом жертвами. Еще один ракурс проблемы – возможность ухода из-под контроля человека созданным с его участием приложений, дающих гипер-возможности относительно коммуникации между людьми. Превосходящие мыслимые ранее границы.

Теория мёртвого Интернета (Dead Internet Theory) с 2021 г. активно изучается многими пользователями сети. Концепция заключается в том, что Интернет сейчас состоит из активности ботов (ненастоящих людей) и генеративного ИИ-контента, что минимизирует контроль со стороны человека, так как информация создаётся не живыми людьми, а искусственным интеллектом. Проблемой является факт нахождения человека в определённом информационном пузыре, который создается намеренно и в котором не содержится реальный и «живой» контент – люди массово начинают испытывать тревоги и одиночество, а также разочарование от состояния современного Интернета.

В ноябре 2026 г. компания 2Wai выпустит ИИ-приложение, в котором можно будет говорить с мёртвыми. Для общения пользователям необходимо будет отсканировать внешность, голос и интересы человека, чтобы создать его «аватар». После этого, ему можно будет позвонить или написать – нейросеть будет запоминать ваши разговоры. Благодаря накопленному эмпирическому материалу и специальным технологиям, нейросеть будет обеспечивать необходимую «спонтанность» беседы, её ответвлений, эмоциональных реакций собеседника, что должно создать полное ощущение общение с реальным человеком, более того, с личностью – ИИ претендует на подмену всех тех качеств, которые доселе считались сущностными и содержательными характеристиками личности, в том числе сюда входит и её социальная субъектность.

Таким образом, проблема симуляции социальной реальности, о которой говорил почти полвека назад Жан Бодрийяр, приобретает невиданные масштабы, угрожая постепенно «сместить» личность с позиций единственного «оператора» социальной реальности, который посредством социальной субъектности способен задавать и менять траектории социального развития, адаптироваться к новым условиям социального бытия, открывать в нем новые грани и уровни и в принципе контролировать собственное положение внутри неё.

После релиза программы, дающей возможность общения с умершим человеком, в феврале 2026 г. Марк Цукерберг запатентовал свою нейросеть. В настоящее время известно, что ИИ от Цукерберга сможет управлять аккаунтом умершего человека, продолжая постить, лайкать и общаться от его имени. Технология также способна совершать видеозвонки друзьям и родственникам покойного, имитируя его поведение в сети при жизни на основе его прошлых данных. Копии должны будут создаваться исключительно с согласия пользователя и его семьи.

Мнения пользователей Интернета разделились – кто-то считает, что данный проект имеет право на существование, а некоторые, что это неправильно. Неизвестно, насколько «точно» будет передаваться поведения человека, а также вопрос о том, что личность в течение всей жизни может изменяться, остаётся открытым.

Человека нельзя «создать» искусственно; то, что предлагается упомянутыми компаниями – попытка подменить личность той информацией, которая осталась о нём после смерти в открытом доступе для всех и в закрытом для немногих. Остается в стороне способность человека менять свою мировоззренческую позицию, иногда на диаметрально противоположную, переживать потрясения и кризисы, увлекаться, полюбить что-то совершенно новое. Также стоит учесть, что многим людям тяжело даётся принятие факта утраты близкого и любимого человека.

В качестве одного из мотивов создания данного приложения декларируется психологическая помощь при утрате и ослабление негативных последствий от неё. Способна ли данная нейросеть утешить людей и не усугубит ли это психическое и психологическое состояние человека?

Ментальное здоровье людей при нынешней политической и экономической ситуации нестабильно и в данном случае это может привести к тому, что человек замкнётся, не будет признавать факт смерти близкого, выстраивая своё личное и социальное бытие на основе симуляции, а не реальных отношений. А поскольку эмоциональное и психологическое состояние, в которое человек может прийти под воздействием такого общения, способно порождать конкретные действия, можно говорить и о конкретных правовых последствиях такой коммуникации, то есть при отсутствии реального субъекта искусственный интеллект и его продукты могут замещать роль субъекта правоотношений, принимая участие в построении правовой реальности и её изменении.

Стоит также учитывать вопрос нахождения такого «мёртвого» пользователя в интернет-пространстве. Факты его действий не могут подпадать под действие лица, которое умерло, потому что этот пользователь не является им.

Право быть забытым, также известное как «right to be forgotten», впервые на уровне международного права вошло в обиход в 2014 году, но это не означает, что данное право не существовало ранее.

Право быть забытым всегда относилось к какой-либо информации, при этом изначально словосочетание применялось исключительно по отношению к судимости преступников после их выхода из тюрьмы. Оно являлось одной из форм социальной реинтеграции – постепенного возвращения преступника в общество и последующего оказания ему поддержки.

Такое право должно было обеспечивать «забывание» со стороны общества каких-либо неправомерных действий правонарушителя, что обеспечивало бы использование человеком в полной мере такие права, как право на труд, право на защиту чести, достоинства и деловой репутации, право на уважение частой жизни и др.

К сожалению, мы не можем говорить о такой социальной реабилитации в тех случаях, когда на теле человека присутствует тюремная татуировка. По мнению некоторых учёных, изучающих проблематику развития права на забвение, «людям должна быть предоставлена возможность прощать или игнорировать прошлые ошибки, а не «забывать» тех, кто их совершил» [4, с. 15].

В контексте разработки для общения с мёртвыми людьми нейросети, которая сможет вести социальную активность в Интернете, фактор «забывания» информации и прощения такого пользователя становится невозможным и пугающим. Учитывая, факт развития института права быть забытым в обществе, но при этом частого применения в законодательстве многих стран, непонятно каким образом получится улучшать данный институт дальше – права и обязанности распространяются только на живых людей.

Гражданским кодексом Российской Федерации (далее – ГК РФ) право на уважение частной жизни прямо не предусмотрено, но, несмотря на это, содержание данного права можно увидеть в статьях 150, 152–152.2 [1]. Например, согласно п. 1 ст. 152 ГК РФ, гражданин вправе требовать опровержение сведений, порочащих его честь, достоинство или деловую репутацию, если такие сведения не соответствующие. В таком случае закон затрагивает нематериальные блага граждан, которые являются неотделимыми от личности и неотчуждаемыми. Такие права даны человеку с рождения, но в тех случаях, когда мы говорим о праве быть забытым в современном представлении, мы рассматриваем право, приобретённое в связи с наступлением какого-то определённого действия или события в сети «Интернет» (пока человек не будет иметь доступа к информационной системе, применение такого права невозможно).

Так, к примеру, в решении суда по делу Google Spain против Марио Костеха Гонсалеса ещё 10 лет назад «право на забвение» рассматривалось либо как полное стирание и блокировка данных, либо как исключение информации из результатов поиска [8].

Помимо проблемы ментального здоровья людей стоит также учесть и физический вред, который может быть причинён искусственным интеллектом. 28 февраля 2026 г. по начальной школе «Шаджаре Тайебе» в городе Минаб на юге Ирана был нанесён удар во время атак США. Целью атак была расположенная неподалёку иранская военная база. В результате удара погибло более 175 человек (в основном, ученики школы) [7]. При этом некоторые зарубежные источники утверждают, что иранская школа могла быть принята ошибочно за военный объект.

Глава Centcom, адмирал Брэд Купер, заявил в среду, что Соединённые Штаты «используют различные передовые инструменты искусствен- ного интеллекта» для проведения ударов. «Эти системы помогают нам просеивать огромные объёмы данных за секунды, чтобы наши лидеры могли прорезать шум и принимать более умные решения быстрее, чем враг успевает отреагировать. Люди всегда принимают окончательные решения о том, что стрелять, а что нет, и когда стрелять», – сказал Купер. «Но передовые инструменты искусственного интеллекта могут превратить процессы, которые раньше занимали часы, а иногда даже дни, в секунды» [5].

Заключение.

Таким образом можно сделать вывод о том, что искусственный интеллект способен совершать такие ошибки, которые стоят сотен жизней невинных людей.

Искусственный интеллект в современном обществе является значимым и достаточно важным компонентом жизни, как в индивидуальном, так и социальном преломлении. Он упрощает нам жизнь и помогает решить сложные задачи, на которые у нас нет времени. Но искусственный интеллект не является идеальным на сегодняшний день – он способен наносить непоправимый психологический и физический вред живым настоящим людям. Его внедрение в жизнь в качестве отдельного субъекта правоотношения смотрится достаточно спорно и вызывает пока мало доверия.

Человечеству необходимо предпринимать все меры для того, чтобы не совершить ошибок, о которых мы будем жалеть через несколько лет. И если не будет оптимально решена правовая сторона проблемы внедрения технологий искусственного интеллекта в социальное бытие и «замещения» личности как социального субъекта, то её экзистенциальная сторона может обернуться чередой глобальных рисков исчезновения личности как таковой с её творческим потенциалом, самостью и социальной субъектностью.