Безопасность и право в эпоху цифрового бессмертия и нейротехнологий

Ц ифровые технологии стали неотъемлемой частью нашей повседневной жизни,изменяя способы общения, работы и досуга [4]. Они предоставляют новые возможности дляхранения информации, автоматизации процессов и повышения производительности. Так, цифровые технологии открывают новые горизонты для сохранения памяти о близких. Например, проект «Нейрокладбище», реализуемый в Москве ритуальной службой «Ритуал.ру» совместно с IT-компанией Dragons Code [7], в котором создаются цифровые аватары, воспроизводящие внешность и манеру общения усопших, помогая родственникам сохранить память о них.

Концепция «цифрового бессмертия» предполагает сохранение личности в цифровом формате, что позволяет моделировать сознание, речь и манеры умершего человека с использованием сквозных цифровых технологий (далее – СЦТ) (Постановление Правительства РФ от 03.05.2019 № 551 (ред. от 19.12.2019) «О государственной поддержке программ деятельности лидирующих исследовательских центров, реализуемых российскими организациями в целях обеспечения разработки и реализации дорожных карт развития перспективных сквозных цифровых технологий» (вместе с «Правилами предоставления субсидий из федерального бюджета на государственную поддержку программ деятельности лидирующих исследовательских центров, реализуемых российскими организациями в целях обеспечения разработки и реализации дорожных карт развития перспективных сквозных цифровых технологий», «Положением о проведении конкурсного отбора на предоставление государственной поддержки программ деятельности лидирующих исследовательских центров, реализуемых российскими организациями в целях обеспечения разработки и реализации дорожных карт развития перспективных сквозных цифровых технологий»)). Важным шагом в этой области также стало использование технологий DeepFake, которые способны воспроизводить образы и голоса умерших. Эта технология открывает множество возможностей в области развлечения, рекламы и образования, но одновременно вызывает серьезные правовые вопросы [5].

Одной из таких проблем является защита фото-, видеоизображений, используемых для создания DeepFake. Несанкционированный доступ к этим данным может привести к их неправильному использованию и созданию поддельных материалов, что, в свою очередь, может нанести вред репутации усопших и их близких.

Использование DeepFake в корыстных целях может привести к созданию так называемых однодневных аккаунтов и перенасыщенности цифровых аватаров в цифровом мире. Это может вызвать проблемы с доверием к информации.

Следовательно, идентификация DeepFake-материалов становится всё сложнее по мере совершенствования технологий. Впрочем, компания Onfido [4], специализирующаяся на технологиях идентификации личности с помощью искусственного интеллекта (далее – ИИ), предоставляет решения для верификации личности, используя машинное обучение для проверки документов и биометрических данных.

Основные услуги Onfido:

Проверка документов – Onfido анализирует документы, удостоверяющие личность (паспорт, водительское удостоверение, национальные ID-карты), чтобы убедиться в их подлинности.

Биометрическая идентификация – технология сравнивает фотографию на документе с селфи пользователя, чтобы подтвердить, что документ принадлежит ему.

Аутентификация – проверка биометрических данных (например, сравнение селфи с фотографией в документе) илидругиеметоды,такие как паролиилитокены.

Так, для борьбы с DeepFake создаются специальные алгоритмы и программы, способные выявлять подделки, однако их эффективность пока не абсолютна. В связи с чем некоторые страны уже начали рассматривать законодательные инициативы для регулирования использования DeepFake.

Например, в США в январе 2024 года были предложены законопроекты, направленные на запрет поддельных копий и несанкционированного копирования с использованием ИИ (No AI FRAUD) [8]. Законопроект устанавливает федеральную структуру для защиты людей от подделок и фальсификаций, созданных с помощью ИИ, делая незаконным создание цифрового изображения любого человека, живого или мертвого, без разрешения. Это включает как его внешность, так и голос.

В настоящее время вышеуказанный проект находится на начальном этапе разработки, поэтому говорить о конкретных деталях реализации данной технологии преждевременно. Однако сама концепция проекта «Нейрокладбище» абсолютно ясна и понятна. По словам разработчиков, их мотивация заключается в стремлении развивать технологии DeepFake, одновременно предоставляя людям, потерявшим близких, возможность легче справляться с горечью утраты.

Преимущества проекта:

•    сохранение памяти – цифровые аватары помогают увековечить образ усопших; •    терапия горя – возможность взаимодействия с аватаром может облегчить процесс переживания утраты; •    культурное наследие – сохранение истории и воспоминаний для будущих поколений.

За рубежом аналогичные технологии уже применяются. Например, в Японии создаются цифровые мемориалы [1], где родственники могут «общаться» с виртуальными копиями умерших. В частности, были разработаны:

•    социальный робот Рepper для обслуживания похорон;

•    интерактивные надгробные памятники; •    QR-мемориалы и цифровые надгробия.

В цифровом колумбарии используются инновационные технологии концерна Toyota Industries для хранения и обеспечения доступа к останкам умерших [1]. Посетитель использует идентификационную карту для открытия ячейки с миниатюрным надгробием и фотографией погребенного. Специальный персонал может организовать заупокойную молитву. В здании предусмотрены помещения для молитвы и поминальных церемоний, а на крыше расположен сад для уединения и размышлений. Важно отметить, что полностью отсутствует гнетущая атмосфера кладбища, что связано с иным отношением японцев к смерти: смерть принимается с улыбкой, а к умершим родственникам относятся как к духам, активно принимающим участие в жизни семьи. Фото-, видеосъемка внутри кладбища запрещены, чтобы не оскорбить незримо присутствующих духов – ками – согласно синтоистской традиции. Однако, несмотря на многочисленные преимущества, использование таких технологий сопряжено с возможными рисками, которые можно разделить на три категории вреда: психологический, финансовый и социальный [1].

В России пока нет специальных законов, регулирующих использование DeepFake-технологий. Но в то же время рассматривается законопроект, который предполагает уголовную ответственность за использование DeepFake в целях обмана или клеветы (Федеральный законопроект № 718538-8. URL: . Это важный шаг к регулированию этой технологии и защите прав граждан.

Немаловажным является поиск баланса между продвижением новых технологий и защитой прав граждан. Это требует создания четких и справедливых правил использования DeepFake, которые бы предотвращали злоупотребления, но не ограничивали инновации.

В свою очередь, международный опыт показывает, что эффективное регулирование DeepFake требует сотрудничества на глобальном уровне. Так, Закон ЕС об искусственном интеллекте (EU AI Act) [6] по состоянию на 19 апреля 2024 года может служить примером для разработки российских законов в этой области.

Чтобы лучше понять и всесторонне оценить такой неоднозначный проект, а также предположить действительный эффект, который может оказать на людей реализация такой задумки, необходимо обратиться к исследованиям психологов.

В любом случае, прежде чем обращаться к работам исследователей в этой области, необходимо разобрать терминологию. Так, толковый словарь Ожегова определяет горе как «скорбь или глубокую печаль» [3]. Толковый психологический словарь определяет горе как «интенсивное эмоциональное состояние, сопутствующее потере кого-то (или чего-то), с кем (или с чем) у человека была глубокая эмоциональная связь». Из этого можно сделать вывод, что горе – это особое состояние человека, который пережил сильное эмоциональное потрясение, связанное с утратой кого-то или чего-то, что было ему дорого.

Разобрав определения, нельзя также не сказать о причинах, вследствие которых наступает такое тяжелое эмоциональное состояние. Так, А.А. Ковалевская приводит некоторые события, которые в широком понимании могут привести к состоянию горя [2]:

•    смерть родного, близкого или даже незнакомого лично человека (в результате аварии или катастрофы); •    разлука временная или постоянная (развод, отъезд, утрата дружеских отношений);

•    потеря или гибель домашних животных; •    социальные потери (потеря социального статуса, работы); •    психологические и духовные потери (потеря способностей, убеждений).

Из всех приведенных событий, следствием которых может стать состояние горя, на первое место вынесена смерть близкого человека. И это абсолютно логично, так как еще Фрейд заключил, что горе возникает именно по причине утраты близкого.

Таким образом, смерть близкого подводит человека к такому тяжелому эмоциональному состоянию, которое не может не оставить определенный след в человеческой психике. Такие потрясения иногда бывают настолько сильными, что человек, не обладающий крепкой психикой, может не справиться с этой ситуацией.

Смерть близкого оставляет глубокую рану, и неспособность «отпустить» ушедшего может усилить страдание. Проект «Нейрокладбище», позволяющий «общаться» с цифровыми аватарами умерших, может только усугубить это состояние, создавая иллюзию, что утрата не окончательна. Для психически нестабильного человека такая возможность может привести к дальнейшим трудностям в принятии реальности. Это может затянуть человека в постоянное переживание утраты. Истинное исцеление часто связано с принятием и отпусканием, а не с попытками удержать.

На практике значительную помощь в понимании и поддержке людей, переживающих утрату, предоставляет модель четырех задач горя Уильяма Вор-дена, изложенная в его работе «Grief Counseling and Grief Therapy» [10]:

Признание реальности утраты

Эта задача подразумевает осознание факта утраты на когнитивном и эмоциональном уровне. Человек должен принять, что близкий человек не вернется. Это включает в себя определенные ритуалы, например, похороны, это постепенное внутреннее признание утраты.

Переживание боли утраты

Вторая задача заключается в необходимости полностью пережить и выразить боль, связанную с утратой. Это включает в себя различные эмоциональные реакции, такие как печаль, гнев, чувство вины и тревоги. Подавление или избегание этих чувств может замедлить процесс горевания.

Адаптация к среде без ушедшего человека

На этом этапе необходимо адаптироваться к измененной жизни, в которой отсутствует ушедший человек. Это включает в себя как внешние изменения (например, выполнение новых обязанностей), так и внутренние (пересмотр самоидентификации и ролей). Здесь важна работа над формированием новой структуры жизни.

Перенос эмоциональной энергии и продолжение жизни

Последняя задача заключается в том, чтобы найти способ перенести эмоциональную энергию,ра-нее направленную на ушедшего человека, на новые отношения или занятия. Это не означает забывание ушедшего, но предполагает способность жить полноценной жизнью, сохраняя при этом память о нем.

Относительно темы данной работы хотелось бы отметить, что реализация таких проектов, как «Нейрокладбище», может иметь довольно серьезные последствия. Так, на основании приведенных в настоящем исследовании мнений ученых-психологов можно заключить: переживание потери близкого человека является продолжительным и глубоким психологическим процессом. Триггером для развития нестабильного состояния может послужить всё, что угодно. Многие исследователи выделяют в процессе переживания утраты именно момент принятия ухода близкого, то есть состояние, когда человек смиряется с утратой. Такие проекты, как «Нейрокладбище», будут лишь тормозить наступление у человека этой стадии. Самообман вряд ли позитивно скажется на состоянии индивида, и если у него еще и слабая психика, например, он склонен входить в психологическую зависимость, такие вещи пагубно повлияют на его ментальное здоровье. В результате такой человек может остаться зависимым от человека и после его утраты, поэтому придется постоянно прибегать к связи с умершим близким через DeepFake, дабы удовлетворить свою психологическую потребность быть рядом с ним.

Таким образом, можно сделать вывод, что технологии DeepFake в данном отношении приносят людям больше вреда, нежели пользы, и об этом, как нам кажется, можно заявлять смело. Как нам кажется, даже ради эксперимента такие проекты нельзя реализовывать, поскольку мы не можем предположить, как это повлияет на людей и на их психическое здоровье. Ожидать в этом вопросе сухой статистики по людям, сошедшим с ума после применения данной технологии, как минимум негуманно. Недопустимо с точки зрения морали играть с человеческими чувствами и переживаниями, вводя человека в бессознательное заблуждение о том, что их близкий человек будто еще жив. В глубине души индивид всё равно будет осознавать нереальность происходящего, и это будет наносить ему большие душевные раны, он будет скучать по близкому человеку, а постоянные страдания изматывают психику.

Необходимо отметить, что если не на законодательном, то на правоприменительном уровне необходимо регулировать подобные вопросы. Смерть носила негативный окрас в сознании людей на протяжении всей истории человечества, поэтому необходимо предупреждать и пресекать подобные явления. Особенно поражает в данном вопросе корыстный мотив, так как предполагается определенная плата за подобного рода «услуги». В этом не видится ничего, кроме жажды наживы на человеческом горе. И это заставляет испытывать еще большее отторжение к таким проектам. С этической и моральной точки зрения такие инициативы недопустимы даже с учетом специфики капиталистического строя общества. Нужно всегда оставаться людьми, а подобные «проекты» являются лишь катализатором расчеловечивания общества.

С другой стороны, проект «Нейрокладбище» вызывает и правовые сложности, особенно в части передачи прав на цифровые образы умерших. Как быть с правами на использование изображения или голоса умершего? Можно ли передать эти права по наследству?

Для понимания цифрового наследства важно учитывать общий порядок передачи наследства, установленный законодательством Российской Федерации.

• 1.    Основания наследования.

Наследство может переходить по двум основаниям:

• •    согласно ст. 1141 Гражданского кодекса РФ (далее – ГК РФ) – по закону, если завещание отсутствует или признано недействительны, наследники распределяются в порядке очередности;

• •    согласно ст. 1118 ГК РФ – по завещанию, если оно составлено и удостоверено в установленном порядке, завещание позволяет наследодателю самому определить круг наследников и порядок передачи имущества.

• 2.    Состав наследства.

• 3.    Принятие наследства.

• 4.    Очередность наследников по закону.

В соответствии со ст. 1112 ГК РФ в наследственную массу включается имущество, права и обязанности наследодателя, которые не прекращаются с его смертью.

В соответствии со ст. 1154 ГК РФ наследник должен принять наследство в течение 6 месяцев с момента открытия наследства. Это может быть сделано через подачу заявления нотариусу или путем фактического принятия наследства, например, распоряжения имуществом или оплаты его содержания в соответствии со ст. 1153 ГК РФ.

При наследовании по закону предусмотрена очередность наследников:

•    первая очередь – дети, супруг, родители; •    вторая очередь – братья, сестры, дедушки, бабушки; •    затем более дальние родственники.

Согласно ст. 1142–1145 ГК РФ каждая последующая очередь призывается к наследованию только при отсутствии наследников предыдущей очереди.

Наследственное право в условиях цифровизации сталкивается с необходимостью адаптации к новым вызовам. Сегодня в состав наследства, согласно ст. 1112 ГК РФ, могут входить не только материальные ценности, но и цифровые активы: профили в социальных сетях, права на цифровое изображение, интеллектуальные права на произведения и др.

Особое место в этой системе занимает цифровое завещание – документ, в котором человек может при жизни определить порядок передачи своих цифровых активов, включая права на изображения, цифровые аватары и архивы данных. Для обеспечения его юридической силы необходимо использование современных технологий, таких как электронная подпись и блокчейн. Такой механизм позволит минимизировать споры между наследниками и защитить волю наследодателя.

Если наследодатель при жизни не распорядился своими цифровыми активами, то они передаются наследникам по общим правилам наследственного права:

• 1.    Цифровые активы включаются в состав наследства и распределяются между наследниками по закону.

• 2.    Возникают сложности с доступом к аккаунтам и цифровым архивам, поскольку их регулирование часто подчинено условиям платформ, на которых они созданы. Например, платформы могут ограничивать доступ или требовать судебного решения для передачи данных.

• 3.    В случае споров между наследниками суды должны определить, что входит в состав наследства и решить вопрос об использовании активов.

Ввиду вышеперечисленного для полноценного внедрения цифрового завещания необходима разработка правового механизма его удостоверения.

Цифровые завещания могут играть роль не только распоряжения наследодателя, но и цифрового доказательства в суде. Например, в случае возникновения споров между наследниками о праве на цифровые активы завещание, оформленное с использованием блокчейна или защищенное электронной подписью, может стать ключевым доказательством.

Суды уже начинают применять цифровые доказательства, однако стандарты их использования всё еще требуют доработки. В данном контексте важно установить четкие критерии проверки подлинности таких документов. Это может быть достигнуто путем интеграции цифровых завещаний в единую информационную систему нотариата, где их можно будет хранить и верифицировать.

Вопросы цифрового наследства обсуждаются и на международном уровне. Например, в США рассматривается законопроект H.R.6943 - No AI FRAUD Act, запрещающий создание цифровых копий умерших без их согласия. В России аналогичные инициативы находятся на этапе разработки, что подчеркивает актуальность проблемы.

Признание цифрового завещания в судебной практике также требует особого подхода. Согласно Федеральномузакону от 06.04.2011 №63-ФЗ«Об электронной подписи» документ с электронной подписью может быть признан юридически значимым. Однако суду, вероятно, потребуется проводить дополнительные экспертизы для проверки его подлинности и соответствия волеизъявлению наследодателя.

Проекты, такие как «Нейрокладбище», активно обсуждаются и готовятся к реализации. В этой связи игнорирование проблемы или категорическое ее неприятие не принесут результата. Наиболее рациональным шагом представляется разработка механизмов правового регулирования. Это позволит защитить права граждан, включая наследников, а также предотвратить злоупотребления.

Таким образом, проект «Нейрокладбище» и использование технологий DeepFake для создания цифровых аватаров умерших представляют собой сложную и многогранную проблему, требующую внимательного и взвешенного подхода. Для успешной реализации таких проектов необходимо найти баланс между инновациями и защитой прав граждан. Это требует разработки четких и справедливых правил использования технологий DeepFake, а также международного сотрудничества для эффективного регулирования. Важно учитывать мнения психологов и юристов, чтобы минимизировать потенциальные риски и обеспечить этичное и гуманное применение таких технологий.