Искусственный интеллект как субъект гражданского права

Стоит отметить, что исследование вопроса правового регулирования искусственного интеллекта берет начало в 1987 году, когда впервые была проведена Северо-Восточная международная конференция по искусственному интеллекту и праву в университете США, в результате которой был основан Центр по компьютерным наукам и праву, а еще через четыре года - Международная ассоциация по искусственному интеллекту и права 1 .

1 Никифоров С. В. Правовое регулирование и оформление правосубъектности искусственного интеллекта в российском и международном праве //Пробелы в 2

Прежде чем перейти к определению возможности наделения искусственного интеллекта правосубъектностью, выясним содержание понятия правосубъектности. Правосубъектностью является способность лица выступать субъектом права 2 и, в свою очередь, субъектом правоотношений.

Правосубъектность включает в себя следующие элементы: 1) правоспособность – способность обладать правами и обязанностями; 2) дееспособность - способность их реализовывать; 3) деликтоспособность -способность нести ответственность за гражданские правонарушения; 4) вменяемость - условие правосубъектности в уголовном праве 3 .

Соглашаясь с Дж. Брайсоном, М. Дайемтисом, Т. Грантом, рассмотрим три основные характеристики правосубъектности, раскрывающие ее природу:

• 1)    правосубъектность является фикцией, ведь она не обязательно соотносится с природой личности, а лишь демонстрирует, какие права и обязанности правовая система предоставляет определенному субъекту (в качестве примера автор приводит юридическое лицо, которое по своей сути не является человеком, но различные правовые системы закрепляют за ними определенный правовой статус); к тому же правовой устав тех или других субъектов определяется не учитывая природу лица, а в зависимости от целей, которые преследует государство;

• 2)    может быть разноуровневой, ведь все субъекты не обязательно имеют одинаковые права и обязанности;

российском законодательстве. Юридический журнал. 2020. №. 1. С. 80.

• 2    Белькова Е. Г. О категориях «правосубъектность» и «праводееспособность» //Известия Байкальского государственного университета. 2006. №. 6. С. 57.

• 3    Кузнецов С. В., Хасимова Л. Н. Институт правосубъектности в общей теории права: основные подходы и взгляды //Пробелы в российском законодательстве. Юридический журнал. 2013. №. 2. С. 36.

• 3)    юридическая и фактическая правосубъектность могут не совпадать (может не быть фактической возможностей реализации юридически закрепленных прав и обязанностей )4 .

Итак, одним из ключевых признаков правосубъектности является то, что она определяется исключительно нормами права. Правовая система каждого государства может предусматривать разный перечень тех или иных субъектов правоотношений и разный перечень прав и обязанностей, которыми эти субъекты наделены и которые они могут реализовать. А потому наделение искусственного интеллекта правосубъектностью и определение объемов этой правосубъектности - исключительно вопрос нормативного закрепления. Остается лишь выяснить вопрос целесообразности признания искусственного интеллекта субъектом правоотношения и возможности отнесения его к той или иной категории субъектов.

Результаты

Рассмотрим, какие подходы к определению правового статуса искусственного интеллекта наработаны в доктрине.

• В.    К. Андреев предлагает определить искусственный интеллект «правовым эквивалентом физического лица» 5 . К такому выводу он приходит путем анализа процедуры определения дееспособности физического лица. Так, он отмечает, что согласно гражданскому законодательству, дееспособность лица может быть ограничена только по решению суда на основании судебно-психиатрической экспертизы, в процессе которой исследуются когнитивные функции человека и предоставляется оценка им с учетом возможных нарушений. А значит, 4 Bryson J., Diamantis M., Grant T. Of, for, and by the People: The Legal Lacuna of Synthetic Persons. Artificial Intelligence & L. 273 (2017). University of Cambridge Faculty of Law Research Paper. 2018. № 5. P. 277-278.

• 5    Андреев В. К. Динамика правового регулирования применения искусственного интеллекта //Журнал российского права. 2020. №. 3. С. 67.

наличие дееспособности у человека зависит от правильного функционирования его когнитивных способностей, а если искусственный интеллект проявляет аналогичные когнитивные способности, то он может быть признан «эквивалентом физического лица». В конце концов он заключает, что правосубъектность физического лица презюмируется, а правосубъектность работа с ИИ требует доказывания как эквивалента физического лица 6 .

А. Галлон рассматривает в своей работе три аргумента, которые сформировались в науке в пользу невозможности предоставления искусственному интеллекту правового статуса и в то же время опровергает их. Первый аргумент – антропоцентрический, согласно которому только человек может иметь права, как контраргумент автор обращает внимание на то, что и за юридическими лицами сегодня закреплены права. Второй -отсутствие важного элемента, при наличии которого искусственный интеллект мог бы приобрести правосубъектность, к примеру, интенциональности (сознательного целенаправленного поведения (авторский текст)); контраргумент - юридические права зависят не от наличия того или иного а от политики государства). Третий -искусственный интеллект является имуществом, ведь он создан человеком, но в таком случае возникает вопрос, не являются ли дети собственностью своих родителей 7 .

В то же время другие исследователи акцентируют внимание на том, что правосубъектность физического лица определяется не его природой, наличием у него воли и эмоций, а она зависит от культурных и социальных особенностей той или другой страны в тот или иной период, также она не является однородной для различных категорий физических лиц. Среди примеров они приводят разный правовой статус рабов и хозяев

• 6    Там же.

• 7    Gaon A.-H. Artificially Intelligent Copyright: Rethinking Copyright Boundaries: dissertation … PhD. Toronto: York Universit , 2019. Р. 48-52.

в средневековые времена, различный правовой статус женщин и мужчин (в частности женщины только в начале 20-го века получили право голоса на выборах в отдельных странах), разный правовой статус для разных возрастных категорий и т. д 8 .

Например, А. И. Овчинников считает, что работы «могут рассматриваться как юридические лица, поскольку они являются собственностью, не имеющей собственной субъективной воли, но могут быть записаны в Единый государственный реестр» 9 . В частности он подчеркивает возможность предоставления искусственному интеллекту ограниченной правосубъектности и приводит следующий примеры: в 2017 году в Бельгии робот Фрэн Пеппер стал первым гуманоидом в мире, который был официально занесен в список реестра населения, также робот София получила гражданство Саудовской Аравии, но эти шаги не имели под собой никакой нормативной подоплеки и не предусматривали возможности реализации этими работами прав наравне с гражданами.

В противовес указанному подходу Е. Ю. Цуканова и А. Р. Скопенко отмечают, что определение правосубъектности искусственного интеллекта на основе правосубъектности юридического лица является выгодной для разработчиков, поскольку так они могут избежать социальной ответственности. К тому же, исследователи отмечают, что в отличие от роботов, которые являются материальными, юридические лица есть нематериальными, что является одним из аргументов в пользу невозможности их отождествления 10 .

К тому же А. В. Габов и И. А. Хаванова справедливо замечают, что конструкция юридического лица в науке включает в себя не только собственно корпорации, хозяйственные общества, а все субъекты права, которые по своей природе не являются людьми. Но нужно понимать, что за каждым таким искусственно созданным субъектом стоит человек, который действует от имени такого субъекта, в то время как искусственный интеллект имеет совершенно иную природу и способный принять непредвиденные человеком решения 11 .

Не согласна с предоставлением правосубъектности искусственному интеллекту также А. С. Пономарева. Аргументирует она свое мнение тем, что неотъемлемой характеристикой субъектов права является возможность самостоятельно ими реализовывать свои права и обязанности, а системы искусственного интеллекта, которые находятся и должны находиться под контролем человека, не имеют такой характеристики, их деятельность определяется разработчиком или непосредственно пользователем 12 . Также она отмечает, что для субъектов права важным является наличие собственных интересов, в соответствии с которыми он действует, а для этого необходимо наличие воли, но отделение собственных интересов искусственного интеллекта от интересов разработчика или пользователя невозможно, ведь он создается для удовлетворения потребностей человечества путем задания разработчиком параметров и настроек его деятельности 13 .

Еще одним вариантом решения проблемы определения правового статуса систем искусственного интеллекта является предоставление тем статуса особого (нового) субъекта. Так, в резолюции Европейского парламента от 16.02.2017 г. (European Parliament resolution of 16 February 11 Габов А. В., Хаванова И. А. Эволюция роботов и право XXI века // Вестник Томского государственного университета. 2018. № 435. С. 223.

• 12    Пономарева Е. В. Субъекты и квазисубъекты права: теоретико-правовые проблемы разграничения: дис. … канд. юрид. наук. Екатеринбург, 2019. С. 91-94.

• 13    Там же. С. 101-102.

2017 with recommendations to the Commissionon Civil Law Rules on Robotics 2015/2103 (INL)) (далее-резолюция), учитывая развитие и распространение искусственного интеллекта предложено рассмотреть следующие варианты для решения потенциальных проблем: обязательная система страхования; создание компенсационных фондов; регистрация отдельных категорий роботов, а также разработка критериев для отнесения того или иного робота к определенной категории; определение правового статуса искусственного интеллекта как «электронной личности», которая сможет самостоятельно нести ответственность, когда система приняла решение автономно 14 .

В ответ на указанную резолюцию экспертами по искусственному интеллекту и робототехники было создано открытое письмо-обеспокоенность по поводу возможности наделения искусственного интеллекта статусом «электронных лиц». Авторы письма, подтверждая необходимость урегулирования потенциальных проблем с искусственным интеллектом отмечают, что «создание правового статуса электронного лица» для «автономных», «непредсказуемых» и «самообучающихся» роботов обосновано ложным подтверждением того, что ответственность лица за вред, нанесенный искусственным интеллектом (авторский текст), невозможно доказать. С технической точки зрения, это утверждение предлагает множество предубеждений, основанных на завышении фактических возможностей даже самых современных роботов, поверхностном понимании непредсказуемости и возможностей самообучения и восприятии роботами, искаженными научно- фантастическими представлениями и сенсационными сообщениями в прессе15.

несколькими

последними

В 2016 году в России был инициирован законопроект с предложениями правового урегулирования отношений связанных с робототехникой, который также предусматривал наделение искусственного интеллекта особым статусом, в соответствии с этим выделялся два типа роботов: простой со статусом собственности и роботизированный агент, обладавший определенной правосубъектностью в отношении владения и распоряжения имуществом и возможности быть участником судебного процесса в частности 16 .

П. М. Морхат предлагает следующие модели определения ответственных за деяния искусственного интеллекта:

• -    модель инструмента реального актера, в рамках которой юнит искусственного интеллекта представлен как [ ... ] инструмент действительного исполнителя правонарушения;

• -    модель естественных вероятных последствий, в рамках которой презюмируется, что юнит искусственного интеллекта реализует действия, которые являются естественными, логически закономерным и являются вероятным следствием его производства / программирования, а лицо, которое создало и / или запрограммировало машину, презюмируемую проявившей преступную халатность;

• -    модель прямой ответственности непосредственно юнита искусственного интеллекта за его действия (или бездействие);

• -    модель квази-субъективной ответственности (ответственность за неосторожность других лиц) владельца и / или эксплуатанта юнита искусственного интеллекта за несостоятельность должным образом

растолковать намерения и действия этого юнита и предупредить эти действия 17 .

В то же время проблема ответственности порождает проблему наличия вины у роботов как основной предпосылки ответственности, ведь когда человек нарушает определенные правила, то это чаще всего пересекается с моралью: возможны случаи, когда нарушение установленных норм является оправданным с точки зрения морали, или же наоборот - законные действия могут противоречить морали. В связи с этим возникает вопрос «вживления» морали в системы искусственного интеллекта.

Признание искусственного интеллекта субъектом правоотношений означало бы и то, что именно искусственный интеллект будет нести ответственность за противоправность своих деяний, что в свою очередь создаст поле для злоупотребления со стороны человека. С тем, как мы уже выяснили при исследовании природы искусственного интеллекта, искусственный интеллект не обладает сознанием, он действует в заданном человеком поле, а следовательно он не имеет воли, а значит нет обязательной составляющей правонарушения - вины (субъективной стороны). Ведь согласно ч. 1 ст. 401 Гражданского кодекса РФ лицо, нарушившее обязательство, несет ответственность при наличии его вины 18 . А значит признание искусственного интеллекта субъектом правоотношения невозможно из-за того, что ему не может быть свойственна такая составляющая правосубъектности как деликтоспособность учитывая его природу.

Но в то же время в праве сегодня известен институт так называемой ответственности без вины, в частности он является характерным для 17 Морхат П.М. Правосубъектность искусственного интеллекта в сфере права интеллектуальной собственности: гражданско-правовые проблемы: дис. … д-ра юрид. наук. Москва, 2018. С. 251-252.

• 18 Гражданский кодекс Российской Федерации (часть первая) от 30.11.1994 N 51-ФЗ (ред. от 24.07.2023) (с изм. и доп., вступ. в силу с 01.10.2023) // СПС КонсультантПлюс 10

гражданского права ввиду того, что гражданско-правовая ответственность направлена на возмещение ущерба (компенсационный характер), а не наказание правонарушителя. В то же время из положений Гражданского кодекса РФ мы можем видеть, что такая ответственность характерна только для исключительного круга правоотношений, которые являются особенно «рискованными», в частности связанными с вредом нанесенным источником повышенной опасности, некачественным товаром и тому подобное. К тому же допускается доказательство «невиновности» в случае, если вред был нанесен действиями третьих лиц или же в связи с непреодолимой силой.

Возможность применения такого подхода к установлению ответственности искусственного интеллекта считаем ненадлежащим, поскольку этот тип ответственности применим только к ограниченному кругу правоотношений, в то время как системы искусственного интеллекта, даже если сегодня еще не являются распространенными в каждой сфере жизни, то в ближайшее время обязательно станут частью большинства общественных отношений; к тому же в приведенных примерах за причиненный вред ответственным является человек или юридическое лицо, которое так или иначе связано определенными обязанностями в таких правоотношениях в связи с их «рискованностью» и владеющим имуществом, на которое может быть обращено взыскание.

В то же время в случае с искусственным интеллектом в случае наделения его правосубъектностью он будет обязан «лично» отвечать за нанесенный вред, который является недопустимым, ведь его деятельность так или иначе все же определяется человеком, а значит именно человек должен быть ответственным за его деятельность.

Одним из важнейших вопросов, который поднимается в Европейской резолюции является вопрос гражданской ответственности за ущерб, причиненный работами и подчеркиваемый необходимостью 11

обязательного страхования по аналогии с обычными автомобилями. Такая система страхования может быть дополнена фондом, чтобы обеспечить возмещение убытков в случаях, когда страхового покрытия нет. Также в системах искусственного пилота должна быть предусмотрена функция автоматического выключение в случае сбоя системы 19 .

Необходимо заметить, что внедрение института обязательного страхования систем искусственного интеллекта никак не свидетельствует о признании правосубъектности таких систем, ведь эта обязанность направлена на человека, который создал или обладает такой системой и соответственно является обязанностью физического лица.

Парламентская ассамблея Совета Европы в своих рекомендациях отмечает, что «ответственность и подотчетность за поступок искусственного интеллекта возлагаются на человека, независимо от обстоятельств. Ссылка на независимое принятие решений системами искусственного интеллекта не может освободить создателей, владельцев и руководителей этих систем от ответственности за нарушения прав человека, совершенные во время использования этих систем, даже в случаях, когда деяние, причинившее вред, не являвшийся следствием непосредственного указания ответственного руководителя или оператора» 20 .

Так, в деле General Motors Corp. V. Johnston выход из строя компьютерной системы, которая стала причиной того, что автомобиль неожиданно остановился на перекрестке и подвергся наезду лесовоза в результате чего умер водитель данного автомобиля, был признан виной 19 European Parliament resolution of 16 February 2017 with recommendations to the Commissionon Civil Law Rules on Robotics 2015/2103(INL). [Электронный ресурс].URL: (дата обращения: 18.11.2023)

производителя 21 . Другим известным инцидентом является смерть Джошуа Брауна с участием автопилотного автомобиля Tesla. Однако в данном случае Национальное агентство по безопасности дорожного движения США установило, что виновным в данном случае является сам Джошуа Браун как водитель автомобиля, поскольку функционалом Tesla не предусмотрено выявление именно тех обстоятельств, которые стали причиной данного дорожно-транспортного происшествия, а производитель Tesla в свою очередь добросовестно предупреждает, что автопилот является лишь вспомогательным инструментом и подчеркивает необходимость осуществления контроля со стороны водителя за дорожной обстановкой 22 .

Также в науке можно найти предложения по идентификации правового режима искусственного интеллекта по аналогии с животными, хотя обычно животные являются объектами правоотношений, а следовательно, не имеют правосубъектности. Верховный Суд штата Нью-Йорк в своем решении от 8 октября 2014 г. отметил, что несмотря на то, что шимпанзе имеют высокие когнитивные способности они не могут иметь законных прав, поскольку на них не могут быть возложены обязанности, а также ответственность за нарушение этих обязанностей 23 .

Считаем такой вывод применим и к определению правосубъектности искусственного интеллекта, поскольку как мы уже ранее отмечали, на них тоже невозможно возложение ответственности.

Заключение

21 General Motors Corp. v. Johnston, 592 So. 2d 1054, Ala., 1992. [Электронный ресурс]. URL: (дата обращения: 22.11.2023).

• 22    Fatal Tesla crash driver 'given warnings'. 2017. [Электронный ресурс]. URL: https://www.bbc.com/news/technology-40340828 (дата обращения: 22.11.2023).

• 23    State of New York, Supreme Court, Appellate Division Third Judicial Department. Decided and Entered: December 4, 2014 (518336). [Электронный ресурс]. URL: http://decisions.courts . state.ny.us/ad3/Decisions/2014/518336.pdf. (дата обращения: 22.11.2023).

Как можно увидеть, ни одно из государств мира сегодня не признает правосубъектности искусственного интеллекта. Все шаги по отношениям, связанным с искусственным интеллектом направлены на установление контроля над его разработкой, обучением и эксплуатацией. Все предложенные стандарты, согласно которым должна происходить разработка и внедрение искусственного интеллекта, этические принципы есть направленными исключительно на разработчиков, тестировщиков, производителей, владельцев, пользователей таких систем. Такой подход отнюдь не определяет искусственный интеллект как субъект правоотношений, а наоборот определяет человека ответственным за все его деяния, а следовательно, из этого можно сделать вывод, что искусственный интеллект сегодня может быть частью правоотношений исключительно как объект права.

Мы также считаем невозможным наделением искусственного интеллекта правосубъектностью ввиду того, что искусственный интеллект лишь имитирует когнитивные способности человека, но для него не является характерным наличие воли (как и естественной воли человека как физического лица, так и воли юридических лиц как правовой фикции, за решениями которой на самом деле воля людей); он не может самостоятельно реализовывать свои права и обязанности; у него нет интересов, определяющих направление деятельности субъектов; он не может нести ответственность в связи с отсутствием вины; на него нельзя возложить обязанность соблюдать этические правила, которые необходимы для защиты прав человека (только на его разработчиков / пользователей); уподобление правового статуса искусственного интеллекта к правовому статусу юридических лиц невозможно ввиду различных целей их создания.