Юнит искусственного интеллекта как субъект права: целесообразность и перспективы развития идеи в контексте цифрового банкинга

1,2Финансовый университет при Правительстве Российской Федерации, Москва, Россия ,

1,2Financial University under the Government of the Russian Federation, Moscow, Russia ,

Одним из наиболее перспективных направлений в развитии информационных технологий, в том числе для банковского сектора, является технология искусственного интеллекта1. Существует множество ее интерпретаций. Например, в Национальной стратегии развития искусственного интеллекта в РФ2 указанная технология понимается как комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые с продуктом умственной деятельности человека. В наиболее общем виде искусственный интеллект представляет собой способность отдельной технологической единицы (так называемого юнита искусственного интеллекта - компьютерной программы, робота, системы) относительно самостоятельно выполнять поставленные перед ней интеллектуальные и творческие функции и задачи, присущие человеку, а также делать выводы и совершать действия на основе имеющихся данных. Из приведенного определения следует основная цель указанной технологии - повышение эффективности человеческой деятельности за счет более успешного выполнения отдельных операций с помощью соответствующих компьютерных программ и технических средств.

При этом невозможно отрицать тот факт, что с каждым годом юниты искусственного интеллекта становятся все более автономными. Они требуют все меньше человеческого присутствия. Некоторые виды деятельности ряда компаний (например, составление типовых исковых заявлений о взыскании просроченной задолженности в Сбербанке, робоэдвайзинг) практически полностью автоматизированы и нуждаются только в человеке-администраторе, который по большей части лишь контролирует ход производства, и в персонале, который выполняет преимущественно «вспомогательную» функцию (например, отвечает за внесение сведений о сумме иска, заполнение реквизитов документов, настройку пределов совершения сделок). Это наталкивает на мысль о возможной «полной замене» человека искусственным интеллектом в отдельных общественных сферах, в том числе в банковской. Учитывая неограниченный потенциал данной технологии, такое предположение представляется вполне реализуемым в определенной перспективе.

В связи со сказанным в юридической науке возникает все больше дискуссий о правовом положении юнитов искусственного интеллекта. Доктрина в отношении данного понятия находится на начальном этапе своего становления. Как следствие, появилось множество теорий и концепций, касающихся статуса искусственного интеллекта в современном обществе (Никитенко, 2020: 42). В их в основе лежит принципиальный вопрос: допустимо ли признание юнита субъектом права. Анализ отдельных концепций не является предметом исследования настоящей работы, поэтому мы лишь отметим, что каждая из них имеет как преимущества, так и недостатки. Однако представляется, что аспекту целесообразности субъективизации юнита искусственного интеллекта уделяется недостаточно внимания в современной науке.

В этой связи мы считаем необходимым рассмотреть указанное явление в свете необходимости изменения его юридического статуса. По нашему мнению, следует обратить пристальное внимание на допустимость введения данного института с точки зрения правосубъектности. Как справедливо заметила С.С. Горохова, определение юнитов искусственного интеллекта в качестве субъекта или объекта права связано с тем, что «современные технологии могут совершать юридически значимые действия, при этом зачастую оставаясь механизмом, лишенным признаков социализации» (Горохова, 2020: 26). Следует сделать оговорку, что согласно классическому подходу юридически значимые действия носят волевой характер и являются результатом волеизъявления. В силу отсутствия воли у юнита искусственного интеллекта данные действия нельзя признать юридически значимыми. Однако важна сама суть приведенного выше высказывания -юниты своими действиями (не в юридическом смысле) способны создавать юридические факты, которые приводят к возникновению, изменению или прекращению правоотношений (например, умеют подавать исковое заявление в суд от лица правообладателя юнита; могут участвовать в совершении сделок на организованных торгах). Следовательно, если технологический прогресс дойдет до такого уровня, когда у юнитов искусственного интеллекта появится относительно полная автономность (в качестве аналога воли), собственный интерес и мотивация, то наделение их абстрактной способностью иметь субъективные права и обязанности (правоспособность), реальной возможностью ими пользоваться (дееспособность) и нести ответственность за свои деяния (деликтоспособность) представляется теоретически допустимым. Но для этого требуется обосновать необходимость субъективизации носителей искусственного интеллекта.

Следует прокомментировать позицию некоторых ученых, которые развивают концепцию юнита искусственного интеллекта по модели юридического лица. Действительно, фактически интерес и воля юридического лица носят производный от причастных к его созданию и управлению физических лиц характер, но при этом само оно существует лишь «на бумаге» и не имеет материальной формы, в то время как юнит искусственного интеллекта характеризуется собственным физическим оформлением. Хоть он и представляет собой, по сути, компьютерную программу (или их совокупность), т. е. определенную последовательность символов, образующих код, однако необходимым условием функционирования юнита искусственного интеллекта является выражение его действий через конкретное техническое средство. В противном случае (т. е. при рассмотрении последовательности символов самой по себе, компьютерного кода как информации без внешнего выражения) юнит теряет свойство искусственного интеллекта. В связи с этим развитие идеи субъективизации носителей искусственного интеллекта по модели юридического лица допускается с большими условностями. Утверждение, что юридическое лицо тоже имеет материальное выражение в виде вещей (здания и т. п.), нельзя признать состоятельным, т. к. они являются самостоятельными объектами права.

Целесообразность введения правовой субъектности юнита искусственного интеллекта с сущностной точки зрения также дискуссионна. Если обратиться к приведенным ранее дефинициям и цели применения искусственного интеллекта, то можно сделать вывод, что данная технология создана для упрощения и (или) улучшения ряда человеческих функций. То есть по своей сути искусственный интеллект рассматривается как «инструмент», следовательно, как объект. При этом справедливо утверждение, что юридическое лицо также создается для более успешного достижения человеком определенных целей (коммерческой, социально-полезной и т. д.), а значит, тоже может рассматриваться как своего рода «инструмент». Но если в случае юридического лица цель может не достигаться за счет того, что воля физического лица не совпадает с волей компании (собрание участников приняло противоположное решение), то в случае с юнитом искусственного интеллекта цель может не достигаться лишь за счет технической ограниченности (человека или юнита) или сбоя, а не в результате принятого юнитом иного волевого решения. Таким образом, при рассмотрении главного вопроса работы крайне важна онтологическая постановка проблемы: преследует ли человечество задачу использования данной технологии лишь в качестве способа достижения определенных результатов либо оно относится к юнитам как к неким «младшим собратьям», которые с помощью технического прогресса впоследствии станут «самостоятельными личностями». Данный аспект выходит за рамки правового поля, однако более четко указывает на основания для возможной субъективизации юнитов искусственного интеллекта. Применительно к банковской сфере можно выделить ряд направлений, в которых субъективизация искусственного интеллекта не является целесообразной, даже если юниты будут способны к высокому уровню самообучения: например, когда они действуют в качестве замены сотрудников банка, осуществляющих координирующие функции («улучшенная» версия голосового помощника на горячей линии и др.). Другой вопрос, когда юнит будет выступать в роли не представителя кредитной организации, чьи полномочия явствуют из обстановки (в контексте абзаца 2 п. 1 ст. 182 ГК РФ), а самостоятельного субъекта гражданских правоотношений (например, доверительный управляющий).

Целесообразность введения рассматриваемого института является спорной и с точки зрения юридической ответственности. В результате признания носителей искусственного интеллекта субъектами права ответственность за их действия перейдет с разработчиков и правообладателей юнитов на самих юнитов. Это приведет к тому, что в случае причинения вреда носителями данной технологии третьим лицам пострадавшим будет значительно сложнее получить компенсацию за понесенный ущерб в полной мере, т. к. ответственность виновника будет ограничена имуществом, находящимся на балансе юнита. Это представляется неправильным с политико-правовой точки зрения. При дальнейшем техническом прогрессе будет расти вариативность поведения юнитов искусственного интеллекта, негативные последствия которого должны «лечь на плечи» создателей. Именно разработчики данной технологии должны контролировать и предупреждать возможные последствия. Это может повысить качество искусственного интеллекта, хоть и, возможно, потребует больше времени. Особенно важен данный вопрос для банковской сферы, учитывая ее значимость для общественных отношений в связи со значительностью финансовых потоков. Именно банкинг является одной из наиболее зарегулированных отраслей.

Целесообразность введения института субъектности искусственного интеллекта с экономической точки зрения также нуждается в тщательном анализе. С одной стороны, это повлечет за собой ограничение ответственности производителя и правообладателя, т. к. юнит искусственного интеллекта будет нести самостоятельную ответственность в установленных пределах и способствовать развитию прогресса из-за меньшего количества сдерживающих факторов. С другой стороны, могут вырасти издержки на поддержание соответствия юнита всем установленным требованиям, в том числе издержки материального характера (государственные пошлины, отчисления в специальные фонды страхования и т. д.).

На данном этапе спрогнозировать экономическую выгоду от субъективизации юнитов искусственного интеллекта представляется проблематичным, т. к. достаточно сложно определить потенциальные нормативные требования для реализации этой идеи.

Необходимо также рассмотреть целесообразность введения понятия субъектности для юнитов искусственного интеллекта с точки зрения принадлежности результатов их деятельности. В мире известны случаи, когда юниты искусственного интеллекта создавали музыкальные и иные произведения1. При этом согласно ст. 1257 ГК РФ автором произведения науки, литературы или искусства признается гражданин, творческим трудом которого оно создано. В результате возникает ситуация, когда сам юнит искусственного интеллекта (можно сказать, «фактический автор») de jure не может быть признан автором созданного им произведения. Но и разработчик юнита, по сути, не должен считаться автором такого произведения, т. к. оно не было прямо создано его творческим трудом. В результате возникает правовое противоречие. Данный пример является весомым аргументом для идеи субъективизации носителей искусственного интеллекта, что отражается в работах ученых (Морхат, 2017).

Таким образом, целесообразность идеи признания юнита искусственного интеллекта в качестве субъекта права зависит от уровня развития данной технологии. Допуская реализацию данной идеи в теории, следует задуматься о перспективах ее развития.

Как указывалось ранее, с учетом технического прогресса концепция субъективизации юнитов искусственного интеллекта находит все больше сторонников среди представителей юридического сообщества. На современном этапе идет активное изучение человеческого мозга, ассамблей нейронов, когнитивных функций человека (Баррат, 2015: 120). В случае успеха подобных проектов человечество качественно продвинется в развитии искусственного интеллекта и волевой автономности его носителей. Однако текущий прогресс не позволяет достоверно спрогнозировать временной горизонт этого события.

Существует классификация «слабого» и «сильного» искусственного интеллекта, созданная Дж. Серлом (Серл, 1990: 9). Признаками технологии, отнесенной к первой категории, являются ал-горитмизированность и ограниченность функционала детерминированными задачами. Носители такого типа искусственного интеллекта выполняют заданные программы без какого-либо осознания своей деятельности. К «сильному» относят искусственный интеллект, способный к самосознанию, имеющий продвинутый механизм принятия решений, в том числе выходящий за рамки поставленных задач. Представляется, что «слабый» искусственный интеллект не должен быть субъектом права, т. к. по своей сути он является именно инструментом, способом достижения целей и находится в зависимости от воли человека. Представляется, что, несмотря на единичные случаи воплощения (например, когда робот София стала гражданином Саудовской Аравии2), идея субъективизации искусственного интеллекта не будет реализована в ближайшей перспективе.

Таким образом, вопрос о признании юнита искусственного интеллекта субъектом права остается открытым. Несмотря на большой опыт человечества в моделировании «сильного» искусственного интеллекта в художественных произведениях, реализация данной технологии в обычной жизни на данный момент кажется практически невозможной. Более того, достаточно сложно однозначно определить предел технологического развития. Достоверно неизвестно, будет ли юнит подобен человеку в плане мышления, наличия собственной мотивации и полного самосознания своей сущности, либо он будет представлять собой всего лишь более совершенную компьютерную программу, способную к обучению, но действующую под контролем и (или) с помощью человека. Считаем, что в среднесрочной перспективе (10–15 лет) признавать субъектность юнита искусственного интеллекта нецелесообразно. Представляется, что такая позиция наиболее удобна и для банковской сферы, т.к. издержки по приведению юнитов в соответствие с потенциальным нормативным регулированием субъективизации искусственного интеллекта намного выше тех, которые несет банк, пока юниты продолжают оставаться объектом гражданских прав.