Теоретические вопросы деликтоспособности систем искусственного интеллекта

П раво как глобальная система социального регулирования в первые де‐ сятилетия XXI века регулярно сталкивается с новыми вызовами, кото‐ рые порождаются развитием технологий. Распространение электронного до‐ кументооборота, заключение сделок в цифровом формате, повсеместное проникновение Интернета и мобильной связи, генетическая медицина тре‐ буют новых подходов к правовому регулированию традиционных институтов.

Среди таких технологий особое место занимает искусственный интел‐ лект, который еще совсем недавно был предметом научной фантастики. Бук‐ вально на наших глазах происходит революционный скачок от первых разра‐ боток, ориентированных лишь на автоматизированный перевод текстов, до полноценных автономных систем, способных эффективно решать разнооб‐ разные задачи, считавшиеся ранее исключительной прерогативой человека. Отличительной особенностью последних систем является их способность к самообучению, в результате чего алгоритм саморазвивается, а принятие им решений становится плохо предсказуемым и непрозрачным для внешнего наблюдателя. При этом технологии искусственного интеллекта, едва появив‐ шись, быстро внедряются в разные сферы интеллектуальной и творческой деятельности, производства и повседневной жизни. Уже практически ис‐ пользуются основанные на искусственном интеллекте беспилотные транс‐ портные средства, системы мониторинга и управления городским трафиком, медицинские системы диагностики, не говоря уже о таких областях, как ав‐ томатизация производственных процессов, анализ данных, программирова‐ ние, онлайн‐обучение и электронная коммерция. У всех на слуху примеры успешного использования искусственного интеллекта для решения ряда классических юридических задач. И совершенно очевидно, что области прак‐ тического применения этих инструментов в ближайшем будущем станут только расширяться.

В данный момент правовое регулирование вопросов использования искусственного интеллекта остается крайне фрагментарным. Причем не ре‐ шены как многие практические моменты, так и некоторые фундаменталь‐ ные вещи, такие как само понятие искусственного интеллекта и его место в системе правоотношений.

Известно, что всякая инновация, приводящая к повышению производи‐ тельности труда и комфорта, зачастую связана с появлением новых рисков и проблем, требующих адекватных правовых решений. Так, в свое время по‐ всеместное распространение железнодорожного и автомобильного транс‐ порта, способного причинить существенный вред окружающим, породило конструкцию безвиновной ответственности владельца источника повышен‐ ной опасности. А широкое использование машин и механизмов на производ‐ стве в ходе научно‐технической революции способствовало появлению соци‐ ального страхования работников.

Во многом аналогичным образом в настоящее время наибольшую ак‐ туальность приобретает проблема определения надлежащего субъекта юри‐ дической ответственности в случае причинения ущерба роботом или иной системой, использующей искусственный интеллект. Проблема на первый взгляд вполне практическая, однако попытки ее решения неизбежно выво‐ дят на уровень принципиальной теоретической дискуссии о возможности и пределах самостоятельной правосубъектности таких систем.

В прессе описано множество случаев причинения вреда разного рода искусственными интеллектуальными системами. В частности, регулярно фик‐ сируются наезды на пешеходов или других участников дорожного движения, совершенные беспилотными автомобилями1. Тысячами исчисляются еже‐ годно случаи причинения вреда промышленными роботами на производст‐ ве2. Серьезные риски причинения ущерба жизни и здоровью влечет за собой использование искусственного интеллекта в медицине3. В таких условиях многие авторитетные специалисты призывают вообще отказаться от исполь‐ зования форм искусственного интеллекта или существенно ограничить сферу их использования. Открытое письмо с призывом приостановить разработку и обучение нейросетей, опубликованное на сайте Future of Life 22 марта 2023 г., подписали более 33 тыс. человек, в том числе глава Tesla, SpaceX и Twitter Илон Маск, сооснователь Pinterest Эван Шарп и сооснователь Apple Стив Возняк. Составители письма обращают внимание на то, что искусствен‐ ные системы с интеллектом, сопоставимым с человеческим, могут представ‐ лять опасность для общества и угрожают людям потерей контроля над ци‐ вилизацией4. Однако подобные предложения сродни борьбе луддитов с распространением производственных машин в Англии XIX века или протес‐ там жителей европейских городов против автомобилей в начале ХХ века. Прогресс и развитие технологий остановить невозможно, и они требуют от юриспруденции поиска адекватных правовых средств регулирования новых форм общественных отношений.

В отсутствие специального правового регулирования правопримени‐ тельная практика для решения вопросов деликтной ответственности за вред, причиненный системами искусственного интеллекта, использует положения о возмещении владельцем вреда, причиненного источником повышенной опасности, в том числе на основании аналогии закона5. Другой подход, пред‐ лагаемый рядом авторов, предусматривает привлечение к ответственности производителя системы на основании правил о возмещении вреда, причи‐

___________________________________ ТЕОРЕТИКО-ИСТОРИЧЕСКИЕ ПРАВОВЫЕ НАУКИ ненного недостатками товара⁶. Оба подхода предполагают конструкцию усеченного деликта и возмещение ущерба независимо от вины причини‐ теля вреда. С практической точки зрения такие предложения отчасти оп‐ равданны, поскольку решают проблему возмещения вреда потерпевшему и позволяют уйти от сложных вопросов доказывания вины и причинно‐след‐ ственных связей.

Однако подобного рода конструкции не позволяют учесть ряд обстоя‐ тельств, важных для правильного применения мер ответственности. Так, если на начальном этапе развития робототехники промышленные и прочие робо‐ ты действовали по заданному алгоритму и, как следствие, установить при‐ чину ошибки и ответственного за нее было довольно просто, то сейчас мы имеем дело с саморазвивающимися и вполне автономными системами. На работу и решения современного искусственного интеллекта влияет множест‐ во факторов: сама архитектура интеллектуальной системы, программирова‐ ние, используемые методы обучения, количество и качество обучающих ма‐ териалов, особенности настройки и эксплуатации системы. За эти процессы отвечают разные субъекты: производители, программисты, дизайнеры, тес‐ тировщики и др. Кроме того, окончательное решение зачастую принимается или одобряется человеком, выполняющим функции контролера или опера‐ тора системы (врач, назначающий лечение по рекомендации компьютера, или водитель беспилотного автомобиля). Множественность факторов, влияющих на алгоритм поведения системы, затрудняет однозначное возло‐ жение ответственности только на ее владельца или производителя. Более того, установить виновника причинения ущерба зачастую не представляется возможным. И особенно трудным становится этот процесс применительно к деятельности самообучающихся и саморазвивающихся интеллектуальных систем, способных принимать самостоятельные решения на основе анализа поступающей из внешней среды информации и накопленного опыта.

Последнее обстоятельство все чаще побуждает исследователей заду‐ маться о возможной деликтоспособности самого́ искусственного интеллекта. Так, В. А. Лаптев, рассматривая роботов как некую аналогию юридическим лицам, отмечает, что промышленный робот может иметь регистрацию и учетный номер; обладать хозяйственной компетенцией, соответствующей целям его деятельности; обладать имущественной базой, поскольку он ап‐ риори представляет собой материальную ценность и его можно привлечь к юридической ответственности. Ответственность роботов может быть имуще‐ ственной (например, компенсация ущерба) или административной (в част‐ ности, штраф или дисквалификация). Не исключает указанный автор и воз‐ можности уголовной ответственности искусственных субъектов в случае совершения ими действий, посягающих на жизнь и здоровье человека, с применением в качестве крайней меры наказания утилизации. Неприме‐ нимы к таким субъектам, в силу их особой природы, только воспитательная и превентивные функции юридической ответственности7.

С. В. Никитенко отмечает, что к искусственному интеллекту могут быть применены практически любые формы и средства юридической ответствен‐ ности: корректировка поведения через настройку программы может рас‐ сматриваться как воспитательное воздействие на субъекта, а компенсатор‐ ную и штрафные функции можно реализовать через обращение взыскания на сам аппаратно‐программный комплекс или закрепленное за ним имущество. Вместе с тем в итоге автор осторожно заключает, что такой подход хотя и до‐ пусти́м, но «неактуален для текущего уровня технологического развития»8.

За признание роботов (систем искусственного интеллекта) квазисубъ‐ ектами права, как представляющими собой определенную правовую цен‐ ность, что предполагает, в частности, закрепление в законе ряда юридиче‐ ских обязанностей в неразрывном единстве с вопросами ответственности, выступает С. Е. Чаннов9.

С другой стороны, к примеру, А. П. Семитко подчеркивает недопусти‐ мость признания искусственного интеллекта субъектом права ни в настоящее время, ни в каком‐либо будущем, указывая на угрожающие последствия такого решения для всего человечества10. П. М. Морхат замечает, что вопрос об ответственности непосредственно юнита искусственного интеллекта носит

___________________________________ ТЕОРЕТИКО-ИСТОРИЧЕСКИЕ ПРАВОВЫЕ НАУКИ во многом тупиковый характер из‐за совершенной бессмысленности в дан‐ ном случае мер уголовной или административной ответственности, которые устоялись именно в отношении человека и просто неприменимы к искусст‐ венному интеллекту¹¹.

Согласно наиболее распространенному определению, юридическая ответственность представляет собой одну из форм государственно‐принуди‐ тельного воздействия на нарушителя норм права, заключающуюся в приме‐ нении к нему предусмотренных законом санкций – мер ответственности, влекущих дополнительные неблагоприятные последствия12. Государственное принуждение в рамках юридической ответственности осуществляется для достижения двух основных целей: восстановления нарушенного правопо‐ рядка и наказания лица, совершившего правонарушение13. Тем самым опре‐ деляются две основные функции юридической ответственности – восстанов‐ ление нарушенного права и наказание, осуждение нарушителя. В зависи‐ мости от того, какая из них превалирует, выделяют две основные разно‐ видности юридической ответственности – правовосстановительную и кара‐ тельную. Именно такое разделение юридической ответственности, на наш взгляд, теоретически значимо, в то время как общепринятое отраслевое де‐ ление (на гражданскую, уголовную, административную, дисциплинарную) имеет лишь прикладное и практическое значение и по большому счету ниче‐ го к пониманию сущности юридической ответственности не прибавляет.

Приведенный подход основан на концепции функциональной структу‐ ры права, значительный вклад в развитие которой внес профессор кафедры теории и истории государства и права Пермского государственного нацио‐ нального исследовательского университета В. П. Реутов. Указанная концеп‐ ция предполагает, в частности, наличие в системе права регулятивной и охра‐ нительной подсистем, а в рамках последней выделяет правовосстанови‐ тельное (защитительное) и карательное право. Нормы защитительного права включают в себя «меры, направленные на ликвидацию последствий нежела‐ тельного поведения. Их основная функция и назначение – защита нарушен‐ ных субъективных прав, восстановление прежнего положения и исполнение

САМЫЛОВ И. В. _________________________________________________________________ юридических обязанностей»¹⁴. Нормы карательного права содержат санкции за совершенное виновное правонарушение в рамках прежде всего уголовно‐ го и административного права. Главной целью правовосстановительной от‐ ветственности, таким образом, является устранение вреда, причиненного правопорядку и потерпевшему. Цель же карательной ответственности – воз‐ действие на правонарушителя для общей и частной превенции правонару‐ шений, а также для выражения осуждения поведения нарушителя как анти‐ общественного.

С учетом приведенного концептуального понимания сущности и струк‐ туры юридической ответственности, как представляется, могут быть найдены подходы для выяснения пределов возможной деликтоспособности систем искусственного интеллекта.

Применение мер и механизмов карательной ответственности к субъек‐ там, не имеющим качеств разумного и волеспособного субъекта, то есть че‐ ловека, конечно, неоправданно. Карательная ответственность предполагает обязательное установление вины и применение к нарушителю мер, наце‐ ленных на исправление субъекта, «снимающих» вину и устраняющих нега‐ тивные последствия правонарушения в правопорядке, которые невозмож‐ но загладить простым возмещением ущерба. В этом плане приведенное выше замечание П. М. Морхата о бессмысленности мер уголовного и адми‐ нистративного характера применительно к юнитам искусственного интел‐ лекта вполне справедливо. По большому счету такие меры даже в отноше‐ нии коллективных субъектов и юридических лиц представляются весьма сомнительными.

Вместе с тем применение правовосстановительных мер к искусствен‐ ным образованиям вполне допустимо. Главная цель правовосстановитель‐ ной ответственности – компенсация вреда, причиненного потерпевшему. И если правовые механизмы обеспечивают быструю и эффективную ком‐ пенсацию, то не так уж важно, какие именно теоретические основания ле‐ жат в основе таких механизмов. Вполне разумным и практически примени‐ мым представляется, например, предложение признать субъектом такой ответственности саму должным образом персонифицированную искусст‐ венную интеллектуальную систему, а в качестве источника средств на воз‐ мещение ущерба использовать страховые фонды, формируемые за счет

___________________________________ ТЕОРЕТИКО-ИСТОРИЧЕСКИЕ ПРАВОВЫЕ НАУКИ обязательного отчисления части доходов, получаемых владельцами от ис‐ пользования таких систем¹⁵.

Принципиальные возражения против даже такой частичной деликто‐ способности искусственных образований, не имеющих человеческой приро‐ ды, на наш взгляд, безосновательны с учетом следующего. Принимая во внимание многообразие реальных правоотношений, а также множество функций и задач юридической ответственности, следует признать, что делик‐ тоспособность как способность лица нести ответственность за совершенные правонарушения или причиненный вред никогда не отождествлялась исклю‐ чительно с качествами человеческой личности. С одной стороны, современ‐ ное правопонимание связывает деликтоспособность физических лиц с дос‐ тижением определенного возраста и наличием определенных интеллек‐ туальных и психологических качеств (вменяемость). С другой стороны, кроме собственно людей, право во все времена допускало деликтоспособность иных лиц. Так, с древнейших времен субъектами юридической ответственно‐ сти признаются разного рода коллективные образования: общины, города, корпорации. Наконец, пусть с позиции современного мировоззрения это обычно рассматривается в качестве курьезов, но нередко в истории права мы встречаем случаи привлечения к юридической ответственности субъектов, вообще не имеющих качеств человеческой личности: животных, уже умер‐ ших людей и даже неодушевленных предметов16. В Средние века, к примеру, вменение вообще не было связано с внутренним моментом виновной воли человека и не ставилось ни в какую связь с вопросами воли вообще, а реша‐ лось по признакам одной механической связи ущерба с вещью или лицом, составившим его причину (принцип объективного вменения).

Как ни странно, однако в вопросе возмещения вреда, причиненного системой искусственного интеллекта, подобный архаичный на первый взгляд подход может быть признан целесообразным. Как верно заметил Юваль Ной Харари в своем футурологическом труде «Homo Deus. Краткая история буду‐ щего», «законы человеческого общества уже признают “субъектами права”

интерсубъективные сущности, такие как корпорации и нации. Хотя Toyota или Аргентина не имеют ни тела, ни разума, они являются субъектами меж‐ дународного права, которые могут владеть землей и деньгами, а также при‐ влекать и привлекаться к суду. Не исключено, что в недалеком будущем такой же статус получат и алгоритмы...»17 В ситуации, когда установить ви‐ новное лицо по классическим процессуальным правилам не представляется возможным в силу значительного числа факторов и субъектов, участвующих в их создании и деятельности, а понять механизм принятия решения авто‐ номным суперкомпьютером для того же судьи затруднительно в силу огра‐ ниченности возможностей экспертизы, проводимой людьми, именно наде‐ ление искусственного интеллекта самостоятельной деликтоспособностью и возмещение ущерба непосредственным причинителем вреда без выяснения сложных вопросов о степени виновности и причинно‐следственной связи может быть признано правильным решением.