Проблема определения субъекта международной уголовной ответственности за преступления, совершенные с помощью смертоносных автономных систем вооружений

EDN

Данная работа распространяется по лицензии CC BY 4.0. Чтобы просмотреть копию этой лицензии, посетите участниками вооруженного конфликта, разработчиками/производителями и результатом, который достигнут с помощью САС. «Эффект черного ящика» затрудняет установление личной вины. Римский статут МУС требует высокого порога субъективной стороны, что сложно доказать применительно к разработчикам, операторам или командирам при совершении преступлений САС с «сильным ИИ». Правовые конструкции международной уголовной ответственности индивида неприменимы или труднореализуемы из-за проблем с установлением контроля, mens rea и причинно-следственной связи. Признание ИИ субъектом уголовной ответственности не отвечает принципу вины. Действующее международное уголовное право не содержит корректных форм ответственности для преступлений, совершенных посредством САС. Перспективным видится регулирование международно-правовой ответственности государств за противоправное использование САС. Выводы: международное уголовное право, в основе которого лежит индивидуальная уголовная ответственность, основанная на принципе личной вины, на современном этапе развития не приспособлено для адекватного наказания за преступления, совершенные высокоавтономными САС с «сильным ИИ». Нормативное регулирование в настоящий момент не решает проблему непредсказуемости поведения САС. Приоритетным направлением международно-правового регулирования должно стать обеспечение человеческого контроля на всех этапах жизненного цикла САС как гарантии соблюдения норм международного гуманитарного права и сохранения ответственности человека. Перспективными инструментами обеспечения подотчетности являются технологические решения (блокчейн для аудита решений, «черные ящики» для фиксации данных, «этические регуляторы»), а также реализация международно-правовой ответственности государств. Привлечение САС к уголовной ответственности или признание их правосубъектности несовместимо с фундаментальными принципами уголовного права и является нецелесообразным.

Технологии искусственного интеллекта интенсивно интегрируются в системы вооружений. Вследствие этого экспертами выдвигаются гипотезы о перспективе «дегуманизации войны», при которой необходимость физического присутствия человека сведется к минимуму, поскольку поражение легитимных военных целей станет возможным осуществлять посредством машин [19, с. 694–695]. Смертоносные автономные системы вооружения (далее – САС) уже характеризуются как «третья революция» в военном искусстве после изобретения пороха и ядер-ного оружия [26, с. 94], способная повлечь трансформацию парадигмы принятия решений в условиях вооруженного конфликта [33, с. 125–127]. Ряд специалистов полагают, что САС создают вызов институту международно-правовой ответственности и требуют формирования нового нормативного регулирования1. Стремление к достижению военного превосходства над противником стимулирует государства к разработке и закупке новых видов вооружений. Ключевое преимущество от повышения степени автономности вооружений усматривается в обеспечении безопасности личного состава [22, с. 48–75].

Общие положения о смертоносных автономных системах вооружения

В робототехнике искусственный интеллект (далее – ИИ) трактуется как комплекс технологий, наделяющий роботов способностью обрабатывать информацию, принимать решения и адаптироваться к изменениям окружающей среды без необходимости явного программирования каждого шага [13, c. 68–70]. Под роботами преимущественно подразумевают программируемые устройства, которые обычно могут автономно или полуавтономно выполнять спектр задач. Однако единое концептуальное понимание отсутствует; в данной области акцентируется различие между традиционными роботами, выполняющими предопределенные операционные последовательности, и роботами с ИИ, обладающими возможностью реагировать на непредвиденные обстоятельства.

Искусственный интеллект как область компьютерных наук фокусируется на создании программных систем, способных выполнять задачи, традиционно относимые к сфере человеческого интеллекта. В юридической доктрине ИИ в общем виде определяется посредством его способности имитировать когнитивные функции, ассоциируемые с человеческим интеллектом: самообучение, решение задач вне рамок предустановленных алгоритмов [2, c. 79–91]. Данное определение воспроизведено в Указе Президента РФ № 490 от 10.10.20192.

Развитие современных технологий автономного управления привело к дискуссии среди экспертов о том, что исключение человека из контура принятия решений при выборе и поражении целей способно привести к неконтролируемому применению силы, создавая угрозу фундаментальному праву человека на жизнь. С нашей точки зрения, ИИ не может рассматриваться в качестве субъекта, уполномоченного принимать решения о выборе и нападении на цели, поскольку это делает человек, опосредованно – через кодирование алгоритмов в программное обеспечение. Данный тезис справедлив применительно к так называемому «слабому ИИ». Однако по мере технологического развития возрастают возможности ИИ в сфере обучения, сопоставимые с человеческими, что, по мнению ученых, создает предпосылки для появления «сильного ИИ», выбор и принятие решений которым будут осуществляться на основе не только предустановленных алгоритмов, но и данных, полученных из окружающей среды. Если алгоритм открыт к данным, собранным после его программирования, то закономерно возникает сомнение в детерминированности и предсказуемости принимаемых решений [18, c. 23].

На проблемы внедрения технологий ИИ в военную сферу в 2007 году обратил внимание профессор Шеффилдского университета Н. Шарки; впоследствии группа ученых и экспертов в сфере робототехники выступила с открытым письмом, призывающим к запрету «полностью автономных систем вооружения» [19, c. 45]. Обсуждение их правомерности не представляется возможным без четкого понимания термина «автономность» применительно к функционированию оружия.

В целом понятие «автономия» ассоциируется с полным самоуправлением, исключающим любое внешнее воздействие, и наличием свободы воли. Предполагается, что даже при гипотетическом возникновении «сильного ИИ» автономия в этом смысле не будет присуща системе, поскольку основу принятия решений неизменно будет составлять программный код, изначально созданный человеком, что сохраняет фактор внешнего влияния [17, c. 35– 60]. В научной литературе термин «автономия» анализируется в следующих аспектах: характер взаимодействия человека и машины, уровень сложности технической системы, тип автоматизируемых решений или функций. В робототехнике принято различать автоматизированные, автоматические и автономные системы. Под автоматизированными системами понимаются технические комплексы, функционирующие без постоянного операторского контроля и запрограммированные на осуществление повторяющихся и рутинных операций. Автоматические системы способны функционировать исключительно в структурированной среде и выполнять предварительно заданную последовательность действий, будучи лишенными способности к адаптации новой информации. Напротив, автономные системы демонстрируют способность к адаптации в условиях неопределенности и интеграции новых данных, что позволяет им функционировать в открытой и неструктурированной среде [41, c. 46]. С технической точки зрения различие между системой вооружения, самостоятельно осуществляющей выбор и поражение целей, и системой, которая помогает принимать решение о нападении, детерминировано исключительно алгоритмом [19, c. 1].

Подобные системы подвержены «обману» или подмене, что усугубляет проблему непредсказуемо-сти1, выражающуюся в невозможности точно предопределить способ, которым САС достигнет предварительно заданной цели. Даже функционирование ИИ в шахматных партиях не позволяет разработчикам Deep Blue предвидеть каждый конкретный ход, а позволяет лишь основываться на том, что все действия системы направлены на достижение победы [42, c. 109–118]. Следовательно, чем более автономна система, тем больше у нее возможностей сделать выбор, отличный от того, который установлен разработчиком [38, c. 62–77]. С учетом технической возможности системы ИИ обучаться новому при взаимодействии с окружающей средой и в дальнейшем действовать отлично от первоначальной программы, разработчики не смогут повлиять на этом этапе на действия ИИ. Кроме того, скорость принятия решений ИИ существенно превышает человеческую, что делает любое операторское вмешательство запоздалым по определению. Роевые системы САС представляют дополнительную сложность для прогнозирования, поскольку взаимодействие множества устройств создает повышенную сложность и, как следствие, вероятность возникновения недетерминированных действий [4, с. 7–11].

Ряд исследователей придерживаются позиции, согласно которой система вооружения представляет собой инструмент, используемый человеком для достижения конкретной цели [6, c. 30]. Отсутствие взаимодействия с оператором в процессе функционирования не свидетельствует о том, что ее поведение не детерминировано человеком. Предполагаемое поведение определяется до активации системы и впоследствии обеспечивается ее управляющими компонентами. Данная система управления осуществляет мониторинг функционирования устройства и генерирует управляющие команды по мере необходимости для достижения поведения, детерминированного оператором [31, c. 31] Понимание оператором или разработчиком принципов управления системой формализуется в программном обеспечении и имплементируется в систему управления, которая обрабатывает данные в соответствии с запрограммированными паттернами и продуцирует выходные сигналы, регулирующие функционирование устройства [31, c. 33]. Вследствие этого эксперты делают вывод о том, что при отсутствии прорывных технологических инноваций автономные системы будущего будут, по существу, использовать ту же технологию, применение которой означает сохранение контроля над ними посредством программного обеспечения, разработанного человеком.

Даже сложные программы выполняют алгоритм вида «если иначе <выполните действие B>». Таким образом, можно утверждать, что выбор предопределен человеком, волеизъявление которого заложено в память системы обнаружения в форме предустановленного триггера «X». Например, беспилотный летательный аппарат (БПЛА), применяемый для поиска повстанцев, может быть оборудован системами видеонаблюдения и программным обеспечением распознавания образов, сопоставляющим получаемые изображения с базой данных фотографий [31, c. 34–35].

В связи с этим Т. Макфарланд указывает, что ни одна вычислительная система не обладает способностью самостоятельно выбирать, активировать или деактивировать программу, хранящуюся в ее памяти, либо произвольно исполнять или игнорировать отдельные инструкции в рамках программного кода; любая иллюзия автономности действий детерминирована иными командами, имплементированными в программное обеспечение. По существу, единственная функция компьютера заключается в исполнении установленного на нем программного обеспечения. Дисциплина, изучающая способность системы управления модифицировать свое поведение в ответ на изменяющиеся условия, определяется как адаптивное управление. Формулируется вывод, что автономность в техническом понимании представляет собой способность системы функционировать в соответствии с заданными оператором целевыми параметрами без необходимости постоянного получения внешних управляющих команд [31, c. 35]. Опираясь на указанные исследования в сфере робототехники, можно сделать вывод, что автономность является формой контроля, а не его отсутствием.

Другой класс методов управления – интеллектуальное управление – представляет собой область применения технологий, позволяющих техническим системам функционировать в условиях неопределенности или недостаточной информации для построения математических моделей (нейронные сети, нечеткая логика, экспертные системы, генетические алгоритмы). Автономные системы управления, использующие указанные методы, хотя и обеспечивают возможность сложных реакций и продолжительного функционирования без вмешательства оператора, не подразумевают независимости от человеческого контроля. Поведение системы впоследствии детерминировано решениями, принятыми разработчиками программного обеспечения на этапе проектирования [31, c. 49].

Международно-правовое регулирование САС характеризуется отсутствием общепринятых терминов и определений. Этот недостаток свойственен также и техническим наукам, ввиду чего робототехники обращаются к различным концепциям [2, c. 35–60].

Международный комитет Красного Креста предлагает понимать под САС «любые системы вооружений, обладающие автономностью при осуществлении критически важных функций по выбору и поражению целей»1. В 2013 году Специальный докладчик по вопросу о внесудебных казнях, казнях без надлежащего судебного разбирательства или произвольных казнях К. Хейнс предложил определять САС как роботизированную систему оружия, которая после активации может выбирать и поражать цели без дальнейшего вмешательства человека-опе-ратора2. С 2014 года в рамках Конвенции о запрещении или ограничении применения конкретных видов обычного оружия, которые могут считаться наносящими чрезмерные повреждения или имеющими неизбирательное действие, закрепилась проблематика САС; в 2016 году была учреждена Группа правительственных экспертов открытого состава (далее – Группа). Однако на международном уровне до сих пор не принято официальное определение3.

Некоторые эксперты отвергают необходимость разработки определения САС, приводя в пример действующие международные договоры в области контроля над вооружениями: Протокол IV по ослепляющему лазерному оружию4, Договор о нераспространении ядерного оружия, Договор о запрещении ядерного оружия [20, c. 14]. Министерство обороны США определяет САС как систему оружия, которая после активации самостоятельно выбирает и поражает цели без вмешательства оператора5. Южная Корея отличает САС от дистанционно управляемого оружия, а Израиль подчеркивает, что решения о применении силы всегда принимают люди, а не машины [20, c. 19]. По нашему мнению, САС – это оружие, состоящее из взаимосвязанных элементов, действующих автономно при выборе и поражении цели с помощью ИИ.

Современные проблемные аспекты международно-правового регулирования

Точные технические характеристики САС не имеют принципиального значения для международно-правового регулирования, достаточно в общем плане исходить из понимания автономности как характеристики, которая может быть присуща потенциально любому типу системы вооружения при выборе и поражении цели [31, c. 3]. Излишняя «зарегулированность» технических аспектов работы может потенциально осложнить принятие универсального международного договора в данной области. В качестве положительного примера правового регулирования, учитывающего технологические изменения оружия, можно отметить Конвенцию 1907 года о постановке подводных, автоматически взрывающихся при соприкосновении мин, положения которой устанавливают модели поведения с такими минами (например, согласно п. 3 ст. 1 «воспрещается употреблять мины, которые, не попав в цель, не делаются безопасными»), но не описывают их конкретную техническую реализацию. Такой подход обеспечивает возможность распространения соответствующих правовых норм на САС безотносительно их технологического воплощения. Для правового регулирования технические средства, с помощью которых достигается автономное управление системой вооружения, не являются определяющими, в связи с этим юридически значимым будет именно результат автономного управления.

Достаточно широкий диапазон предложений правового регулирования был продемонстрирован участниками Группы – от полного запрета до разрешения использования САС, при этом единообразного подхода нет и в части регулирования: одни предлагают регулировать вопросы автономного способа управления системой вооружения, другие – регулировать аспекты взаимодействия между человеком и машиной («значимый человеческий контроль»).

Интеграция ИИ в системы вооружения свидетельствует об эволюции средств управления, а не о возникновении принципиально нового класса вооружений. Система вооружения, оснащенная технологией ИИ, представляет собой комплексную систему, компоненты которой могут разрабатываться и производиться субъектами, зарегистрированными в различных юрисдикциях. На это обстоятельство обратил внимание Европейский Парламент, указав на различие национально-правовых режимов, в то время как САС формируют принципиально новые технологические экосистемы, способные к эволюции на основе анализа массивов данных, что требует объединения подходов к программному обеспечению, его техническому сопровождению, а также производству и обороту вооружений. Особую сложность для прогнозирования поведения вооружений создает «сильный ИИ» ввиду непрозрачности («эффекта черного ящика») его когнитивных процессов1.

При программировании сохраняется риск возникновения ошибок, разработчик может оказаться неспособным предусмотреть возможные сценарии эксплуатации САС либо неверно реализовать задуманный алгоритм программы, что может повлечь отказ системы вооружения в функционировании [31, c. 63]. Следовательно, помимо прочего, требуется нормативное регулирование потенциальных ситуаций, связанных с отказами и ошибками САС.

Одним из существенных вопросов является определение того, может ли ответственность за противоправные действия, совершенные с использованием САС, присваиваться государству2. Отметим тенденцию (начиная с 2022 г.) к смещению фокуса рассмотрения именно государства в качестве субъекта ответственности за нарушения норм международного права с использованием САС. В ходе заседания Группы США выступили с инициативой установления международноправовой ответственности государства за противоправные деяния, связанные с применением новых технологий в военной сфере3. Согласно данной позиции государство остается ответственным за все действия, совершенные лицами, входящими в состав его вооруженных сил, включая любое использование технологий в области САС. Эта инициатива нашла поддержку, и в рамках работы Группы в части I заключительного доклада было указано: «Каждое международно-противоправное деяние государства, в том числе потенциально связанное с системами вооружений, основанными на новых технологиях в области САС, влечет за собой международную ответственность этого государства в соответствии с международным правом»4. Отметим, однако, что следующий логичный шаг – регламентация аспекта присвоения таких действий государству – сделан не был, и предложенная Председателем Группы формулировка «Поведение органов государства, таких как его агенты и все лица в составе его вооруженных сил, присваивается этому государству, включая любые действия или бездействие, связанные с использованием системы оружия, основанной на новых технологиях в области САС, в соответствии с применимым международным правом» принята не была. Сохраняется и проблема присвоения государству деяния, связанного с использованием САС вне сферы эффективного контроля со стороны государства.

В международном праве сформировался подход к установлению режима строгой ответственности за опасные виды деятельности [5, c. 109–112]. В частности, в международном экологическом праве действует принцип «загрязнитель платит», возлагающий ответственность за ущерб от опасной деятельности. Руководствуясь аналогией права, Р. Кроотоф предлагает экстраполировать данный подход при установлении ответственности за противоправные действия САС, указывая на высокую степень недетерминированности их функционирования и опасность последствий применения [24, c. 1348–1402]. Немецкие исследователи Н. Штюрхлер и М. Зигрист, анализируя проблему присвоения поведения государству, утверждают, что государства несут ответственность за нарушения с использованием САС даже при непредвиденных последствиях или технических сбоях, поскольку нормы присвоения применяются к ним так же, как к традиционным вооружениям. Делается вывод, что основанием для присвоения служит не специфика САС, а правовой статус лица, принимающего решение о его применении [20, c. 57]. Ответственность за решения о развертывании и применении САС в соответствии с нормами международного гуманитарного права (далее – МГП) возлагается на участников вооруженного конфликта. Таким образом, вопрос ответственности государства в данной сфере подлежит дальнейшему изучению и проработке.

При обсуждении международно-правового механизма регулирования проблемы САС государства разделяются на сторонников юридически обязательного документа и тех, кто выступает за документ рекомендательного характера. К числу последних относятся Россия, США, Великобритания, Израиль, Южная Корея. США аргументируют свою позицию динамичностью технологического развития, подчеркивая приоритет обмена опытом над его формальной кодификацией, и считают переговоры о договоре по САС преждевременными, отмечая достаточность существующих норм МГП. Россия последовательно выступает против предложений о заключении юридически обязывающего документа, указывая, что «действующее международное право, включая МГП, содержит исчерпывающие ограничительные нормы, применимые к системам вооружения с высокой степенью автономности»1.

Применительно к заключению международного договора есть аргументы как pro, так и contra: формат договора представляется востребованным с учетом рисков, связанных с САС, тем более что в некоторых государствах действуют как обязательные нормы, так и рекомендательные, направленные на регулирование этой сферы (например, Директива 3000.09 в США2, Стратегия “Global Britain in a Competitive Age” в Вели-кобритании3, “Doctrine de l’emploi de la force” во Франции4). Договор обеспечивает нормативную определенность, однако сопряжен с риском фиксации дефиниций и моделей, непрерывно эволюционирующих в сфере САС. При этом присоединение к такому документу ведущих технологических держав, разрабатывающих данные системы, видится маловероятным [20, c. 128]. Представлено мнение, что прогрессивное развитие норм международного права в этой области станет возможным при изменении технологий верификации: внедрение блокчейна для аудита решений САС и «черных ящиков» для фиксации данных в реальном времени [8].

Согласимся, что следует признать применимость норм МГП ко всем видам вооружений, включая перспективные разработки САС [28, c. 8]. Однако это не исключает разработку специального правового механизма регулирования, сохраняющего ответственность человека за решения о применении систем вооружения на всех этапах. Фундаментальное значение имеет способность разработчика или оператора прогнозировать функционирование системы после активации, что требует нормативного регулирования. При эксплуатации САС участники вооруженного конфликта обязаны убедиться в предсказуемости их действий в конкретной ситуации, обеспечивая тем самым выполнение обязательств по МГП. Автономность является способом управления вооружением, следовательно, неэффективность ограничения поражающего воздействия, обусловленная автономной системой, должна квалифицироваться как неспособность направить оружие на конкретную военную цель [31, c. 99].

Альтернативным механизмом обеспечения соответствия нормам МГП является инкорпорирование в систему «этического регулятора», представляющего собой неизменяемый нормативный массив данных, детерминирующего все операционные решения. Эта концепция предложена Р. Аркином, профессором Технологического института Джорджии (США), в качестве методологической альтернативы реализации «сильного ИИ» [31, c. 97].

Статья 36 Дополнительного протокола I к Женевским конвенциям 1949 года закрепляет обязательство государств-участников при изучении, разработке, приобретении или принятии на вооружение нового вида оружия определить, подпадает ли их применение под запрещения, содержащиеся в указанном

Протоколе или в иных нормах международного права1. Разработка национальных процедур порождает нормативную неоднородность, приводя к появлению различных критериев правомерности систем вооружений, создавая риски правовой фрагментации. Также возникает вопрос о том, требует ли САС, оснащенный ИИ с машинным обучением, повторного рассмотрения и получения разрешения в рамках соблюдения вышеуказанной нормы.

Согласно позиции Ю. М. Батурина, формирование нормативно-правового регулирования возможно через моделирование взаимодействия разрабатываемых моделей САС, так как оно позволяет выработать правила безопасности, которые впоследствии могут лечь в основу международного соглашения. Данный подход воспроизводит логику научного сотрудничества советских и американских специалистов в 1983–1985 годах, результатом которого стали математические модели и прогнозы последствий ядерной войны [1, c. 18]. Стремительное развитие военных технологий ИИ на фоне сохраняющихся правовых пробелов в регулировании САС создает значительные риски международной безопасности, что обусловливает востребованность четкого международно-правового регулирования САС.

Проблемы определения субъекта уголовной ответственности за преступления, совершенные смертоносными автономными системами вооружения

Противодействие преступлениям, совершенным с применением САС, неразрывно связано с выявлением круга субъектов, которым могут быть вменены указанные деяния. В данном контексте требуется учет технологических особенностей, прежде всего непредсказуемости поведения, обусловленной алгоритмами ИИ и феноменом «проблемы многих рук» [41, c. 59], поскольку разработка, производство и применение САС осуществляются множеством субъектов, что создает значительные сложности в доказывании причинно-следственной связи между действиями конкретных лиц и наступившим противоправным результатом.

Выделяются различные степени автономности, которые в той или иной мере требуют участия оператора: 1) ИИ предлагает альтернативные цели, оставляя последнее слово за оператором; 2) ИИ самостоятельно выбирает цель, но оператор должен ее подтвердить; 3) ИИ выбирает и самостоятельно определяет цель, но оператор вправе отменить атаку; 4) ИИ самостоятельно избирает цель и наносит по ней удар без согласования с кем бы то ни было. Первые три степени характеризуются участием оператора (“man in the loop”), последний – выведением индивида из контура управления (“man out of the loop”) [12, c. 9].

Наиболее неоднозначным с точки зрения присвоения ответственности является последний вариант – когда преступления совершены с использованием САС, наделенной «сильным ИИ», способным самообучаться и принимать самостоятельное решение о выборе цели и атаке. За рамками проблематики, таким образом, остается, например, широкое применение в рамках СВО беспилотных летательных аппаратов (БПЛА), чей алгоритм действия, тем не менее, определяется непосредственно человеком (либо путем управления в режиме реального времени (так называемые FPV дроны – First-Person View), либо путем задавания конкретных координат маршрута и цели нападения). В данном случае субъект уголовной ответственности соответствует стандартной форме исполнителя, а сам БПЛА является не более чем средством совершения преступления.

Иная ситуация будет в случае, когда САС не подвергается целенаправленному программированию, не получает команды совершить конкретные противоправные действия, но совершает их без прямого человеческого вмешательства, поскольку решение об атаке будет приниматься непосредственно самой САС с «сильным ИИ». Ключевыми являются вопросы: сможет ли САС отличить законную военную цель от гражданских лиц и кто будет нести ответственность за нарушения норм МГП? Таких потенциальных ситуаций может быть множество: нападение на гражданских лиц, пассажирский самолет или морское судно при ошибочном их определении системой как военных и т. д. Основная озабоченность высказывается по двум аспектам – сможет ли система быть настолько «умной», что безошибочно будет различать комбатанта и некомбатанта и ни при каких ситуациях не спутает, например, вооруженного комбатанта с подростком с игрушечным пистолетом в руках? Наибольшую проблему могут представлять системы, которые занимаются так называемым «машинным обучением», оценивая информацию из больших массивов данных и адаптируясь к ней. Поскольку «внутренние когнитивные процессы такой машины значительно отличаются от человеческих, это значительно усложняет способность человека предсказать, как устройство может классифицировать объекты» [37, c. 13– 14]. Отмечается, что в судебной практике уже был прецедент по вопросу ошибки САС в распознавании целей: в деле «Ханан против Германии» Европейский суд по правам человека обратился к случаю, когда немецкие силы в Афганистане, действуя на основе данных американского БПЛА, нанесли удар по захваченному талибами бензовозу, вследствие чего погиб 91 и были ранены 11 мирных жителей, не имевших никакого отношения к террористам, но случайно оказавшихся рядом. Суд пришел к выводу, что немецкими властями не было допущено нарушение статьи 2 (право на жизнь) Конвенции о защите прав человека и основных свобод 1950 года в ее процессуально-правовом аспекте [7, c. 6].

Второй аспект – потенциальные технические сбои: даже если человек программирует, чтобы системы работали в соответствии с нормами МГП, и даже если системы способны работать таким образом, на практике они всё равно могут дать сбой, который может привести к существенным негативным последствиям.

При квалификации деяния основные юридические сложности будут состоять в выявлении причинно-следственной связи и определении субъективной стороны. Сложность их установления приводит к так называемому «разрыву ответственности» (responsibility gap) – нежелательному правовому явлению, при котором возложение ответственности за вред, причиненный использованием ИИ, на конкретное лицо (лиц) по правилам личной ответственности невозможно [9, c. 132–134].

Существенной проблемой является разрыв причинно-следственной связи между решениями человека на этапах разработки и развертывания и противоправным результатом, произведенным системой. Непредсказуемость поведения САС с «сильным ИИ» создает препятствия для установления такой связи [23, c. 1–52]. Процесс разработки и производства САС характеризуется высокой степенью институциональной фрагментации, предполагающей вовлечение множества физических и юридических лиц на различных стадиях жизненного цикла системы, что, безусловно, осложнит выявление доли вклада каждого звена в преступный результат.

Справедливо отмечается, что при расследовании преступлений, связанных с применением САС, существенное значение приобретает временной фактор их разработки [36, c. 308–340]. В силу того что для квалификации деяний в качестве военных преступлений существенным условием является наличие вооруженного конфликта, tempus comissi delicti выступает определяющим при оценке применимого права. Деятельность по программированию САС часто осуществляется в мирное время, вне конкретного вооруженного конфликта, порой задолго до него, будь то в коммерческой деятельности корпораций или в рамках научных учреждений на основе фундаментальных исследований. Результатом этого является сложность установления следующих обстоятельств: был ли алгоритм изначально направлен на достижение конкретных противоправных действий в условиях будущего вооруженного конфликта, какова причинно-следственная связь между действиями разработчиков в мирное время и противоправным результатом, наступившим в период вооруженного конфликта, притом что временной разрыв между этими этапами может исчисляться годами.

Иная сложность – выявление наличия субъективной стороны ( mens rea ) . Стержневым принципом международного уголовного права является концепция личной ответственности за совершенные преступления. Субъектом ответственности неизменно выступал индивид – физическое лицо, достигшее установленного возраста. Согласно Приговору Нюрнбергского трибунала «преступления против международного права совершаются людьми, а не абстрактными категориями, и только путем наказания отдельных лиц, совершающих такие преступления, могут быть соблюдены установления международного права» [11, c. 992]. Как определил Международный трибунал по бывшей Югославии (МТБЮ), основополагающим основанием ответственности выступает принцип личной вины: «Никто не может быть подвергнут уголовному наказанию за действия или операции, в которых он не принимал личного участия в той или иной форме»¹. Данная правовая максима получила нормативное закрепление в статье 25 Римского статута Международного уголовного суда (МУС).

Однако новые вызовы, диктуемые реальностью вооруженных конфликтов, побуждают представителей науки международного уголовного права оперативно отвечать на актуальные вопросы, добиваться криминализации новых деяний, пытаться адаптировать существующие теоретические конструкции к возникающим формам и способам совершения международных преступлений. Р. Кро-отоф утверждает, что САС, оснащенные «сильным ИИ», подрывают основополагающую парадигму индивидуальной уголовной ответственности за международные преступления, доминирующую со времен Нюрнбергского трибунала, в основе которой лежит исходный постулат, что такие преступления совершаются исключительно человеком. По ее мнению, в случае совершения преступления с использованием САС, наделенной «сильным ИИ», привлечение к уголовной ответственности любого причастного лица становится невозможным ввиду отсутствия субъективной стороны [24, c. 1385–1386]2.

В рамках известных науке уголовно-правовых конструкций предпринимаются попытки ответить на вопрос о том, кто будет нести уголовную ответственность за преступления, совершенные с применением ИИ. С учетом ограниченности вариантов субъекта преступлений предложено несколько вариантов присвоения ответственности.

Уголовная ответственность разработчиков

Создание сложной САС обеспечивается не одним специалистом, а командой разработчиков из разных организаций, задействованных в разработке множества взаимозависимых подсистем высокой сложности. Разработчики САС не только создают программу, на основании которой действует система, но и могут осуществлять контроль над конкретными операциями, реализуемыми после ввода в эксплуатацию. Проблема ответственности разработчиков сопряжена с тем обстоятельством, что значительная часть работ по проектированию САС выполняется вне рамок вооруженного конфликта. Более того, поскольку некоторые САС обладают функцией самообучения и самопрограммирования, они могут отклоняться от изначально заложенных человеком инструкций, менять свои целевые профили в зависимости от оперативной обстановки.

Индивидуальная уголовная ответственность в международном праве несет карательную функцию и нацелена на привлечение к ответственности конкретных виновных лиц. В случае применения САС установление mens rea разработчиков представляется проблематичным, что значительно осложняет их квалификацию в качестве субъектов преступления. Если обратиться к статье 30 Римского статута, регулирующей субъективную сторону (фактически она является единственным кодифицированным международно-правовым положением в данной области), то можно заметить, что она вводит условия совершения деяния лицом «намеренно» и «сознательно» [12, c. 6–11]. Таким образом, потенциально разработчики могут подлежать уголовной ответственности только в том случае, если их действия характеризуются намеренностью и осознанностью (преднамеренное сознательное проектирование ИИ, допускающее нарушение норм МГП, например, создание программы для САС с целью нападения на гражданских лиц или объекты гражданской инфраструктуры) [14, c. 464–480; 16, с. 4–13].

Альтернативный вариант – присвоение ответственности в формате совершения через другое лицо (по аналогии с англосаксонским правом, а также указанным в статье 25 Римского статута МУС). В этом случае существуют два возможных субъекта ответственности: 1) программист, разработавший специальное программное обеспечение; 2) пользователь, владеющий юнитом ИИ и эксплуатирующий его для собственных противоправных интересов. Несмотря на то что деяние фактически совершается САС, презюмируется, что оно как бы совершается программистом или пользователем [31, c. 21].

Высказывается мнение, что наиболее подходящим форматом ответственности разработчика при наличии совместного контроля будет формат соучастника (с ориентиром на формулировку ст. 25(3)(c) Римского статута), который помогает, подстрекает или иным образом содействует совершению преступления, включая предоставление средств для его совершения [31, c. 157]. Однако такой подход, на наш взгляд, в должной мере не решает проблему mens rea: если ориентироваться именно на статью 25 Римского статута как основу для вменения в вину физическим лицам преступлений, совершенных САС, то следует подстраиваться и под требования Статута к субъективной стороне, устанавливающие достаточно высокий порог: лицо подлежит уголовной ответственности и наказанию за преступление, подпадающее под юрисдикцию Суда, только в том случае, когда оно совершено намеренно и сознательно. Лицо имеет намерение в тех случаях, когда: a) в отношении деяния – лицо собирается совершить такое деяние; б) в отношении последствия – лицо собирается причинить это последствие или сознает, что оно наступит при обычном ходе событий. Термин «сознательно» означает осознание того, что обстоятельство существует или что последствие наступит при обычном ходе событий. Наличие признаков намерения и осознанности может быть установлено на основе фактов и обстоятельств дела (п. 2 Элементов преступлений МУС). Для возникновения уголовной ответственности должны одновременно присутствовать оба элемента, что предполагает сочетание в действиях лица и волевого, и когнитивного компонента. Бремя доказывания наличия обоих элементов лежит на стороне обвинения. Таким образом, указанные в статье 30 Римского статута требования применительно к деятельности разработчиков программы могут быть выполнены только в случае, если САС была заведомо запрограммирована на противоправные действия. Если же речь идет не о прямом умысле, а о косвенном (здесь когнитивный компонент будет означать осознание того, что существует значительный и неоправданный риск того, что САС поразит гражданские цели, а волевой компонент будет предполагать добровольное принятие этого риска), то многими правоведами отмечается, что применение этого формата к преступлениям в контексте автономного оружия может быть проблематичным [25, c. 22; 10, c. 461–476]. Так, например, концепция dolus eventualis остается за рамками Римского статута, что предполагает невозможность задействовать механизм МУС в данном вопросе при актуальных формулировках Статута.

По этой причине рациональным видится отказ от требования нормативной связи действий разработчиков программного обеспечения с наличием вооруженного конфликта, допущение – для целей квалификации – возможности совершения деяния не только во время вооруженного конфликта, но и ex ante . Кроме этого, для снятия имеющихся квалификационных сложностей применительно к уголовной ответственности разработчика целесообразно отказаться от формата исключительно прямого умысла, допустить вариант совершения преступления в формате косвенного умысла и неосторожности.

Помимо материальных существуют процессуальные препятствия на пути привлечения к ответственности разработчиков, поскольку они, будучи задействованы в создании систем вооружения в рамках государственных заказов, нередко наделяются иммунитетом от уголовного преследования нормами национального законодательства. Хотя национальные суды обладают компетенцией привлекать разработчиков к уголовной ответственности, анализ судебной практики демонстрирует преобладание гражданско-правовых споров, связанных с поставкой некачественной продукции1.

Ответственность производителей, поставщиков

Как и в случае с разработчиками, сложно выявить причинно-следственную связь между действиями производителей и преступным результатом, равно как и наличие в их действиях субъективной стороны в отношении преступных действий, совершенных САС. Дополнительным усложняющим фактором является то, что производители САС, включающих множество компонентов, могут находиться под юрисдикцией разных государств. Производителями являются крупные холдинги, в штате которых работает большое количество персонала, чья компетенция и ответственность по различным технологическим этапам, проектированию, изготовлению может быть распределена.

Что касается национальных судов, то иски к производителям и поставщикам оружия преимущественно рассматриваются в рамках гражданского судопроизводства. В США, в частности, действует Закон о защите правомерной торговли оружием (The Protection of Lawful Commerce in Arms Act), положения которого предоставляют иммунитет производителям и поставщикам оружия от судебных исков о компенсации ущерба, нанесенного в результате преступного применения их продукции². На основании упомянутого закона Верховный Суд США неоднократно отказывал в удовлетворении исков Мексики к производителям оружия. Так, Мексикой был предъявлен иск к компании “Smith & Wesson” по обвинению в незаконном производстве и продаже огнестрельного оружия для мексиканского наркокартеля³. На основании анализа правовых норм и судебной практики можно констатировать отсутствие в международном праве успешных прецедентов привлечения к уголовной ответственности разработчиков, производителей и поставщиков систем вооружения.

Уголовная ответственность командиров

В качестве иной альтернативы предлагается задействовать формат командной ответственности, прочно укоренившийся в договорном и обычном международном праве [30, c. 14]. Нормы МГП издавна предусматривали, что военный командир имеет определенные обязанности по отношению к своим подчиненным и несет ответственность за них (Конвенция об обычаях сухопутной войны 1907 г., Женевская конвенция 1929 г., Дополнительный протокол I 1977 г. к Женевским конвенциям 1949 г.). Впоследствии этот вопрос стал предметом регулирования и международного уголовного права, найдя отражение в учредительных актах международных трибуналов ad hoc, Кодексе преступлений против мира и безопасности человечества 1996 года, Римском статуте МУС. Командир подлежит ответственности, если он знал (должен был знать), что лицо, находящееся у него в подчинении, совершило (намеревается совершить) преступление, и он не принял всех возможных мер в пределах своих полномочий для его предотвращения или пресечения. Командная ответственность предполагает бездействие – командир само деяние не совершает, в преступном результате не заинтересован, но потворствует действиям подчиненных.

Судебные прецеденты привлечения к ответственности командиров имеют место как на международно-правовом уровне (например, Токийский трибунал, МТБЮ, Трибунал по Руанде (МТР)), так и на национальном: среди наиболее известных дел отметим поствоенные процессы в США над представителями верховного командования Германии («США против К. Брандта и др.», «США против В. Листа и др.» («Дело заложников»), «Соединенные Штаты против В. Лееба и др.» («Дело Верховного командования»)), японским генералом Т. Ямашитой (Ямаситой) [27, c. 325–347]4. Так, Верховный Суд США установил, что «закон войны предполагает, что его нарушение должно быть предотвращено посредством контроля над военными операциями со стороны командиров, которые в определенной степени несут ответственность за своих подчиненных» [32, c. 7]5.

Между тем следует констатировать, что практика органов международного уголовного правосудия столкнулась со многими юридическими сложностями в рамках рассмотрения дел в формате командной ответственности: проблема субъективной стороны (не всегда просто доказать факт, что командир знал или, тем более, должен был знать о правонарушении подчиненного), сложность доказывания причинно-следственной связи (особенно когда между командиром и подчиненным существует несколько звеньев в рамках военной иерархии), наличие эффективного контроля, который, как правило, в условиях вооруженного конфликта не всегда легко выявить. Дискуссионным является и вопрос о корректной квалификации преступных деяний – будет ли отвечать командир только за то, что не предпринял необходимых мер для пресечения преступления своим подчиненным и наказания за него, или же он становится соучастником такого преступления и несет ответственность, как если бы это преступление со своими подчиненными он совершил сам. Этот подход в части аргументации опирается на начальную фразу статьи 28 Римского статута о том, что лицо «подлежит уголовной ответственности за преступления, совершенные силами, находящимися под его эффективным командованием, властью и контролем». Такой вариант толкования, подразумевающий ответственность командира именно за преступления подчиненных, а значит, применимость к поведению командира и статьи 28, и статьи 25 Статута, имеет немного сторонников [40, c. 162; 31, c. 614]. Однако он был воспринят в рамках практики МТБЮ и МТР1.

Поскольку непосредственными исполнителями являются не командиры, а иные лица – их подчиненные, стороне обвинения часто приходится полагаться на косвенные улики в рамках концепции командной ответственности. Если же виновность основывается на косвенных доказательствах, последние должны исключать любой разумный вывод, кроме виновности подсудимого. В качестве примера можно привести оправдание Международным уголовным судом Ж.-П. Бембы (первое дело МУС, в котором фигурировало обвинение по ст. 28 Римского статута) и Л. Гбагбо, когда большинство судей Апелляционной палаты сочли, что такая степень доказанности единственно разумного вывода отсутствует.

По итогам изучения статистических показателей МТБЮ и МТР в части осуждения по командной ответственности обозначен вывод, что «командная ответственность с наименьшей вероятностью приведет к успешному осуждению по международному уголовному праву», поэтому обвинители стоят порой перед стратегическим выбором: стоит ли стремиться к трудно доказуемому обвинению в командной ответственности вместо часто более простого обвинения в непосредственном совершении преступления [21, c. 86–87]?

С учетом того что на международно-правовом уровне сторона обвинения в делах о виновности командиров в формате командной ответственности сталкивается со значительными сложностями, есть основания для вывода о том, что попытка использовать эту концепцию для преступлений с применением САС будет еще менее результативна.

Во-первых, сомнительно, что используемую в статье 28 Римского статута формулировку «преступления, совершенные силами, находящимися под его (командиром) эффективным командованием и контролем» можно распространить на САС, прежде всего в силу того, что положения Римского статута под субъектом преступления понимают только физических лиц. Это объясняется тем, что к 1998 году (к моменту подписания Римского статута) вариантов иных субъектов, кроме как физических лиц, которые могли бы совершить преступления и нести ответственность в рамках МУС, не было. Во-вторых, труднодостижимы иные условия статьи 26 в ситуации их «наложения» на САС: наличие субординационных отношений между командиром и подчиненным (то есть САС), предполагающих нахождение последнего под эффективным контролем командира; осведомленность командира о совершенном подчиненным (то есть САС) преступлении (планируемом к совершению) или же достаточные основания к тому, чтобы быть осведомленным, и оставление такой информации без внимания; последующее бездействие командира в отношении предотвращения, пресечения преступления, действий по привлечению подчиненного (то есть САС) к ответственности. В-третьих, командная ответственность опосредована преступлением, совершенным подчиненным: без последнего нет первого, однако вопрос о том, будет ли являться субъектом ответственности оператор, однозначно не решен. Таким образом, вывод, на наш взгляд, очевиден: в текущих международно-правовых формулировках концепция командной ответственности к САС неприменима.

Уголовная ответственность операторов (комбатантов)

Данный субъект является наиболее «удобным» кандидатом на присвоение ответственности за преступления, связанные с использованием САС, поскольку находится в этой цепочке (разработчик, производитель, поставщик, командир) наиболее близко к его управлению. Однако это справедливо только в случае, если оператор непосредственно сам принимает участие в управлении САС или целеполагании (вводе конкретных координат) и сам принимает решение о нападении. В данном случае роль оператора ничем не будет отличаться от роли комбатанта, использующего различные виды оружия, и в случае совершения преступления он будет нести ответственность как исполнитель. До тех пор, пока оператор остается в состоянии вмешиваться в функционирование системы оружия каким-либо существенным образом, его контроль сохраняется. Как минимум оператор имеет возможность выбирать время, место и другие обстоятельства, при которых САС будет активирована. В данном контексте стандартно будет требоваться установление его психического отношения к содеянному (например, преднамеренное нацеливание на гражданский объект) и осознания преступного характера своих действий.

Возможны и ситуации, когда оператор принимает самостоятельное решение о действии, но при этом исходит из ошибочных данных, которые предоставляет ему система. В качестве примера можно привести два инцидента с дружественным огнем американских систем ПВО Patriot во время вторжения США и их союзников в Ирак в 2003 году. В первом случае батарея американских Patriot сбила британский самолет (в результате чего погиб экипаж), поскольку автоматика Patriot ошибочно определила самолет как противорадиационную ракету и отдельная система, позволяющая дружественным военным самолетам идентифицировать себя, не сработала. Однако только этих двух факторов оказалось недостаточно: Patriot действовал в полуавтономном режиме и требовал одобрения человека. Оператор также допустил ошибку, положившись на неверную идентификацию. Во втором инциденте Patriot идентифицировал входящий след от баллистической ракеты, который, как выяснилось позже, был ложным (вероятно, из-за электромагнитных помех). Не зная, что траектория была ложной, операторы перевели ракету в состояние готовности в автоматическом, а не полуавтоном-ном режиме, тем самым устранив необходимость участия человека. Как только система была готова, батарея Patriot открыла огонь и сбила самолет F-18 [25, c. 14–15]. В этих случаях налицо отсутствие преступного умысла – именно несовершенство и сложность системы способствовали тому, что операторы исходили из ошибочных данных, которые им передала система. В данной ситуации в отношении действий оператора возможно применение категории «ошибка в факте», которая по общему правилу является основанием для освобождения от уголовной ответственности, если исключает необходимую субъективную сторону данного преступления. Такой подход закреплен, в частности, в статье 32 (1) Римского статута.

В случае, если оператор не принимает участия в процессе принятия решения и решение о нападении принимает сама система, ситуация становится иной: возникает та же проблема отсутствия субъективной стороны в действиях оператора, что лишает уголовную ответственность ее базового компонента – принципа личной вины – nulla poena sine culpa. Так, в деле Ж. Катанги МУС обозначил параметры субъективной стороны в контексте такого военного преступления, как нападение на гражданских лиц: лицо должно 1) намеренно руководить нападением; 2) намереваться сделать объектом нападения гражданское население или отдельных гражданских лиц; 3) знать о гражданском характере населения или гражданских лицах, не принимающих участия в военных действиях; 4) быть осведомленным о фактических обстоятельствах, которые устанавливали существование вооруженного конфликта1. Такие достаточно строгие критерии к субъективной стороне преступления делают для стороны обвинения доказывание наличия этих параметров у оператора САС, которая самостоятельно приняла решение о нападении, весьма сложной задачей.

С учетом специфики САС решением могло бы стать задействование в качестве нормативной основы концепции «оперирование источником повышенной опасности», обусловливающей ответственность за вред, причиненный деятельностью, сопряженной с высокой степенью угрозы общественной безопасности, что даст возможность максимально снизить порог требований к субъективной стороне. Это обусловит отказ, как и в случае с разработчиками программы, от формата исключительно прямого умысла в пользу косвенного умысла и неосторожности. В рамках оценки субъективной стороны следует применять дифференцированный подход, комплексно учитывать конкретные обстоятельства (используется ли эта система впервые, есть ли основания оператору полагать, что система может сработать некорректно, есть ли данные, что в результате применения этих систем могут быть жертвы среди гражданского населения, оценка оператором вероятности наступления общественно опасных последствий).

В доктрине указывается на проблему непрозрачности («черного ящика») внутренних процессов САС с «сильным ИИ»: нейронные сети «могут самостоятельно совершить нечто, что может напоминать свободную волю» [35, c. 34]. Подобные действия являются следствием функционирования систем, изначально выходящих за рамки предварительно заданных параметров. Указанные особенности обусловливают позицию ряда исследователей, согласно которой САС, управляемые глубокими нейронными сетями, функционируют как «черные ящики» [34, c. 25– 44], когда входные и выходные данные верифицируемы, но внутренние процессы принятия решений остаются недоступными для осмысленного анализа человеком2. Непрозрачность внутренних процессов САС создает сложности в установлении обстоятельств нарушения МГП, что актуализирует проблему наличия причинно-следственной связи и вины [37, c. 44; 15, с. 547–554]. Такая точка зрения широко распространена среди ученых, занимающихся проблемами исследования «черных ящиков» в военной сфере. Однако существует и иная позиция, согласно которой правовое значение имеет только результат деяния, и то, что происходит в «черном ящике», остается в «черном ящике» [37, c. 130].

При обсуждении вопросов привлечения к индивидуальной уголовной ответственности за международные преступления, связанные с применением САС, был выдвинут тезис об отсутствии нормативного пробела в сфере ответственности в случае сохранения «значимого человеческого контроля» при принятии решения о применении САС. Согласно такому подходу ответственность за противоправные последствия несет командир и оператор [25, c. 73], что созвучно принципу ответственности контролирующего лица, применимость которого обосновывается в науке международного права [29, c. 175–183]. Разделяют «значимый человеческий контроль» в узком и широком смысле. Понимание его в узком значении предполагает, что контролирующее лицо не может повлиять на негативный результат использования ИИ иначе, как отказом от такого использования. В широком смысле человеческий контроль за использованием ИИ понимается как «осуществление лицом действий, способных влиять на вывод результата системой ИИ, управляющей приложением ИИ с учетом психофизиологической скорости принятия решения человеком, обладающим квалификацией, достаточной для предвидения последствий действий своих и системы (приложения) ИИ; результаты выводов системы ИИ должны обладать свойством прослеживаемости» [9, c. 139]. Концепция значимого человеческого контроля постепенно распространяется на доктринальном уровне, однако ее юридическое закрепление осложнено как различным отношением государств к проблематике использования ИИ и САС в целом, так и отсутствием единого взгляда на содержательный аспект концепции человеческого контроля в частности1.

Как один из вариантов квалификации предлагается использовать концепцию со-исполнительства, отраженную в статье 25(3)(d) Римского статута [41, c. 164–168]. Эта концепция, основанная на совместном контроле за преступлением, коренится в принципе разделения основных задач в целях совершения преступления между двумя или более лицами, действующими согласованно. Как указал МУС, хотя ни один из участников не имеет полного контроля над преступлением, поскольку все они зависят друг от друга в его совершении, все они разделяют ответственность в силу того, что каждый из них может помешать совершению преступления, не выполнив свою задачу2.

В случае потенциального выбора формата со-исполнительства стороне обвинения будет необходимо доказать ряд условий, обозначенных МУС для его применения: факт совершения преступления в рамках группы; наличие общей цели или плана; состоял ли обвиняемый в группе, действующей с общей целью, или нет; каким был конкретно вклад обвиняемого в преступление и был ли он существенным; достаточным ли был его умысел или простое знание обстоятельств совершения преступления для возникновения ответственности3. В сочетании с требованиями статьи 30 Римского статута альтернативы статьи 25(3)(d) предусматривают два критерия субъективной стороны: альтернатива (i) требует доказательства того, что лицо намеревалось способствовать общей преступной деятельности группы, в то время как альтернатива (ii) требует доказательства знания лицом о преступлении, которое намеревалась совершить группа. Пункт «осознание умысла» предполагает, что участник понимает, но необязательно разделяет mens rea исполнителя. Такая конструкция охватывает ситуации, в которых участие в преступлении принимает форму помощи или вклада в выполнение общего плана или цели; иными словами, ситуации, в которых соисполнитель не был вовлечен во все аспекты осуществления общего замысла, но осознавал преступные намерения своих соисполнителей. На наш взгляд, квалификация многосубъектной цепочки «разработчик – производитель – поставщик – командир – оператор» как преступной группы, действующей с общей целью, в тандеме с соответствием участников требованиям статьи 30 Римского статута труднореализуема. Во-первых, указанные лица, скорее всего, не будут даже знакомы друг с другом, во-вторых, объединять такую «группу» разных по роду своей профессиональной деятельности лиц должна общая преступная цель. Однако наличие такой цели, как уже отмечалось выше, предполагает случаи изначального программирования САС на противоправные действия и их применение, а также наличие намерения достичь преступного результата наряду с осведомленностью участников группы о данных обстоятельствах, их последствиях и сознательном решении участвовать в этом процессе. Как представляется, формат со-исполнительства может быть применен только при совпадении всех требуемых условий применительно к каждому члену потенциальной преступной группы. Однако он не будет применим в случае, если САС изначально не были запрограммированы на противоправные действия и решение об их осуществлении принимал ИИ.

Таким образом, если рассматривать действующие международно-правовые институты, привлекающие к ответственности физических лиц за международные преступления, а именно МУС, то в текущей редакции Римский статут, на наш взгляд, не позволяет привлечь индивида к ответственности за преступления, совершенные САС. Согласимся с мнением, что в целом в действующем международном уголовном праве не существуют формы уголовной ответственности, которые корректно могут быть применены к преступлениям, совершаемыми САС [41 c. 254].

Смертоносные автономные системы вооружения как субъекты преступления

Исходя из того, что на сегодняшний день ни на нормативном, ни на доктринальном уровне нет однозначного ответа на вопрос, кто будет нести уголовную ответственность за преступления, совершенные САС, объективно складывается некий правовой вакуум в данном вопросе: если нет достаточных юридических оснований для вменения в вину таких преступлений разработчикам, производителям, поставщикам, командирам и операторам [38, c. 62, 37, c. 123], то по остаточному принципу предлагается в качестве субъектов рассматривать государства [32, c. 34] (в формате международно-правовой ответственности) либо сами САС.

Данная теория, будучи наиболее нестандартной, непривычной и, в некотором смысле, странной, также представлена в академическом сообществе в ряде иных [10, с. 461–476]. Основана она на следующей логической конструкции: если преступление совершено и физических лиц привлечь к ответственности за него невозможно в силу конкретных юридических причин (прежде всего отсутствия mens rea и причинно-следственной связи), то не должно быть ситуации, когда юридически преступление и преступный результат есть, а субъекта преступления нет.

Ни в международном, ни в национальном праве к настоящему времени не содержится норм, наделяющих ИИ правосубъектностью, однако в доктрине обосновывается позиция, что разработка и применение САС порождают объективную потребность в признании за ними правосубъектности [6, c. 34]. Дискуссия о возможности привлечения ИИ к уголовной ответственности ведется по двум разнонаправленным путям: антропоцентричный (подразумевающий привлечение к уголовной ответственности исключительно физических лиц за преступления, совершенные с помощью ИИ) и радикальный (создание «электронной личности» и последующее привлечение

ИИ к уголовной ответственности). С учетом специфических характеристик выдвигается предложение о наделении ИИ статусом специального субъекта права с ограниченной правосубъектностью, предусматривающего в качестве уголовных санкций деактивацию или модификацию алгоритмов, а также конфискацию системы [39, c. 532–549].

На наш взгляд, позиция о возможности уголовного наказания САС «с сильным ИИ» не согласуется с нормами международного уголовного права, так как цель наказания в данном случае неосуществима: применение традиционных наказаний не имеет смысла и нивелирует карательный эффект уголовного преследования, а применение обозначенных выше специфических санкций, как, например, деактивация системы, не отвечает целям уголовной ответственности, таким как восстановление справедливости, исправление осужденного, предупреждение совершения новых преступлений, поскольку САС лишено понимания самого факта уголовного наказания. Отсутствие сознания и воли у ИИ исключает возможность установления mens rea ; эта категория в принципе неприменима к САС. Даже в случае реализации «сильного ИИ» система лишена свободы воли в принятии решений. Резонно ставится вопрос: о какой «свободе воли» может идти речь в случае с ЭВМ, реакции и само существо которой жестко детерминировано ее разработчиками и программным обеспечением? Всё, на что будет способна машина, закладывается в нее изначально человеком, – ошибка системы суть ошибка ее создателя [7, c. 18].

Следует констатировать и отсутствие к настоящему моменту на международно-правовом уровне каких-либо институциональных механизмов, чья юрисдикция распространялась бы на САС; все органы международного уголовного правосудия рассматривают дела только в отношении физических лиц в контексте личной ответственности.

Исходя из вышеизложенного привлечение САС к уголовной ответственности в ее классическом, традиционном понимании остается невозможным в связи с отсутствием элемента субъективной стороны и причинно-следственной связи. Представляется маловероятным разрешение вопроса об уголовной ответственности САС в обозримой перспективе. Международно-правовое регулирование в указанной сфере должно быть направлено, на наш взгляд, не столько на привлечение САС к юридической ответственности, сколько на сохранение значимого человеческого контроля за его использованием, а также на формирование международно-правовых механизмов сдерживания негативных последствий от САС.

В 2021 году на 6-й Обзорной конференции были приняты 11 руководящих принципов в отношении САС, среди которых: применимость к ним норм МГП; сохранение ответственности человека за решение по их использованию, включая установление цепочки командования и контроля со стороны людей; нормы международного права как основа ответственности за последствия использования САС; определение государствами в соответствии с их международными обязательствами того, при каких обстоятельствах применение САС не будет приемлемым1. Актуальными направлениями остаются: инициативы по ограничению2 дальнейшей разработки САС посредством распространения на них действия Конвенции 1983 года о запрещении или ограничении применения конкретных видов обычного оружия, которые могут считаться наносящими чрезмерные повреждения или имеющими неизбирательное действие и усиление регуляторных требований к разработчикам3, дальнейшее исследование вопроса о возможности присвоения ответственности государству.

Применительно к вопросу уголовной ответственности на текущем этапе отметим, что в силу тех рамок, которыми ограничено международное уголовное право (как и любая другая отрасль международного права), перспективным видится решение вопроса уголовной ответственности на уровне национально-правового регулирования. Многие задачи международной уголовной ответственности в той же мере применимы, а некоторые даже более эффективно решаются на национальном уровне. Национальное законодательство вполне может допускать (и допускает) более низкий порог субъективной стороны, а также не ограничено теми формами уголовной ответственности, которые отражены в статье 25 Римского статута. Помимо этого, национальное право в целом является достаточно гибким и более оперативно может реагировать на новые вызовы и угрозы, адаптироваться к ним. Как полагает П. Н. Бирюков, «с точки зрения общей теории права нет препятствий к наделению ИИ качеством правосубъектности; дело лишь за изменениями в законодательстве» [3, c. 257].

Развитие института ответственности индивида в международном уголовном праве неразрывно связано с институтом уголовной ответственности индивида в национальном праве, во многом основано на нем. Например, такие известные международному уголовному праву принципы, как принцип законности, принцип запрета придания норме обратной силы, первоначально были заимствованы из национального права. В случае с САС вопрос присвоения уголовной ответственности может сначала быть решен на уровне национального права, и затем такая регламентация, доказав свою эффективность, может быть воспринята на международноправовом уровне.

Заключение

Проведенный комплексный анализ проблем определения субъектов международной уголовной ответственности за преступления, совершенные с применением САС, позволяет сформулировать следующие выводы.

• 1.    Действующие нормы международного уголовного права, направленные на привлечение к индивидуальной уголовной ответственности и требующие установления субъективной стороны преступления ( mens rea ), не применимы к преступлениям, которые могут быть совершены САС с «сильным ИИ». Существующие в традиционном понимании юридические конструкции не решают проблемы, связанные с технической непредсказуемостью поведения таких систем, отсутствием прямого умысла и причинно-следственной связи.

• 2.    «Проблема многих рук», присущая технологически сложным системам вооружения, и временной разрыв между разработкой (в мирное время) и применением (в вооруженном конфликте) САС затрудняют установление причинно-следственной связи между действиями конкретного человека и преступным результатом.

• 3.    «Эффект черного ящика» и адаптивность «сильного ИИ» к окружающей среде делают невозможным доказывание умысла или неосторожности разработчиков, производителей, операторов или командиров в соответствии со стандартами Римского статута МУС. Концепции соучастия (ст. 25 Римского статута) и командной ответственности (ст. 28) неприменимы из-за отсутствия контроля над САС, невозможности присвоения деяния группе лиц и несовместимости с требованиями к установлению mens rea .

• 4.    Признание ИИ субъектом уголовной ответственности противоречит фундаментальным принципам уголовного права, в частности nulla poena sine culpa . Отсутствие сознания, воли в традиционном понимании, невозможность применения наказания (например, штраф, лишение свободы) нивелируют эффект от достижения задач уголовного судопроизводства.

• 5.    Представляется, что гарантией соблюдения МГП должно стать обеспечение человеческого контроля и участия на всех этапах жизненного цикла САС (разработка, активация, выбор цели и применение силы).

• 6.    Национальное уголовное законодательство видится более приемлемым вариантом нормативного регулирования ответственности за преступления, совершенные посредством САС, поскольку

• 7.    Востребовано развитие технологических решений, в том числе внедрение «этических регуляторов», блокчейна для аудита решений и «черных ящиков» для фиксации данных, которые способны повысить прозрачность процессов и обеспечить подотчетность человеку.

• 8.    Принятие юридически обязательного договора по САС маловероятно из-за отсутствия консенсуса среди наиболее крупных государств в области вооружений, а также в связи со стремительным развитием таких технологий. Вместе с этим представляется, что международный договор обеспечит нормативную определенность и позволит предотвратить риски, связанные с неконтролируемым распространением САС.

допускает менее строгие требования к субъективной стороне преступления, включая неосторожность. Перспективен механизм международно-правовой ответственности государств за противоправные деяния, связанные с САС, но требуется разработка критериев присвоения поведения.

Таким образом, на первый взгляд, разрешение проблем, связанных с привлечением к уголовной ответственности за преступления САС, требует пересмотра антропоцентричной парадигмы международного уголовного права. В то же время пока сохраняется технологическая зависимость САС от человеческих решений, правовое регулирование должно гарантировать неотвратимость ответственности контролирующих лиц – через усиление национальных юрисдикций, технологические решения и прогрессивное развитие норм международного права.