Использование искусственного интеллекта в уголовном судопроизводстве: шаг вперед или возврат к следственному процессу?

Petr V. Kozlovsky, Candidate of Science (in Law), doctorate degree student of Science and Research Department 1; ;

Актуальность, значимость и сущность проблемы. Внедрение технологий искусственного интеллекта (далее — ИИ) активно происходит во многих сферах человеческой деятельности. Не является исключением уголовное судопроизводство. Более профессиональной и изощренной становится преступность, противодействие которой традиционными методами теряет результативность.

Технологии ИИ активно используются во многих странах мира для борьбы с преступностью. В США они широко применяются для решения идентификационных задач (распознавания лиц, отпечатков пальцев и других биометрических идентификаторов, автомобильных номеров, пуль и гильз), повышения эффективности экспертно-криминалистической деятельности, прогнозирования преступности, оценки рисков вероятности рецидива, неявки в суд в отношении конкретных лиц 1. Появились первые примеры использования в судебных процессах технологий виртуальной реальности для реконструкции обстановки преступления [1].

Одной из наиболее известных систем оценки риска рецидива в США является система COMPAS, которая используется при избрании меры пресечения, вынесении приговора, принятии решения об условнодосрочном освобождении 2. Прогнозы поведения подсудимого оказывают существенное влияние на исход рассмотрения дела и принимаются как доказательства.

Так, в 2016 г. в США Эрик Лумис был приговорен к 6 годам тюремного заключения на основании оценки риска, рассчитанной с использованием алгоритма COMPAS. Попытка оспорить вывод по мотивам непрозрачности алгоритма и неясности причин такой оценки риска не увенчалась успехом 3.

Внедрение искусственного интеллекта в уголовное судопроизводство позволяет сделать вывод, что судебная система США постепенно переходит от интуитивных оценок судей к применению формализованных алгоритмов [2; 3].

В отчете Европола отмечается, что ИИ радикально меняет характер уголовного судопроизводства, повышая эффективность, скорость расследования, облегчает анализ больших и сложных данных, а также автоматизирует рутинные операции. Технологии ИИ активно используются для анализа открытых источников, работы с большими массивами данных, решения криминалистических и экспертных задач, подготовки аналитических материалов и даже разработки планов расследования 4. Необходимо отметить, что Европейский союз занимает более осторожную позицию, чем США. Так, Резолюция Европейского парламента от 6 октября 2021 г. № A9-0232/2021 устанавливает жесткие рамки для ИИ в уголовном процессе, запрещая прогнозирование преступного поведения, массовое распознавание лиц 5. Декларируются приоритетное внимание этическим принципам и фундаментальным ценностям, нацеленность применения ИИ на отстаивание прав человека, обеспечение справедливости. ЕС позиционирует себя в качестве защитника от де- гуманизации правосудия, подчеркивая важность сохранения человеческой оценки при использовании информационных систем в уголовном процессе [4, p. 25]. Однако это не препятствует широкому использованию результатов работы ИИ в качестве доказательств по уголовным делам, которое в России ввиду правовых ограничений и жестких требований по защите конституционных прав граждан невозможно.

Так, в 2020 г. совместными усилиями французских и голландских правоохранительных органов при поддержке Европола была проведена успешная операция по разоблачению пользователей зашифрованного мессенджера EncroChat. Полиции удалось перехватить, передать и проанализировать более 115 000 000 преступных сообщений, отправленных примерно 60 000 пользователями, что привело к аресту 6558 подозреваемых, в том числе 197 особо важных лиц. Были изъяты преступные средства на общую сумму 739 700 000 евро, заморожены активы на сумму 154 100 000 евро и конфисковано значительное количество наркотиков, транспортных средств, оружия и недвижимости. Результаты автоматизированного анализа легли в основу обвинительных заключений и судебных решений по сотням уголовных дел во Франции, Нидерландах, Германии, Испании и других странах ЕС 6.

Активно применяются технологии искусственного интеллекта в уголовном судопроизводстве Индии для анализа больших данных, выявления связей между подозреваемыми, распознавания лиц и иных изображений на видеозаписях, генерации 3D-моделей [5], оптимизации документооборота и др. На базе ИИ создана платформа для автоматического протоколирования и стенографирования судебных заседаний и перевода судебных документов на 18 индийских языков 7.

Например, полиция Дели использовала ИИ для идентификации неопознанного тела жертвы убийства. Технология ИИ помогла реконструировать лицо погибшего, что позволило установить его личность и раскрыть преступление [6, p. 192].

В Индии постепенно происходит вовлечение ИИ в процесс принятия процессуальных решений.

В рамках одного из уголовных дел Высокий суд Пенджаба и Харьяны запросил у ChatGPT информацию о юридических прецедентах, связанных с освобождением под залог при совершении насильственного преступления. После получения ответа о высокой опасности обвиняемого для общества было отклонено ходатайство об изменении меры пресечения [7, p. 356].

В будущем расширение подобной практики может привести к существенному влиянию ИИ на принимаемые процессуальные решения даже при сохранении формального контроля за человеком.

Довольно далеко в части применения информационных технологий в уголовном судопроизводстве продвинулись власти КНР, последовательно проводящие цифровизацию правосудия и внедрение ИИ. Были созданы общедоступные банки данных судебной информации, организованы прямая трансляция и видеозапись судебных заседаний, внедрены различные интерактивные системы (оплата пошлин и др.).

На базе указанных нововведений в 2015 г. началось использование технологий ИИ непосредственно в судебной деятельности [8, с. 55–56].

В 2018 г. стартовала «Шанхайская интеллектуальная вспомогательная система рассмотрения уголовных дел», позволяющая анализировать доказательства, судебную практику, поддерживать допросы и выявлять противоречия в показаниях [9, с. 74]. ИИ позиционируется как вспомогательная система, не претендующая на роль человека в принятии решений. Однако в целях обеспечения единообразия судебной практики судья до вынесения решения обязан осуществлять поиск и анализ аналогичных дел, которые проводятся в автоматическом режиме специальными сервисами. Принятое судьей решение анализируется ИИ на предмет соответствия аналогичным решениям по другим делам, а заключение по результатам анализа изучается судами вышестоящих инстанций [8, с. 56]. Такой порядок может стимулировать судью к принятию предложенного проекта без надлежащей проверки и учета индивидуальных обстоятельств дела.

Технологии ИИ в борьбе с преступностью активно применяются и во многих других странах. По официально не подтвержденным сведениям, в Сальвадоре система анализа больших данных «Палантир» выявляет преступления и генерирует ордера на арест конкретных лиц, оставляя полиции лишь роль исполнителя и позволяя ей при небольшом штате силовых структур добиться прорывных результатов.

В России идет внедрение ИИ в организационную деятельность судов. На данный момент успешно функционирует система электронного документооборота (ГАС «Правосудие» и др.). Разрабатывается сервис «Правосудие онлайн», который позволит обеспечить возможности дистанционного взаимодействия, включая подачу документов, получение электронных судебных документов, участие в судебных заседаниях с использованием технологии веб-конференции (биометрическая аутентификация будет осуществляться по лицу и голосу) 8. На данном этапе речь идет о применении веб-конференции в гражданском, арбитражном и административном судопроизводстве. Представляется, успешная апробация позволит через некоторое время перенести данные технологии в уголовное судопроизводство. Планируется интеграция сервиса с другими государственными информационными системами [10, с. 189]. Предполагается, что первые результаты его реализации будут обнародованы в декабре 2026 г.

Отдельные решения на основе технологий искусственного интеллекта используются в деятельности органов предварительного расследования, в экспертной деятельности для идентификации лиц по изображениям и др. 9 Но о создании крупных платформ, позволяющих сформировать единое цифровое пространство для досудебного и судебного производства, речь пока не идет.

Таким образом, с помощью ИИ в уголовном судопроизводстве возможно решение широкого круга задач, которые можно разделить на несколько групп.

• 1.    Вспомогательные задачи технического характера:

  • 1.1.    Автоматизация документооборота: составление и направление повесток, уведомлений, процессуальных документов участникам уголовного процесса.

  • 1.2.    Автоматизированное распределение уголовных дел.

  • 1.3.    Создание стенограмм и протоколов судебного заседания.

  • 1.4.    Контроль за соблюдением сроков и движением уголовных дел.

  • 1.5.    Сбор, структурирование и хранение больших массивов данных.

  • 1.6.    Выявление дублирования, ошибок, пропусков в данных, стандартизация и визуализация информации для последующего анализа и т. п.

• 2.    Использование в доказывании.

  • 2.1.    Автоматизация производства судебных экспертиз.

  • 2.2.    Идентификация людей и иных объектов, установление связей между ними (анализ изображений, голоса, выявление связей между людьми, транспортными средствами, абонентскими устройствами, следами и т. п.).

  • 2.3.    Поиск и анализ сведений об обстоятельствах дела.

  • 2.4.    Анализ собранных доказательств на предмет полноты и наличия противоречий.

  • 2.5.    Реконструкция события преступления.

  • 2.6.    Прогнозирование возможного преступного поведения конкретных лиц.

• 3.    Поддержка принятия решений.

  • 3.1.    Анализ практики по аналогичным делам.

  • 3.2.    Подготовка предложений по квалификации преступления.

  • 3.3.    Подготовка проектов решений, включая проекты приговоров.

Технологии ИИ достаточно глубоко проникли в уголовное судопроизводство и стали оказывать серьезное влияние на отправление правосудия, выходящее далеко за рамки вспомогательных функций. Происходящие технологические изменения ставят перед юристами новые вопросы от способов проверки и оценки доказательств, полученных с применением ИИ, до переосмысления роли человека в отправлении правосудия. Попытки организовать доказывание на основе алгоритмов, минимизировать субъективизм человека несут угрозу возрождения формального доказывания и классического следственного (инквизиционного) процесса на новой технологической основе. Риски применения ИИ в уголовном судопроизводстве требуют анализа и выработки подходов к их минимизации.

Цель — оценить влияние технологий ИИ на реализацию фундаментальных принципов уголовного процесса к контексте риска возрождения классического следственного (инквизиционного) процесса и предложить подходы к проверке и оценке доказательств, полученных с помощью ИИ, в правоприменительной деятельности.

Материалы и методы

Осуществлен анализ рисков применения ИИ в уголовном судопроизводстве, исследованных в научных работах российских и зарубежных авторов. Проведено эмпирическое исследование, в ходе которого опрошено 106 специалистов в области информационных технологий, имеющих опыт работы с нейросетями.

Анкета распространялась в вузах среди профессорско-преподавательского состава, осуществляющего преподавание предметов, связанных с информационными технологиями, работников IT-компаний, банков и др. Перед началом анкетирования в результате предварительного опроса отбирались лица, использующие нейросети на постоянной основе в служебной, преподавательской, научной или иной деятельности. Эмпирические данные обрабатывались с помощью методов математико-статистического анализа: описательной статистики, сравнительного анализа.

Результаты и обсуждение

Анализ уязвимостей технологий искусственного интеллекта при использовании в уголовном судопроизводстве. В научных работах выделяют следующие недостатки технологий ИИ при использовании в уголовном судопроизводстве.

Технические ошибки и уязвимости

Неточные или нерепрезентативные данные могут привести к ошибочным выводам. Так, системы распознавания лиц могут допускать ошибки из-за низкого качества изображения, обучения на представителях одной этнической группы и т. п. В результате указанных ошибок зафиксированы случаи необоснованного привлечения к уголовной ответственности и в США 10, и в России [11, с. 51–52].

ИИ может воспроизводить и усиливать человеческие предубеждения, заложенные в обучающих данных, игнорировать сведения, противоречащие устоявшимся шаблонам [6, p. 192–193]. Исследования в штате Флорида в США показали низкую достоверность прогноза рецидива и расовую предвзятость [12].

Серьезной проблемой является потенциальная уязвимость нейросетей к кибератакам. Исследователи из Китайского университета Гонконга показали, что нейросети для распознавания лиц можно обмануть с помощью «адверсарных патчей» 11, что ведет к ошибкам в опознании преступников [13]. К аналогичным выводам об уязвимости систем распознавания лиц в ходе экспериментальных исследований пришли российские ученые [14].

При отсутствии необходимых сведений нейросети способны генерировать ложные данные, что уже имело место в судебной практике [11, с. 53].

Правовые риски

• 1.    Неопределенность в вопросе ответственности за ошибки ИИ, связанная с невозможностью полностью предвидеть результаты деятельности нейросети.

• 2.    Непрозрачность алгоритмов ИИ затрудняет или делает невозможным оспаривание и непосредственное исследование доказательств, что влечет нарушение презумпции невиновности, ограничение состязательности, значительно осложняя защиту [15; 16, с. 32; 17, с. 479].

Этические и социальные риски

Использование при принятии решений технологий, не понятных обществу, снижает доверие к правосудию. Установление обстоятельств уголовного дела связано с ценностным выбором, требует от человека руководствоваться опытом и совестью при вынесении решения. Попытка контролировать судей с помощью формализованных алгоритмов ведет к ослаблению судебной власти, фактической передаче полномочий по принятию решений. Под давлением высокой нагрузки и процессуальных сроков неизбежно произойдет формирование зависимости от ИИ [18].

Эмпирическое исследование. Соотношение с результатами иных исследований в области ИИ. Чаще всего респонденты использовали нейросети для генерации текстовых/аналитических отчетов (27,8%), сбора и структурирования данных (23,2%), анализа больших массивов информации (19%), подготовки проектов решений (15,2%), прогнозирования трен-дов/рисков (9,9%). Указанные данные кореллируют с описанными выше направлениями использования ИИ в уголовном судопроизводстве и свидетельствуют о компетентности опрошенных специалистов.

Среди плюсов использования ИИ в первую очередь выделены автоматизация рутинных задач (27,3%) и обработка больших объемов данных, недоступных человеку (23,6%). В качестве распространенных ошибок отмечены генерация ложных/недостоверных данных (26,4%), неспособность учитывать контекст (18,3%), неправильный анализ из-за неполных входных данных (15,9%), ошибки в расчетах/логике (14,6%), нестабильность результатов (14,2%), зависимость от предвзятости обучающей выборки (8,8%) (рис. 1), что в целом соотносится с результатами российских и зарубежных исследований.

Автоматизация рутинных задач (поиск, классификация данных)

Обработка больших объемов данных, недоступных человеку

Ускорение принятия решений

Снижение влияния человеческого фактора (предвзятость, усталость)

Выявление скрытых закономерностей и взаимосвязей

Другое

0%  5% 10% 15% 20% 25% 30%

Рис. 1. Преимущества использования искусственного интеллекта

( Fig. 1. Advantages of using artificial intelligence)

Наибольшее значение для экстраполяции выводов на уголовный процесс имеют ответы о проверке достоверности сведений, полученных с помощью ИИ. Основное количество выборов связано со способами, доступными пользователям, не обладающим специальными техническими знаниями: 1) сравнение с независимыми источниками (31,6%); 2) экспертная проверка человеком (33%); 3) использование нескольких ИИ-моделей для перекрестной проверки (16,3%). Количество ответов, связанных с оценкой самих ИИ-моделей, гораздо меньше, но составляет значимую часть: 1) анализ исходных данных и алгоритмов (12,9%); 2) аудит и тестирование ИИ-моделей (5,7%) (рис. 2). Это свидетельствует о возможности и доступности данных способов проверки с привлечением квалифицированных специалистов. Результаты опроса указывают на проведение большинством респондентов многоуровневой проверки данных, что существенно снижает риск ошибок. Прозрачность и объяснимость решений ИИ в целом оцениваются на среднем уровне (56,6%).

для       алгоритмов перекрестной проверки

Рис. 2. Способы проверки сведений, полученных с использованием искусственного интеллекта ( Fig. 2. Ways to verify information obtained using artificial intelligence)

Указанные результаты в значительной степени опровергают восприятие ИИ как «черного ящика» [19, с. 30]. В уголовно-процессуальной деятельности немало случаев, когда алгоритмы формирования сведений неизвестны суду и сторонам. В частности, получение сведений о входящих и исходящих соединениях. В судебной практике отсутствуют примеры исследования алгоритмов работы оборудования, что не препятствует перекрестной проверке путем истребования информации у различных операторов связи, сопоставления со сведениями в абонентском устройстве, повторного запроса сведений при наличии подозрений в технической ошибке и т. п. 12 Аналогичным образом в ходе портретной экспертизы или путем сопоставления с другими доказательствами можно проверить результаты работы системы распознавания лиц и т. п. В этом смысле технологии ИИ не представляют собой ничего принципиально нового, влияющего на природу уголовно-процессуальных отношений [20, с. 15].

На природу процессуальных отношений влияют социально-экономические отношения, мировоззренческие идеи, опирающиеся на современные технологии. В XII–XIII вв. не развитие письменности привело к формированию инквизиционного процесса. Причиной стали изменения в экономике, усиление государственности, религиозные идеи о несовершенстве и греховности человека, что в итоге выразилось в попытке формализации процесса и минимизации усмотрения человека.

На современном этапе развития степень влияния ИИ на уголовное судопроизводство будет определяться философскими представлениями о месте и роли человека, потребностями в обеспечении безопасности, необходимостью оптимизации расходов на правосудие и др. Ю. А. Цветков полагает, что инквизиционный процесс, будучи первой попыткой создания системы доказательств на научной основе, не достиг успеха исключительно по причине недостаточного развития общества. Но сегодня «когнитивные науки поставили крест на идеалах гуманизма с его верой во всесилие человеческого разума. Судье, как и любому человеку, нужны алгоритмы. И только теперь наука способна ему их дать. Это цифровые технологии и основанный на них искусственный интеллект» [21, с. 27]. Аналогичное предположение о новом издании объективного и беспристрастного инквизиционного процесса высказывает А. В. Смирнов [19, с. 30].

Однако опыт использования технологий ИИ опровергает тезис об их объективности. Применение ИИ создает лишь иллюзию беспристрастности. Субъективность судьи подменяется субъективностью разработчиков нейронных сетей. Предубеждения, заложенные в алгоритмы и исходные данные, масштабируются на все принимаемые решения. Риски манипуляции правосудием возрастают пропорционально новым возможностям.

Вера в безупречность ИИ, возможность переложить ответственность за принятие решений представляют наиболее высокую опасность. Среди основных рисков «автоматическое принятие» находится на первом месте (24,2%). Далее идут утрата человеческого контроля над критически важными решениями (15,2%); утечка и компрометация данных (13,7%); манипуляция данными или алгоритмами (11,5%); влияние предубеждений разработчиков на алгоритмы (10,2%); возможность целенаправленного воздействия на ИИ (8,1%). При этом часть респондентов в ходе служебной деятельности лично сталкивалась с утечкой данных (10,4%) и целенаправленным воздействием на работу ИИ (15,1%) (рис. 3). С учетом изложенного уровень риска при принятии решений ИИ без проверки большинством респондентов (49,1%) оценивается как высокий.

Тезис о несовершенстве человека и необходимости его замены при отправлении правосудия предполагает ответ на вопрос, кому фактически будет принадлежать судебная власть [22, с. 27]. Во времена раннего

креативности        важными                           случайные)

решениями

Рис. 3. Риски, связанные с использованием искусственного интеллекта ( Fig. 3. Risks related to the use of artificial intelligence)

обвинительно-состязательного процесса она принадлежала общине, затем перешла к феодалам. В период инквизиционного процесса судебная власть принадлежала церкви и короне. В суверенных демократических государствах носителем власти признается народ, участвующий в отправлении правосудия. Правила оценки доказательств и порядок производства по уголовному делу урегулированы законом. При использовании ИИ для принятия решений судебная власть будет фактически переходить к разработчикам алгоритмов оценки доказательств.

Сказанное не означает отказа от использования ИИ в уголовном судопроизводстве. Противодействие преступности, которая активно применяет современные информационные технологии, традиционными способами будет крайне затруднено и неэффективно. Но при этом от правоприменителя «потребуется максимальная мобилизация его знаний, опыта и управленческой интуиции. Симбиоз человека и машины не должен привести к деградации способностей человека, а напротив, призван вывести организацию его мышления на более высокий уровень эволюционного развития» [23, с. 33].

Выводы

• 1.    Применение ИИ в уголовном процессе способно значительно повысить эффективность работы правоохранительной системы. Противодействие современным угрозам требует анализа больших данных, выявления скрытых взаимосвязей, которые человек в ручном режиме осуществлять не в состоянии. Отказ от использования ИИ поставит российскую правоохранительную систему в невыгодное положение по отношению к другим развитым странам и создаст благоприятные условия для развития организованной преступности и терроризма.

• 2.    Применение ИИ в уголовном судопроизводстве при собирании и оценке доказательств возможно и необходимо. Результаты работы ИИ являются проверяемыми и могут быть оценены на предмет достоверности. Восприятие ИИ в качестве «черного ящика», так же как и в качестве беспристрастного арбитра, ошибочно. Субъективизм правоприменителя сменяется субъективизмом разработчиков моделей ИИ. Алгоритмическая предвзятость приводит к масштабированию ошибок на широкий круг дел. Применение технологий ИИ в доказывании требует осторожного отношения и длительной апробации.

• 3.    Использование ИИ несет риски, связанные с самоотстранением человека от принятия данных и проектов решений, представленных ИИ, без надлежащей проверки. Использование искусственного интеллекта предъявляет более высокие требования к интеллекту лиц, к нему обращающихся. Логика и умение анализировать данные, развитие критического мышления, знание философии станут занимать более важное место в подготовке юристов. Значительно возрастает роль понимания принципов права и иных фундаментальных положений.

• 4.    Применение ИИ в уголовном судопроизводстве способно оказать влияние на фундаментальные положения уголовного процесса: непосредственность исследования доказательств судом, состязательность, реализацию права на защиту. Оценка доказательств на основе алгоритмов является возвратом к формальному доказыванию с применением современных технологий.

Область применения и перспективы. В дальнейшем предполагается проведение исследований, направленных на оценку влияния современных информационных технологий на сущностные черты уголовного судопроизводства. Результаты проведенного исследования могут использоваться: 1) в правотворческой деятельности при разработке нормативно-правовых актов; 2) в правоприменительной деятельности для разработки рекомендаций по проверке и оценке данных, полученных с помощью ИИ; 3) в образовательной деятельности для обучения использованию ИИ в уголовном судопроизводстве.