Философско-правовые и этические аспекты организации «умного суда»: китайский опыт

Бальчиндоржиева О. Б., Мяханова А. Н., Сапкеев Д. В. Философско-правовые и этические аспекты организации «умного суда»: китайский опыт // Вестник Бурятского государственного университета. Философия. 2023. Вып. 3. С. 70‒76.

В связи с усиливающим воздействием процессов цифровизации на социальную реальность отечественные и зарубежные исследователи в последние годы много внимания уделяют исследованию таких феноменов, как популяризация и повсеместное внедрение в различные сферы жизни общества (финансовая сфера, сельское хозяйство, медицина, транспорт, судопроизводство и т. д.) цифровых платформ, систем распознавания речи, блокчейн-технологий, искусственного интеллекта и т. д. Актуальной проблемой становятся развитие и исследования в области искусственного интеллекта (ИИ) в Китае, в частности в контексте его применения в сфере правосудия, правовых механизмов, регулирующих информационно-технологическое сопровождение судебных процессов по различным категориям рассматриваемых судом дел, а также различных концепций в сфере осуществления электронного правосудия в деятельности судов, организации так называемых «умных судов».

В данном отношении интересен опыт Китайской Народной Республики, в которой на государственном уровне было принято решение об ускорении внедрения искусственного интеллекта в судебную деятельность и создании «умного суда». Тем самым политическое руководство КНР полагает разрешить многочисленные проблемы, связанные с деятельностью судов: сократить нагрузку на судей и аппарат судов, минимизировать сроки рассмотрения дел, и, возможно, сократить число вынесения неправосудных и недоброкачественных решений судами. В 2016 г. была опубликована «Стратегия развития национальной информатизации», в которой четко указано, что необходимо создавать «умные суды» и повышать уровень информатизации в судопроизводстве [1].

С целью более подробного рассмотрения китайского опыта в сфере учреждения так называемых «умных судов» обратимся к анализу некоторых данных и официальных документов. Согласно докладу Председателя Верховного народного суда КНР Чжоу Цяна о работе Верховного народного суда 2022 г., в Китае было «подано 29,96 миллиона онлайн-исков, проведено 5,04 миллиона судебных заседаний с использованием онлайн-технологий в целях расширения возможностей и повышения эффективности судебного разбирательства. Была создана крупнейшая в мире база данных информационных ресурсов о судебных процессах. Введены новые модели и правила онлайн-правосудия: три основных правила онлайн правосудия, пять основных принципов использования искусственного интеллекта в судебных процессах. С 2018 г. до конца 2022 г. общее количество рассмотренных дел в судах по всей стране росло в среднем на 5,2% ежегодно, среднее количество дел на одного судью выросло с 187 дел в 2017 г. до 242 дел в 2022 г. Период судебного разбирательства в онлайн-судопроизводстве сократился на 22 дня по сравнению с традиционной моделью. Обращения граждан и случаи обращения в суды по гражданским делам, связанные с выездом в Пекин, уменьшились в среднем соответственно на 8,4% и 44,5% ежегодно, что привело к укреплению доверия к судебной системе, и уровень удовлетворенности граждан судебной справедливостью продолжает расти» 1 (здесь и далее приводится перевод с китайского языка на русский с учетом российской терминологии, который в дальнейшем может корректироваться).

Пять принципов использования искусственного интеллекта в судопроизводстве отражены более подробно в документе «Пояснения Верховного народного суда КНР по регулированию и усилению судебного применения искусственного интеллекта» от 9 декабря 2022 г.

• 1.    Безопасность и законность. Придерживаться общей концепции национальной безопасности и использовать искусственного интеллекта только в соответствии с законом. Разработка, внедрение и эксплуатация искусственного интеллекта должны осуществляться в соответствии с законом и не должны наносить ущерб национальной безопасности или ущемлять законные права и интересы граждан. Не должны нарушаться требования безопасности персональных данных и неприкосновенности частной жизни.

• 2.    Честность и справедливость. Соблюдать законы, служить правосудию, обеспечивать непредвзятость искусственного интеллекта, исключить влияние технологических особенностей искусственного интеллекта (отклонений в модели или данных) на законность и справедливость судебного процесса и его результатов. Реализовывать всеобщую толерантность и равные возможности для всех пользователей (участников судебного процесса) в процессе применения искусственного интеллекта, а в особенности для социально незащищенных граждан.

• 3.    Принцип вспомогательной роли искусственного интеллекта в судопроизводстве. Независимо от уровня развития технологии искусственного интеллекта он не может полностью заменить судью при вынесении окончательного решения. Все участники судебного процесса имеют право выбора: использовать помощь, предоставляемую технологией искусственного интеллекта, или в любое время отказаться от взаимодействия с продуктами и услугами искусственного интеллекта.

• 4.    Принцип прозрачности и достоверности. Обеспечение прозрачности разработки технологий ИИ, применения его продуктов и оказания услуг. Обеспечение того, чтобы все звенья систем искусственного интеллекта, включая способы сбора и управления исследуемыми в суде данными, подход когнитивной семантики и логику помощи в оценке доказательств, подвергались проверке, оценке и регистрации соответствующими уполномоченными органами. Соответствующие особенности, возможности и ограничения при использовании любых продуктов и услуг искусственного интеллекта должны быть доступны для понимания и интерпретации, чтобы обеспечить предсказуемость и достоверность процедуры и результатов его применения.

• 5.    Принцип общественного порядка и общественной морали. Придерживаться основных социалистических ценностей в процессе разработки и использования технологии искусственного интеллекта в судопроизводстве, применения продуктов и эксплуатации искусственного интеллекта; гарантировать, что применение искусственного интеллекта не должно нарушать общественный порядок и общественную мораль. Совершенствовать контроль и механизм управления рисками в целях устранения возможных морально-нравственных проблем, которые могут возникнуть в процессе применения искусственного интеллекта в судопроизвод-стве 1 .

Значение вышеуказанных пяти принципов заключается в том, чтобы интеграция ИИ и суда способствовала повышению эффективности правосудия, в то же время эти принципы выделяют определенные критические точки, на которые необходимо обратить самое пристальное внимание. Например, второй принцип требует обеспечивать высокую точность данных, загружаемых в судебные базы данных, чтобы поддерживать авторитетность судебной системы.

Важной инициативой в сфере судебной реформы в Китае является также принятие «Пояснения Верховного суда КНР об усилении применения технологии блокчейн в судопроизводстве». Данный документ разработан для определения и регулирования применения технологии блокчейн в судебных процессах. Блокчейн — это децентрализованная и безопасная технология, используемая для создания неизменяемых записей и сделок. В судебном контексте она может быть применена для обеспечения целостности и достоверности судебных документов, хранения доказательств и соблюдения сроков.

Данный документ (Пояснения Верховного суда КНР об усилении применения технологии блокчейн в судопроизводстве) устанавливает основные принципы использования искусственного интеллекта в судебных процессах:

• •    Вспомогательная роль искусственного интеллекта: принцип утверждает, что искусственный интеллект должен использоваться в судебных процессах как инструмент для помощи судьям, а не для их замены.

• •    Прозрачность и честность: искусственный интеллект должен быть использован честно и прозрачно, чтобы обеспечить соблюдение закона и принципов справедливости.

• •    Защита данных: данные, используемые искусственным интеллектом в судебных процессах, должны обеспечивать конфиденциальность и безопасность.

• •    Ответственность: суды и органы, применяющие искусственный интеллект, должны нести ответственность за его использование и решения, принимаемые на его основе.

• •    Соблюдение законов: принцип подчеркивает, что использование искусственного интеллекта должно соответствовать правовым нормам 1 .

Эти положения являются частью усилий по совершенствованию судебной системы Китая и усовершенствованию ее технологической инфраструктуры для обеспечения большей эффективности и справедливости. Они также отражают стремление к использованию передовых технологий, таких как блокчейн и искусственный интеллект, для улучшения эффективности судопроизводства и обеспечения соблюдения законов.

Вместе с тем китайские ученые отмечают недостаточность научного исследования и теоретического обоснования внедрения искусственного интеллекта в судопроизводство. В академическом сообществе Китая выделилось два основных взгляда на использование ИИ в юридической области: утверждающий, что ИИ может широко применяться в будущем, и «отрицательный», рассматривающий, что текущие ИИ-технологии как еще не соответствующие необходимым стандартам.

Яо Ц. и Пэн Х. утверждают, что использование «больших данных» и систем ИИ способствует судейской практике в поиске аналогичных дел. «Стандартами, позволяющими оценить сходство, в основном являются обстоятельства дела, применимая норма права и предмет спора. Подобные приложения были встроены в интеллектуальные системы обработки дел в судах провинции Цзянсу, Пекина и Шанхая». Также разрабатываются интеллектуальные вспомогательные системы, предоставляющие судьям рекомендации по принятию решений при рассмотрении дел (например, Высший суд Хайнаня специально разработал «Интеллектуальную вспомогательную систему по стандартизации приговоров» [1]). Они же выделяют определенные трудности и проблемы, связанные с применением систем ИИ в судопроизводстве. Одна из них состоит в том, что судей, работающих с этой системой, беспокоит то, что они считают алгоритм ИИ «черным ящиком». Они не знают, что это за алгоритм и как рассчитывается прогноз приговора. На самом деле это вызвано парадоксом искусственного интеллекта, то есть конфликтом между непрозрачностью алгоритмов искусственного интеллекта и требованием к прозрачности процесса рассмотрения дела [2].

На самом деле применение систем ИИ в судопроизводстве Китая не ограничивается подобными алгоритмами. Приведем примеры более широкого применения систем ИИ. Так, в 2021 г. Народный суд Шанхая применил ИИ для анализа дела о нарушении авторских прав на музыкальное произведение. ИИ сравнил два музыкальных трека и вычислил степень их сходства по таким параметрам, как мелодия, ритм, гармония и тембр. ИИ также учел факторы, такие как жанр, стиль и общественное мнение. На основании анализа ИИ суд признал, что ответчик нарушил авторские права истца, и обязал его выплатить компенсацию 1 .

Ван Юнци отмечает, что использование ИИ в правовой сфере продолжит развиваться, несмотря на дебаты, и настаивает на необходимости доработки технологий и улучшения прозрачности и надежности данных. Несмотря на преимущества в быстром поиске правовых норм, ИИ не всегда способен точно применять их к конкретным случаям из-за сложности выбора в случае конфликта норм [3]. В своей статье он выделил трудности и вызовы, которые могут возникнуть в процессе его интеграции в судопроизводство и системами искусственного интеллекта, включая правовые, этические и технические аспекты. Он обращает внимание на то, что ответственность за безопасность ИИ лежит на людях, управляющих вводом данных и управлением системой. В своей статье Ван Ю. обосновывает важность установления принципа «以法官审判为中心、人工智能为辅助» (судья в центре, искусственный интеллект в качестве помощника) в сфере судопроизводства [3]. Китайский опыт показывает, что судьи не всегда согласны с предлагаемым ИИ решением. Так, В 2021 г. Народный суд Пекина отклонил решение ИИ, которое предложило приговорить подсудимого к пожизненному заключению за мошенничество с криптовалютами. Судьи посчитали, что решение ИИ было основано на устаревших данных и не учитывало сложность и новизну дела. Судьи также выразили опасения по поводу пропорциональности и справедливости наказания. В итоге его приговорили к 15 годам лишения свобо- ды и штрафу в размере 100 тысяч юаней1. Приведем еще один пример, в 2020 г. Народный суд Гуанчжоу отказался принять решение ИИ, рекомендовавшее признать виновным подсудимого за нарушение правил дорожного движения, в котором пострадали два человека. Судьи считали, что решение ИИ было недостоверным и не соответствовало свидетельским показаниям, представленным в суде. Судьи также отметили, что решение ИИ не учитывало обстоятельства дела и показания свидетелей. Суд освободил подсудимого от уголовной ответственности и отказал в иске о возмещении ущерба2.

М. Х. Бадмаева, посвятившая свое исследование философским проблемам и принципам применения систем ИИ, сосредоточила внимание «на требованиях, обеспечивающих исключение возможной предвзятости и дискриминации человека со стороны ИИ, а также гарантирующих самостоятельность, независимость человека в принятии решений, что составляет суть принципов справедливости и автономии, выступающих важнейшими проявлениями принципа непричинения вреда человеку как центрального, ведущего во всей совокупности правил и норм взаимодействия человека и ИИ» [4].

Согласимся, что основными принципами развития ИИ должны стать безопасность, ответственность, контроль. Искусственный интеллект не может полностью заменить решения судей, опирающихся в том числе и на социальные и моральные ценности. Судья должен оставаться центральной фигурой в судебном процессе, а искусственный интеллект использовать как вспомогательное средство, которое может существенно улучшить судебные процессы, однако нужно помнить, что внедрение ИИ должно происходить осторожно и взвешенно.