Использование искусственного интеллекта в современной судебной системе и права человека

Развитие информационных технологий, в России и переход к цифровой экономике предполагает повсеместное использование нейронных сетей или технологии искусственного интеллекта. Правовое обеспечение их функционирования видится нам приоритетной задачей современного законодателя. При этом нельзя обойти вопрос ο внедрении систем искусственного интеллекта в судебную систему Российской Федерации.

Указом Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации» принята «Национальная стратегия развития искусственного интеллекта на период до 2030 года» [1]. При этом в качестве одного из приоритетных направлений развития искусственного интеллекта называется «автоматизация рутинных (повторяющихся) производственных операций». В настоящее время мы наблюдаем такую автоматизацию практически во всех сферах общественной жизни. Разрешение данного вопроса не обходит стороной и судебную систему.

С одной стороны, искусственный интеллект стремится проникнуть во все сферы нашей жизни, понемногу догоняя чело- веческий. И если машина с успехом заменяет рабочего на производстве, то почему не может сделать этого в зале суда? Многие говорят о продажности и невнимательности представителей этой ветви власти, а компьютер может сделать точный анализ и вынести разумное, верное решение, руководствуясь разумом, а не сердцем, которого, из-за особенностей конструкции, не имеет. Уже достаточно давно высказываются мысли о необходимости сокращения пределов судебного усмотрения, закрепленных не только в процессуальном, но и материальном законодательстве [2].

В последние годы в экспертной среде все чаще обсуждается вопрос о том, можно ли автоматизировать весь процесс отправления правосудия, т.е. заменить судью компьютерной программой или нейросетью, способной анализировать фактические обстоятельства дела, давать им правовую оценку и выносить соответствующее решение. Идея заменить человека на машину пришла американскому судье Энтони Капице, который рассматривает дела о лишении родительских прав. У него в производстве постоянно находится свыше 30 материалов и, понятное дело, запом- нить все тонкости отношений внутри каждой семьи просто невозможно [3]. Робот в мантии, как утверждают разработчики, вскоре, может прийти не смену человеку, как и во многих других сферах деятельности.

В Китае, США, Великобритании, Франции и некоторых других странах такие программы уже начинают использоваться, однако в настоящий момент они служат вспомогательным инструментом для анализа документов и не заменяют собой судью.

Сравнительно недавно - в декабре 2018 года появился первый международный акт, специально посвященный использованию искусственного интеллекта в правосудии, - «Европейская этическая хартия о применении искусственного интеллекта в судебных системах» [4], утвержденная Европейской комиссией по эффективности правосудия Совета Европы. В Хартии сформулированы пять принципов применения искусственного интеллекта, при этом особый интерес представляет принцип пользовательского контроля, согласно которому судья должен иметь возможность не согласиться с решением, предложенным искусственным интеллектом, и принять собственное решение по делу, а участнику спора должны быть предоставлены возможность прямого обращения к суду без применения искусственного интеллекта и право оспорить решение, принятое последним.

В то же время, "Европейская комиссия по эффективности правосудия (CEPEJ)» призывает с осторожностью подходить к автоматизации процессов при поиске альтернативных мер урегулирования гражданских исков, при использовании онлайн-платформ разрешения споров. Кроме того, с крайней осторожностью эксперты советуют относиться к количественным показателям, к которым может апеллировать программа при анализе прецедентов, а также к использованию ИИ для анализа склонности к преступлению того или иного человека [5].

В качестве примера неудачного применения программ в хартии приводится алгоритм американской программы

COMPAS. Согласно данным неправительственной организации, которая решила проверить эффективность этого инструмента, программа практически вдвое чаще, чем у других групп, указывала на возможный риск повторного преступления, когда речь заходила об афро-американцах. Это можно было бы списать на определенные социально-экономические тенденции в тех или иных группах, однако исследователи указали, что ИИ может назвать рецидивистом даже человека, который никогда не сидел в тюрьме, но исправно ответил на вопросы в электронной анкете.

Вообще по части использования таких систем в уголовном праве эксперты расходятся во мнениях. С одной стороны, ИИ ни от кого не зависит и делает выводы на основе чистых данных, будь то факты из биографии или положения конституции. С другой, возникает вопрос прозрачности разработки алгоритма, а также тот факт, что программа принимает исходные данные за аксиому и вместо того, чтобы исправить несовершенства системы будет их лишь умножать.

Ранее, комментируя принятую Хартию, директор по акселерации юридических технологий Фонда «Сколково» Антон Пронин указывал, что имеющиеся вопросы дискриминации, поставленные в документе, могут вызвать некоторые осложнения. «Проблема, которую я вижу в Хартии, заключается в том, что практически в любых накопленных массивах данных, с которыми работает искусственный интеллект, можно узреть дискриминацию какого-либо рода. Конечно, это зависит от того, какой тон или характер заложен в данных, - отмечает он. - Если вдруг выяснится на большом объеме данных, что по какой-то категории преступлений, скажем, женщин оправдывали чаще чем мужчин, то это будет являться паттерном для искусственного интеллекта (он так обучился). И на базе этого паттерна он и далее будет применять решения» [6].

В данном случае, интерес представляет мнение председателя Совета судей РФ, который указал, что процессуальное законодательство требует от судьи при оценке доказательств руководствоваться своим внутренним убеждением, которое является гораздо более сложной категорией, чем программные алгоритмы. В зависимости от конкретных обстоятельств одни и те же доказательства могут быть в одном деле отвергнуты, а в другом деле, наоборот, приняты за основу. «Поэтому говорить о замене судьи искусственным интеллектом как минимум преждевременно, а скорее всего, невозможно» [6], – посчитал Виктор Момотов. Он отметил, что при рассмотрении бесспорных требований в приказном производстве не исключается применение искусственного интеллекта, поскольку такая работа не связана с анализом правоотношений сторон и в большей степени носит технический характер. Следует отме- тить, что в некоторых регионах такие системы уже внедряются.

Изложенное, позволяет сделать следующие выводы:

• 1.    Необходимо более детальное изучение вопроса о внедрении искусственного интеллекта в судебную систему.

• 2.    Представляется, что использование искусственного интеллекта при осуществлении правосудия, должно носить «вспомогательный» характер, а не «определяющий», с целью оптимизации рутинной его (правосудия) составляющей.

• 3.    С целью соблюдения прав человека и гражданина, представляется необходимым принятие на законодательном уровне нор-

• мативно-правового акта по аналогии с «Европейской этической хартией о применении искусственного интеллекта в судебных системах».

• 4.    Необходимо внесение изменений в

процессуальные нормативно-правовые акты, с целью нормативного регулирования оснований, порядка и пределов использования искусственного интеллекта при осуществлении правосудия.