Предвзятость алгоритмов искусственного интеллекта: вопросы этики и права

Введение: в работе рассматриваются правовые проблемы применения технологии искусственного интеллекта для решения социально-экономических задач. Конвергенция двух подрывных технологий - искусственного интеллекта (Artificial Intelligence) и Data Science (работа с большими данными (англ. Big Data) - породила качественное изменение общественных отношений в различных сферах жизни людей. Преобразующую роль сыграли как классические области искусственного интеллекта: алгоритмическая логика, планирование, представление знаний, моделирование, автономные системы, мультиагентные системы, экспертные системы, системы поддержки принятия решений, моделирование, распознавание образов, обработка изображений и обработка естественного языка, так и специальные области: обучение представлениям, машинное обучение, оптимизация, статистическое моделирование, математическое моделирование, аналитика данных, обнаружение знаний, наука о сложности, вычислительный интеллект, анализ событий и поведения, анализ социальных медиа / сетей, а в последнее время - глубокое обучение и когнитивные вычисления. Названные технологии искусственного интеллекта и больших данных применяются в различных сферах бизнеса для упрощения и ускорения принятия разного рода и значимости решений. В то же время установлено, что самообучающиеся алгоритмы создают или воспроизводят неравноправие участников оборота, приводят к дискриминации в связи с обнаруживающейся алгоритмической предвзятостью. Цель: сформировать представление о направлениях правового регулирования алгоритмической предвзятости при применении технологии искусственного интеллекта с позиций права на основе анализа российских и зарубежных научных концепций. Методы: эмпирические методы сравнения, описания, интерпретации; теоретические методы формальной и диалектической логики; частнонаучные методы: юридико- догматический и метод толкования правовых норм. Результаты: искусственный интеллект имеет множество преимуществ (улучшение творческих способностей, услуг, безопасности, образа жизни, помощь в решении проблем), но в то же время вызывает и множество опасений в связи с неблагоприятным воздействием на автономию личности, конфиденциальность, а также основные права и свободы человека. Алгоритмическая предвзятость существует даже тогда, когда у разработчика алгоритма нет намерения дискриминации, и даже когда рекомендательная система не принимает на вход демографическую информацию: тем не менее, тщательно используя сходство товаров и пользователей, алгоритм может в конечном счете рекомендовать товар очень однородному составу пользователей. Представляется, что выявленные проблемы и риски предвзятости при применении технологии искусственного интеллекта должны быть учтены юристами и разработчиками и максимально смягчены на уровне как формирования этических принципов и требований, так и правовой политики и права на национальном и наднациональном уровнях. Юридическое сообщество полагается на решение проблемы алгоритмической предвзятости через принятие разного рода деклараций, политик и стандартов, соблюдение которых будет необходимо при разработке, тестировании и эксплуатации систем искусственного интеллекта. Выводы: если оставить без внимания предвзятые алгоритмы, то они приведут к решениям, могущим повлечь коллективное разрозненное влияние на определенные группы людей даже без намерения программиста проводить различие. Современное изучение предполагаемых и непредвиденных последствий применения алгоритмов искусственного интеллекта исключительно важно, особенно потому, что меры текущей государственной политики могут быть недостаточными для выявления, смягчения и устранения последствий такой неочевидной предвзятости для участников правовых отношений. Решение проблем предвзятости алгоритмов посредством только технических средств не приведет к желаемым результатам. Мировое сообщество задумалось о введении стандартизации и разработке этических принципов, что позволит установить рамки для справедливого применения искусственного интеллекта в принятии решений. Необходимо создание специальных норм, устанавливающих ограничения алгоритмической предвзятости. Независимо от сфер выявления таких нарушений они должны содержать общие признаки недобросовестного поведения участников общественных отношений, которое может быть квалифицировано как нарушение прав человека или нарушение добросовестной конкуренции. Минимизации предвзятости алгоритмов будет способствовать обязательное введение в оборот данных таким образом, что не позволит проводить явную или скрытую сегрегацию различных групп населения, т. е. анализу подлежать должны данные без явных групповых признаков в полном их разнообразии. Общеприменимая модель искусственного интеллекта тем самым будет строиться на анализе данных всех социально-правовых групп общества.