Организационно-правовые аспекты государственной политики в сфере развития искусственного интеллекта

Введение. Искусственный интеллект (далее – ИИ) как важнейшая часть мирового технологического прогресса все активнее вторгается в сферы деятельности человека: появляется все больше новых программных продуктов и технических систем, основанных на алгоритмах ИИ; разрабатываются системы ИИ для применения в политике, экономике, транспорте, логистике, государственном управлении и других сферах; алгоритмы ИИ постоянно совершенствуются, что обусловливает сильный рост их функциональных возможностей; ИИ все больше заменяет человеческий труд, с одной стороны, упрощая деятельность человека и делая ее эффективнее, а с другой – усугубляя проблему безработицы и повышая риски применения технологий ИИ в части безопасности и нарушения этических норм.

Масштаб распространения технологий ИИ и рост влияния таких технологий на людей стали основными причинами появления в разных странах регулирования сферы ИИ на государственном уровне. Российская Федерация не стала исключением: правовая система в этой сфере в нашей стране начала активно развиваться с 2016 г. и продолжается сейчас. Актуальность участия государства в развитии подобных технологий постоянно подчеркивается на самом высоком уровне: от результатов развития сферы ИИ будет зависеть место России в мире, ее суверенитет, состоятельность и безопасность. Вместе с тем, чтобы развитие технологий ИИ не осложнялось чрезмерными ограничениями, регулирование данной сферы должно быть сбалансированным.

Вопросы применения ИИ в такой чувствительной сфере, как государственное управление, а также аспекты государственной политики в сфере развития ИИ регулярно рассматриваются в научной сфере. Из деятелей науки, поднимавших эти вопросы в научной среде, можно выделить Н.А. Михальченкову, Ю.В. Катрашову, Сунь Юйпэн, И.В. Понкина, А.В. Незнамова, В.Б. Наумова, А.В. Минбалеева. Стоит отметить, что вопросы этики и безопасности ИИ также рассматриваются в научных периодических изданиях по этой теме [Рассел, Норвиг 2022: 545-576].

Основная часть. Необходимость государственного регулирования в сфере ИИ в настоящее время не вызывает сомнений. И.В. Понкин отмечает, что отсутствие надлежащего регулирования понятия, разработки, тестирования, внедрения и применения ИИ создает множественность рисков (для нацио- нальной безопасности, для неприкосновенности частной жизни, безопасности личности и человеческого достоинства), усугубляемых тем, что пробелы публично-правового регулирования сферы искусственного интеллекта активно стремятся защищать свои интересы (по своему усмотрению, исключительно под свои коммерческие и даже идеологические нужды – трансгуманизм и т.п.), в полном отрыве от интересов публичных [Понкин 2022: 111].

Законодательство в области ИИ развивается во многих странах. Так, А.В. Минбалеев отмечает принятие законодательных актов, направленных на регулирование сферы ИИ в таких странах, как Китай, Германия, Южная Корея, Канада, Дания [Минбалеев 2018: 83]. Наша страна также не отстает в вопросах создания необходимых концептуальных документов стратегического планирования и нормативно-правовых актов.

В 2016 г. была принята Стратегия научно-технологического развития Российской Федерации1, согласно которой в период с 2016 по 2031 г. приоритетными направлениями научно-технологического развития Российской Федерации являются направления, которые позволят получить научные и научно-технические результаты и создать технологии, являющиеся основой инновационного развития внутреннего рынка продуктов и услуг, устойчивого положения России на внешнем рынке, и обеспечат, в частности, переход к передовым цифровым интеллектуальным производственным технологиям, роботизированным системам, создание систем обработки больших объемов данных, машинного обучения и ИИ.

Спустя два года на ИИ как на передовую технологию в научно-технологическом развитии было обращено внимание на высшем государственном уровне. В Послании Президента Российской Федерации к Федеральному Собранию в 2018 г. В.В. Путин отметил необходимость создания передовой законодательной базы для разработки и широкого применения ИИ2.

В дальнейшем президент неоднократно возвращался к различным вопросам развития сферы ИИ в России. Так, в 2019 г. В.В. Путин отмечал необходимость развития и увеличения числа успешных инновационных компаний, находящихся на волне технологического развития, в т.ч. в таких сферах, как ИИ. В частности, президент заявил: «Все наше законодательство нужно настроить на новую технологическую реальность. Оно, это законодательство, а точнее, они, эти законы, не должны ограничивать становление передовых перспективных отраслей, а должны помогать этому развитию»3. В том же году В.В. Путин предложил начать масштабную программу национального уровня в области ИИ, а также ускорить создание соответствующей продвинутой научной инфраструктуры. По его словам, к 2025 г. Россия должна войти в число лидеров по этому технологическому направлению, которое в т.ч., безусловно, будет определять будущее всего мира и будущее России4. В 2020 г. В.В. Путин отметил многократно возрастающую скорость технологических изменений в мире и необходимость создать собственные технологии и стандарты, которые определяют будущее. Первым в числе приоритетных направлений был назван ИИ. Президент попросил правительство Российской Федерации и депутатов Государственной думы ускорить рассмотрение так называемого технологического законодательного пакета, а также запустить в 2020 г. гибкий механизм экспериментальных правовых режимов для разработки и внедрения в России новых технологий, наладить современное регулирование оборота больших данных1. В 2021 г. В.В. Путин отмечал, что эпидемия COVID-19 повсеместно и многократно ускорила развитие ИИ в медицинских технологиях2, а в 2023 г. заявил, что российские компании могут уменьшить выплаты по налогу на прибыль, если закупают передовые отечественные IT-решения и продукцию с использованием ИИ3. В том же году на конференции «Путешествие в мир искусственного интеллекта» В.В. Путин подробно обсуждал тему генеративного ИИ как передового направления всей сферы ИИ и, в частности, упомянул, что применение такого ИИ в государственном управлении способно «в разы ускорить процессы принятия решений, причем выверенных решений, основанных на больших данных, а значит кардинально улучшить, изменить облик многих сфер, которые напрямую касаются каждого гражданина»4.

Стоит отметить, что государственное управление является одной из критических областей возможного применения ИИ. Как отмечает Н.А. Михальченкова, несмотря на предпринятые усилия и увеличение инвестиций в исследования ИИ, по-прежнему не ведется широкое обсуждение его использования в государственном секторе. Таким образом, по сравнению с бизнес-сферами использование ИИ в области публичного управления все еще находится в зачаточном состоянии [Михальченкова 2021]. При этом, согласно Ю.В. Карташовой, важным является также восприятие ИИ: некоторые представители органов власти считают, что ИИ может стать непревзойденным эффективным помощником в осуществлении задач, другие же придерживаются мнения, что самообучающиеся алгоритмы – враг человека, поскольку высока вероятность ошибок в работе, над которыми впоследствии все же предстоит работать [Карташова, Иванов 2022: 151].

В мае 2023 г. был утвержден отраслевой документ стратегического планирования – Концепция технологического развития на период до 2030 года5, в которой обозначены основные угрозы технологическому развитию России (включая технологическую отсталость и деградацию производственных систем, утечку кадров, низкий удельный вес инновационных товаров, относительно низкий уровень инновационной активности бизнеса, санкционные ограничения) и новые возможности технологического развития России на горизонте следующих 10 лет за счет наличия значительного кадрового потенциала и существенных научно-технических заделов по важнейшим направлениям развития технологий. Ключевым ответом на происходящие системные изменения является применение новых, прежде всего сквозных, технологий, в т.ч. ИИ.

В 2017 г. была утверждена Стратегия развития информационного общества в Российской Федерации на 2017–2030 годы1, в которой ИИ указан как одна из технологий передовых знаний.

В 2018 г. в указе Президента РФ «О национальных целях и стратегических задачах развития Российской Федерации на период до 2024 года»2 цифровая экономика (в которую входят технологии ИИ) упомянута как один из национальных проектов.

В 2019 г. масштабной программой национального уровня, о создании которой говорил В.В. Путин, стала Национальная стратегия развития искусственного интеллекта на период до 2030 года (далее – Национальная стратегия)3, в которой, в частности, обращено внимание на то, что ведущие участники глобального рынка ИИ предпринимают активные действия для обеспечения своего доминирования на этом рынке и получения долгосрочных конкурентных преимуществ, создавая существенные барьеры для достижения другими участниками рынка конкурентоспособных позиций.

В Национальной стратегии важной мерой по выполнению задач является обеспечение возможности делегировать информационным системам, функционирующим на основе ИИ, возможности принятия отдельных решений (кроме ущемляющих права и законные интересы граждан), в т.ч. при исполнении государственными органами государственных функций (исключая функции обеспечения безопасности населения и государства). При этом, как отмечают В.Б. Наумов, С.А. Чеховская, А.Ю. Брагинец и А.В. Майоров, среди ключевых требований к системам ИИ, которым могут быть делегированы какие-либо полномочия, функции, обязанности, можно привести такие, как отслеживаемость, объяснимость, прозрачность и проверяемость; подотчетность и ответственность за действия таких алгоритмов, эффективность решений, принимаемых алгоритмами; отсутствие необъективности, дискриминации, неравенства, несправедливых решений, порождаемых алгоритмами, предвзятости алгоритмов; соответствие систем ИИ не только нормам права, но и этики; возможность контроля со стороны человека; устойчивость и безопасность [Наумов и др. 2021: 9]. Отмечается, что чем меньше человеческого контроля предполагается при делегировании полномочий, тем более жесткими должны быть требования к тестированию и системному управлению технологиями ИИ.

В рамках исполнения поручения президента по внедрению экспериментальных правовых режимов был принят федеральный закон «Об экспериментальных правовых режимах в сфере цифровых инноваций в Российской

Федерации»1, установивший цели и принципы экспериментальных правовых режимов (специальное регулирование) в сфере цифровых инноваций, определивший круг участников экспериментальных правовых режимов в сфере цифровых инноваций и регулирование их отношений.

Введение экспериментальных правовых режимов отмечалось Сунь Юйпэн в качестве предложения по ограничению полномочий правительства по продвижению и регулированию ИИ в целях обеспечения определенного отказоустойчивого пространства для исследований и разработок в области ИИ и связанных с ним технологий [Сунь 2022].

Первым экспериментальный правовой режим на 5 лет был введен в городе федерального значения Москве2.

В августе 2020 г. Правительство Российской Федерации утвердило Концепцию развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года (далее – Концепция развития)3. В Российской Федерации на тот момент отсутствовало специальное законодательное регулирование, учитывающее специфику применения технологий ИИ, при том, что анализ мирового опыта показал, что в целом ряде стран уже существует первичное правовое регулирование этой сферы.

В Концепции развития обозначена проблема отсутствия однозначного понимания содержания терминов «искусственный интеллект», «робот», «умный робот», «робототехника», «интеллектуальный агент», которая приводит к терминологическим проблемам при формировании регулирования. Тут стоит добавить, что к группе этих терминов можно отнести также «машинное обучение». Как отмечает Н.А. Михальченкова, термины «искусственный интеллект» и «машинное обучение» зачастую отождествляются, тогда как на самом деле машинное обучение является частью (подмножеством) ИИ [Михальченкова 2021].

Использование технологий ИИ и робототехники в государственном (муниципальном) управлении потенциально позволит сократить число рутинных операций у государственных (муниципальных) служащих, минимизировать издержки и повысить скорость принятия решений. При этом предполагается поэтапное внедрение соответствующих технологий, начиная со сфер применения, которые не предполагают принятия критически значимых решений. Вместе с тем, согласно Н.А. Михальченковой, в государственном секторе внедрение технологии ИИ представляет собой серьезную проблему, в частности, по причине того, что большая часть реализованных с помощью ИИ решений, «вероятно, останутся слабыми и узкоспециализированными» в течение следующих десятилетий, что можно объяснить серьезными проблемами, которые препятствуют развитию ИИ в государственном секторе, среди которых безопасность, качество и интеграция данных, недостаточный бюджет и др. [Михальченкова 2021].

Для решения данных проблем предполагается повысить качество данных в государственных и муниципальных информационных системах, создать нормативные возможности применения ИИ для принятия решений в сфере государственного управления, создать механизм пересмотра решений, принятых с помощью систем ИИ, а также утвердить прозрачные правила оценки соответствия систем ИИ требованиям безопасности.

Заключение . Таким образом, в России за несколько лет сформировалась достаточно стройная система государственного регулирования в сфере ИИ. Для реализации государственной политики в сфере ИИ сформированы концептуальные документы стратегического планирования, создается система законодательного регулирования и разграничения полномочий участников правоотношений. При этом осознана актуальность и важность развития технологий ИИ в нашей стране, обусловленные необходимостью научно-технического развития, обеспечения технологического суверенитета и определения места нашей страны в мировом сообществе. С другой стороны, учитывается вред избыточного регулирования в сфере ИИ, который может затруднить развитие этого приоритетного и перспективного направления научно-технического прогресса, а также риск для государства и граждан, связанный с разработкой и внедрением в общественные отношения технологий ИИ.

Вместе с тем регулирование отношений ИИ и человека представляет из себя самостоятельную принципиальную проблему, прежде всего, по причинам:

• –    сложности оптимального определения термина «искусственный интеллект» и наличия различных трактовок этого термина;

• –    сложности оценки потенциальных рисков от результатов работы ИИ;

• –    неготовности общества к принятию ИИ как самостоятельного объекта, который может быть наделен соответствующими правами и ответственностью;

• –    возрастающей скорости развития сферы ИИ и соответствующих технологий;

• –    недостаточной полноты и качества данных;

• –    принципиальной нерешенности вопроса о возможности создания сильного (универсального) ИИ, не уступающего человеку по своим когнитивным функциям.

Дальнейшее развитие государственной политики в сфере регулирования ИИ должно учитывать эти причины, демонстрировать одновременно и проактивность, и аккуратность при разработке нормативно-правовых документов, а также готовность к быстрым и актуальным изменениям законодательства в этой области.