Правовые вопросы использования технологий искусственного интеллекта в информационном обществе и в государственном управлении

e-mail: , 0000-0003-1572-8902

Вопросы активизации использования технологий и систем искусственного интеллекта (далее – ИИ) сегодня все больше привлекают внимание, в первую очередь в связи с необходимостью выработки государственной политики и реализации стратегических задач в этой области в условиях продолжающихся дискуссий о правосубъектности и ответственности ИИ, что особенно важно при усилении вызовов и угроз их использования в противоправных целях. Согласно глобальной и национальной государственной информационной политике применение технологий ИИ должно стать драйвером для реализации приоритетных направлений развития информационного общества, цифровой экономики, цифрового государственного управления и информационной безопасности. ИИ оценивается как движущий фактор четвертой научно-технической революции и основой седьмой промышленной революции на базе концепции Индустрия 7.0, поскольку открывает новые возможности наряду с технологиями промышленного Интернета, биотехнологиями, генно-инженерными технологиями [1, c. 11].

Следует признать, что сегодня ИИ широко используется в самых разных областях жизни общества и государственного управления: об- разовании, медицинском обслуживании, пенсионном обеспечении, охране окружающей среды, государственном управлении, правоохранительной деятельности, нормотворчестве, военной сфере, ритейле, рекламе, маркетинге, транспорте, IT-сфере и др. Нельзя отрицать позитивные тенденции и усиливающуюся динамику научно-технологического развития, которая повлечет за собой значительные изменения в области государственного управления и оказания услуг социальной стабильности (социально-бытовых, социально-медицинских, социально-психологических, социально-трудовых, социально-правовых и т. д.)1, а также глобального управления на мировом уровне. Неоспорима притягательность и интерес во всем мире к ИИ в свете его новых возможностей, революционных решений в самых разных областях, создания преобразующего потенциала эффективности и уникальных инноваций. Однако полагаем, что сегодня особого внимания и научного осмысления заслуживают прогнозы рисков и новых угроз для национальной безопасности, включая практически все ее виды (информационную, экономическую, транспортную, экологическую и др.). Следует также иметь в виду проблемы не только технического и технологического, но и правового характера, поскольку это вызовы праву, которые могут разрушить саму ткань человеческой цивилизации, если их не контролировать2.

Подходы к пониманию искусственного интеллекта и проблемы развития законодательства России в этой области

Развитие ИИ вызывает определенный алармизм в обществе, так как уже есть немало примеров разрушительного воздействия ИИ, использования его в противоправных целях. Эта технология с весьма широким спектром воздействий может вызвать такие проблемы, как изменение структуры занятости, роль правового и этического регулирования, неприкосновенность частной жизни и др. [1, c. 50]. В этой связи, как справедливо отмечает Г.Г. Камалова и ряд других ученых, цифровые технологии и их внедрение влечет «во многом еще недостаточно осознанные риски, угрозы и вызовы, значительная часть которых затронет и изменит не только общество и государство, но и самого человека, включая особенности реализации его прав, свобод и обязанностей» [2, c. 19].

Одной из главных проблем развития законодательства в области ИИ надо признать недостаточно проработанное правовое регулирование в мировом сообществе морально-нравственных основ в виде устоявшихся обычаев и этических ценностей. Поэтому в процессе цифровой трансформации создаются угрозы и риски как для реализации и соблюдения прав, свобод и интересов человека и гражданина, так и для государственного суверенитета [3, с. 76]. В этой связи представляется необходимой разработка перспективных рекомендаций по их предотвращению и ограничению, а также минимизации рисков в целях обеспечения безопасности, надежности и контроля ИИ [1, c. 50]. Следует отметить, что сегодня технологии ИИ поднимают весьма сложные проблемы экзистенциального характера. Например, как согласовать цели системы ИИ с нашими собственными задачами без сопутствующих потенциальных катастрофических последствий. Важными также представляются этические правила использования ИИ и других технологий. Этические стандарты являются важнейшей основой для формирования в будущем саморегулирования в различных областях [1, с. 72].

Историографические исследования в информационной сфере показывают, что термин «искусственный интеллект» был введен еще в 1956 г. Джоном Маккартни (Dartmouth College), Марвином Мински (Harvard University), Натаниелем Рочестером (IBM) и Клаудимом Шенноном (Bell Telephone Laboratories). Ими была предпринята попытка выяснить, каким образом можно научить машины использовать «язык, формировать абстракции и концепции, решать проблемы, которые сейчас решаются людьми, и в конечном счете самосовершенствоваться. Для выполнения указанных функций задача ИИ состоит в том, чтобы заставить машину вести себя таким образом, чтобы можно было назвать ее действия разумными, как если бы человек вел себя так»3.

Сегодня имеются различные определения ИИ, как на уровне теоретических и нормативно-правовых подходов, так и регламентации порядка применения ИИ. Полагаем, что несомненный интерес представляет позиция И.В. Понкина и А.И. Редькиной, рассматривающих ИИ как «новое явление, которое по ряду позиций недостаточно изучено. Искусственный интеллект отличается от обычных компьютерных алгоритмов тем, что он способен обучать себя на основе накопления опыта. Эта уникальная функция позволяет ИИ действовать по-разному в аналогичных ситуациях, в зависимости от ранее выполненных действий. Поэтому в большинстве случаев эффективность и потенциал искусственного интеллекта довольно неясны» [4, с. 94]. В работе И.В. Понкина и А.И. Редь- киной также содержатся определения «субъектности» когнитивной и адаптационной автономности, пространственно-кинетической автономности, автономности программноэнергетического управления, предпринята попытка их осмысления.

Близкую позицию по данному вопросу занимает П.М. Морхат [5]. Однако, по мнению профессора А.В. Минбалеева, необходимо конструирование легального определения понятия «искусственный интеллект», которое должно строиться на основе общелогических методов, а также диалектического развития. Предлагается рассматривать ИИ как «совокупность информационных, в том числе цифровых технологий, в связи с чем при развитии законодательства об ИИ важно осуществлять и развитие общего законодательства об информационных технологиях, а также формирование понятийного аппарата в сфере особой их разновидности – цифровых технологий» [1, с. 43]. С позиций системного анализа ИИ – это совокупность технологий, интегрированных в единый механизм, подчиненный определенным целям и задачам, которые определены заказчиком и разработчиком. Благодаря диалектическому методу можно проследить эволюцию легального определения ИИ от исключительно технического подхода, который во многом используется в современном определении ИИ, к более универсальному, учитывающему цели не только его использования в техническом регулировании и вопросах стандартизации, правового и этического регулирования [1, c. 43-44].

Г.Г. Камалова и В.Б. Наумов считают, что «со времени введения в научный оборот и по сегодняшний день определение базового понятия "искусственный интеллект" строится на дихотомии с понятием "естественный интеллект". Это позволяет выявить их взаимосвязь и преодолеть недостаточность формально-логического подхода в области права, а также непротиворечиво отразить в теоретическом построении диалектические основы регулирования» [6, с, 85]. Следует признать, что термин «искусственный интеллект» достаточно прочно вошел и в повседневную жизнь, и в научную литературу, однако в силу чрезвычайного многообразия ИИ он стал объектом для широких дискуссий.

Стратегические направления правового регулирования искусственного интеллекта в Российской Федерации

Общество в процессе цифровой трансформации встало на путь технологического развития, способствующего формированию современных инструментов, что, в свою очередь, определяет актуальность ключевых вопросов применения технологий ИИ. В этой связи возникает множество нерешенных проблем, например, об определении правосубъектности ИИ в правоотношениях, ответственности и т. д. Дискуссионные вопросы, связанные с использованием технологий ИИ, включая системы слежения и распознавания лиц, вызывают обоснованную обеспокоенность граждан в связи с возможностью тотального контроля со стороны государства. При этом основным аргументом является то, что обработка персональных данных при использовании ИИ4 повысит риск посягательства на неприкосновенность частной жизни, причем необходимо учитывать, что разрабатываемые системы ИИ могут содержать технические ошибки [7, c. 36], что способствует возникновению негативных последствий и рисков.

Сегодня в России вырабатываются правовые нормы, которые регулируют общественные отношения в сфере разработки, внедрения и использования систем ИИ, в рамках актов стратегического планирования. Так, в этой сфере важное значение имеет российский акт стратегического планирования – Национальная стратегия развития искусственного интеллекта на период до 2030 г., утвержденная Указом Президента РФ от 10 октября 2019 г.5 Ранее в программе «Цифровая экономика Российской Федерации» ИИ был отнесен к сквозным цифровым технологиям, применяющимся в различных сферах общественной жизни6. При этом следует отметить, что изменения на современном этапе затрагивают не только правовое регулирование отдельных видов общественных отношений, складывающихся под влиянием цифровых технологий, – претерпевают изменения целые институты права и отрасли. В этой связи очевидна актуальность и необходимость правового регулирования ИИ в обществе. В рамках реализации федерального проекта «Цифровые технологии» утверждены дорожные карты – их порядка семи – по различным направлениям «сквозных» цифровых технологий: нейротехнологии и ИИ, робототехника и сенсорика, системы распределенного реестра, квантовые технологии, новые производственные технологии, технологии беспроводной связи, виртуальной и дополненной реальности. Поэтому кластер этих семи направлений называется сквозными цифровыми технологиями7.

Необходимо отметить, что в настоящее время развитие технологий ИИ и их реализация – одна из ключевых задач цифровой экономики, особенно в условиях агрессивной санкционной политики западных государств. В этой связи 15 декабря 2022 г. Президент РФ на заседании Совета по стратегическому развитию и национальным проектам отметил, что продолжение развития нашей страны, происходящее невзирая на внешнее давление, требует перехода на более высокий технологический уровень, а также укрепления технологического суверенитета России. Это способствует необходимости открытости и восприимчивости к современным прак- тикам и подходам, к новейшим технологиям и методам работы8.

В 2024 г. Президентом РФ в Послании Федеральному Собранию была отмечена ключевая роль применения ИИ во взаимодействии граждан, бизнеса и государства9. Этот стратегический аспект применения ИИ в публичном управлении отражен в п. 8 Указа Президента РФ от 7 мая 2024 г. № 309, где достижение национальной цели «цифровая трансформация государственного и муниципального управления, экономики и социальной сферы» к 2030 г. связано с достижени^м «цифровой зрелости» государственного и муниципального управления, ключевых отраслей экономики и социальной сферы на основе данных с учетом ускоренного внедрения технологий обработки больших объемов данных, машинного обучения и ИИ10. Очевидно, что развитие института цифровой зрелости будет опираться на практическую реализацию законодательно закрепленных моделей. В этой связи нельзя отрицать целесообразность экспериментов по внедрению данных показателей на уровне отдельных субъектов для апробации и выявления перспективной модели развития. Сегодня представляет интерес развитие этого института сквозь призму оценки практической реализации и выполнения показателя «цифровая зрелость» при проведении процессов цифровой трансформации как на федеральном уровне, так и на уровне субъектов Российской Федерации, а также в рамках единой системы публичной власти [8, с. 116].

Министерством цифрового развития, связи и массовых коммуникаций РФ к осени 2024 г. запланировано формирование плана нормативно-правового обеспечения нового национального проекта «Экономика данных»

на период 2024–2026 гг.11 Важной на современном этапе представляется выработка свыше 300 законодательных инициатив (включая предложения бизнеса), направленных на развитие интернета вещей, цифровых платформ в государственном управлении, ИИ, импорто-замещение в ИТ-сфере и повышение кибербез-опасности12. Необходимо признать, что национальный проект «Экономика данных», по сути, является продолжением завершающегося национального проекта «Цифровая экономика». В число основных направлений входит формирование к 2030 г. цифровых платформ во всех ключевых отраслях экономики и социальной сферы13. Планируется создание и платформы ИИ, а также не менее 30 отдельных ИИ-реше-ний14. В качестве основных векторов развития экономики данных обозначены такие категории, как сбор данных, квантовые сенсоры, передача данных, развитие систем связи и суверенной инфраструктуры для вычислений и хранения данных внутри страны – отечественных облачных платформ и центров обработки данных, безопасность данных, в том числе с использованием квантовых коммуникаций и квантового шифрования, суверенные и национальные стандарты и протоколы данных, включая в области ИИ, а также отечествен- ное программное обеспечение, отечественные платформы и сервисы15, что позволит сформировать новые технологические механизмы и рынки. Очевидна при этом необходимость создания эффективной правовой основы, поиск современных инструментов для поддержки и развития экономики, многосторонних связей не только в режиме реального времени, но и в информационном пространстве. Отмечается интерес бизнеса к этому вопросу. Так, МТС выступила одним из инициаторов проработки концепции развития интернета вещей16.

В ближайшей перспективе в Российской Федерации запланирован ряд масштабных проектов, связанных с данной темой. Следует выделить проект «Цифровое государственное управление» программы «Цифровая экономика Российской Федерации»17, направленный на внедрение инновационных технологий в цифровые публичные сервисы и технологическую трансформацию инфраструктуры правительства. Также активно прорабатывается проект создания цифрового профиля как совокупности сведений о гражданах и юридических лицах, содержащихся в информационных системах, посредством регистров, реестров, кадастров и перечней персонифицированной информации. Приоритетным направлением является цифровая трансформация публичного сектора посредством формирования единого федерального информационного ре-сурса18, а также единого федерального информационного регистра сведений о населении19, системы идентификации и аутентификации на основе биометрических данных20 и др. Правительством РФ 20 февраля 2021 г. была утверждена Концепция цифровой и функциональной трансформации социальной сферы, относящейся к сфере деятельности Министерства труда и социальной защиты Российской Федерации, на период до 2025 года21 в целях оптимизации деятельности государственных внебюджетных фондов (за исключением Федерального фонда обязательного медицинского страхования) и федеральных учреждений медико-социальной экспертизы, взаимодействия с гражданами при получении ими социальной поддержки. В настоящее время, на наш взгляд, необходимо решение проблемы более эффективного процесса реализации технологии ИИ при оказании публичных услуг и преодоление барьера «информационного отличия» различных субъектов. Возникает потребность формирования определенного баланса интересов публичных органов и общества в контексте внедрения и использования технологий ИИ, что, в свою очередь, должно сформировать механизмы адаптации регулирования ИИ на перспективный период. В рамках применения ИИ в сфере публичного управления возможно, например, формирование механизмов предиктивного реагирования на действия субъекта(-ов) в рамках контрольно-надзорной деятельности, которое должно учитывать набор конкретно-индивидуальных правил, применяемых к конкретному каталогизированному типу лиц, сформированному на базе большого массива данных [9, с. 88]. Отдельного внимания, как уже отмечалось, заслуживают такие основные элементы цифрового публичного управления, как безопасность и надежность.

Таким образом, появилась необходимость обязательного лицензирования и сертификации технологий ИИ при использовании контроля в государственном секторе, способствующего обеспечению безопасности.

Очевидно, что внедрение технологий ИИ в государственное управление – комплексная задача, для решения которой необходим не только технический потенциал автоматизации (цифровизации), но и ряд таких факторов, как политические, экономические, нормативные, демографические, социальной приемлемости [10] и др. Кроме того, важным представляется развитие информационного права и законодательства. Это ключевая стратегическая задача, решение которой должно основываться на развитии информационно-правовой доктрины и реализации политики обеспечения информационной безопасности как одного из приоритетных направлений национальной безопасности [11, с. 56].

Заключение

Исследование показало, что одним из актуальных вопросов в настоящее время следует признать разработку и принятие закона об ИИ, в котором, на наш взгляд, должны найти отражение: четкая регламентация сферы действия этого закона, закрепление хорошо разработанного и научно обоснованного на основе междисциплинарных подходов понятийного аппарата, система принципов и порядок территориального действия указанного закона при использовании технологий ИИ, требования, ограничения, а также должны быть решены вопросы этического регулирования. Все это связано, прежде всего, с достижением Россией стратегического приоритета развития технологий ИИ не только на национальном, но и на мировом уровне. Кроме того, важна корреляция и достаточная определенность при соотнесении информационно-правового понятийного аппарата с цифровым (цифровые данные, оборот цифровых данных, цифровые технологии, цифровые платформы и др.).

Актуальной проблемой также является регулирование правоотношений, возникающих при использовании ИИ. Происходит стремительное замещение труда человека на машинный или частично машинный труд.

Между тем необходимо признать, что человеческий фактор в принятии решений пока еще остается определяющим. Но для машинного обучения именно человек является определяющим и важным. Кроме того, при машинном обучении возможны ошибки, риски и искажения, что может привести к нарушению прав даже при соблюдении принципа юридической ответственности. В этой связи возрастает роль взаимодействия органов публичной власти при использовании ИИ на основе мониторинга в системе. Необходимы новые концептуальные подходы к определению ИИ, областей его применения, соответствующих норм и практик, поиски современных инструментов, влияющих на оценку и выдачу рекомендаций при использовании технологий в публичной сфере, а также в разных правовых системах и национальных законодательствах, что обеспечит интегральную реализацию герменевтического, аксиологического, антропологического концептуального подходов к изучению практики правового регулирования ИИ в публичной сфере. Необходимо изучение вопросов правового регулирования ИИ в сфере публичного управления, что позволит выявить специфику и новые подходы на уровне субъектов законодательной практики, а также объектов ее правоприменения и создать новые конструкции правоотношений, способствующие образованию современных регламентаций с учетом технологической природы ИИ. И конечно, нельзя оставить без внимания вопросы философско-этического характера, которые активно обсуждаются научным сообществом на различных площадках.

Полагаем, что требуется развитие доктрины информационного права и переосмысление существующих подходов к формированию концептуальной модели будущего права ИИ, выраженного в правовой политике в данной области, на основе анализа формирующейся практики и наработанного опыта, а также развития теории информационного права по правовому регулированию информационных технологий и систематизации и кодификации информационного законодательства [12, с. 35].