Искусственный интеллект при осуществлении общественного контроля: пределы допустимости (правовой аспект)

1Кубанский государственный университет, Краснодар, Россия, , 2Российский университет дружбы народов имени Патриса Лумумбы, Москва, Россия, ,

Введение . Вопросы развития и применения современных цифровых технологий в различных видах человеческой деятельности широко исследованы в работах И.Л. Авдеевой (Авдеева и др., 2017), А.В. Крупкина (2018), В.В. Кузнецовой (Кузнецова, Старостенко, 2019), С.С. Миха-дова (Михадов, Исбагиева, 2023), А.И. Мозгового (2018), Х.Р. Рахмонова (Рахмонов, Мирюсупов, 2024), а также ряда иных авторов. В свою очередь, проблемы использования указанных технологий в процессах организации и функционирования института общественного контроля детально анализируются в произведениях Т.Ю. Базалей (2023), В.В. Гончарова (2023), О.В. Грищенко (Цифровые технологии…, 2023), В.В. Нагайцева (Гончаров и др., 2024), С.М. Зубарева (2021), Я.Ю. Реента (2023), а также некоторых других ученых.

В то же время доля работ, посвященных проблематике пределов применения технологий искусственного интеллекта (выступающих в качестве ядра современных цифровых технологий) в управленческой, контрольной и надзорной деятельности, не представляется достаточной. Этим обстоятельством и обусловлен выбор темы настоящего научного исследования, целью которого выступает решение вопроса о возможности, перспективах и проблемах замены человека технологиями искусственного интеллекта в обозначенных видах деятельности (на примере института общественного контроля). В качестве основных задач выступают, в частности, следующие: а) обоснование роли и значимости института общественного контроля, с одной стороны, как важнейшей юридической гарантии реализации, охраны и защиты системы конституционных принципов (прежде всего – народовластия и участия граждан Российской Федерации в управлении делами государства), а также всей системы прав, свобод и законных интересов физических и юридических лиц, а с другой – как ключевого института гражданского общества в России; б) анализ состояния и перспектив развития современных цифровых технологий и места в них технологий искусственного интеллекта; в) исследование пределов допустимости применения данных технологий в управленческой, контрольной и надзорной деятельности в целом, а также в деятельности по организации и проведении мероприятий общественного контроля в частности; г) обоснование позиции, согласно которой технологии искусственного интеллекта в этих видах деятельности могут и должны применяться только с участием человека, под контролем человека и при условии соблюдения прав, свобод и законных интересов физических и юридических лиц; д) выявление и анализ ключевых проблем, с которыми столкнутся субъекты общественного контроля при использовании технологий искусственного интеллекта; е) разработка и обоснование системы мероприятий по разрешению указанных проблем.

В качестве объекта исследования выступают общественные отношения, связанные с организацией и функционированием института общественного контроля в Российской Федерации. Предметом, в свою очередь, являются нормы российского законодательства, регулирующие де- ятельность указанного института гражданского общества, а также использование в его работе современных цифровых технологий (включая технологии искусственного интеллекта).

Основной гипотезой исследования выступает предположение, что технологии искусственного интеллекта в управленческой, контрольной и надзорной деятельности (на примере института общественного контроля) могут быть использованы в Российской Федерации только с участием человека, под его контролем и при условии соблюдения прав, свобод и законных интересов физических и юридических лиц.

Методы и методология исследования. Эмпирическая основа исследования . В качестве ключевых научных методов в работе использовались как общенаучные (в частности, формально-логический, диалектический методы, анализ, синтез, индукция и дедукция), так и частнонаучные (например, экономический, психологический, сравнительно-правовой, историко-правовой, статистический, социологический анализ). Эмпирическую базу составили, в частности, законодательство Российской Федерации, регулирующее институт общественного контроля; материалы, связанные с практической деятельностью по подготовке специалистов для субъектов общественного контроля, использованием в процессе их подготовки психологических приемов и способов, а также современных цифровых технологий; научная периодика в данной сфере.

Основной текст . Российская Федерация является демократическим правовым государством с республиканской формой правления. В связи с этим многонациональный народ России, его права и свободы выступают главным смыслом существования и развития российской государственности. Деятельность любых органов публичной власти в конечном счете подчинена ключевой задаче – реализации, защите и охране указанных прав и свобод. Однако система конституционных принципов, как и вся система прав, свобод и законных интересов, нуждается в правовых гарантиях, без которых они могут быть нарушены, властные полномочия народа, делегированные органам публичной власти, могут узурпироваться и использоваться в интересах не народа, а узкой группы лиц (и даже иностранных государств и их союзов).

Ключевое место в системе указанных правовых гарантий занимает институт общественного контроля, посредством которого граждане страны, а также многочисленные негосударственные некоммерческие организации имеют возможность осуществлять контроль за деятельностью актами и решениями органов публичной власти, а также иными органами и организациями, реализующими отдельные публичные полномочия. Какое место занимает данный институт среди институтов гражданского общества?

Во-первых, институт общественного контроля – самый многочисленный, включающий в себя многие тысячи субъектов. В Российской Федерации несколько тысяч одних только профсоюзных организаций, объединенных в разные федерации и союзы, которые охватывают более 40 % работающего населения.

Во-вторых, в работе института общественного контроля в соответствии с Федеральным законом от 21 июля 2014 г. № 212-ФЗ «Об основах общественного контроля в Российской Федерации» могут принимать участие не только постоянно действующие субъекты (общественные палаты, советы и т. п.), но и многочисленные негосударственные некоммерческие организации (которых в стране насчитывается несколько десятков тысяч), а также рядовые граждане (достигшие совершеннолетия).

В-третьих, названный закон, иные федеральные законы, посвященные общественному контролю, упоминая субъектов общественного контроля, свидетельствуют о том, что их перечень не является закрытым, т. е. к данной категории действующим законодательством могут быть отнесены все новые субъекты.

В-четвертых, действующее законодательство позволяет субъектам общественного контроля кооперировать усилия на горизонтальном уровне, создавая ассоциации и союзы субъектов общественного контроля. При этом законодательство не содержит запретов и ограничений для международного сотрудничества и кооперации субъектов общественного контроля в Российской Федерации с субъектами гражданского общества (общественного контроля) зарубежных государств.

В-пятых, субъекты общественного контроля в отличие от многих других институтов гражданского общества получают регулярное финансирование из публичных бюджетов. В частности, из бюджетов финансируется деятельность муниципальных и государственных учреждений, являющихся аппаратами субъектов общественного контроля (например, многочисленных общественных палат и советов).

Последние годы в мире все более активно внедряются современные цифровые технологии, которые стали ядром пятого технологического уклада, обеспечивая прорывное экономическое развитие стран, их использующих. Данные технологии применяют процессы и способы сбора, хранения, поиска, передачи и представления данных в электронном виде, т. е. предполагают предоставление сигналов дискретными полосами аналоговых уровней. К категории подобных технологий также следует относить научное описание указанных процессов и способов.

Ядром таких технологий выступают технологии искусственного интеллекта. Данное понятие было закреплено и в российском законодательстве. В частности, в Национальной стратегии развития искусственного интеллекта 2019 г. законодатели определяют его детально: «Искусственный интеллект – комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые с результатами интеллектуальной деятельности человека…»1. Данная проблематика была детализирована и в подзаконных нормативно-правовых актах2.

Необходимо выяснить, чем объясняется важность указанных технологий, в чем заключается их суть. Данные технологии при выполнении поставленных задач позволяют получать результаты, сопоставимые с результатами интеллектуальной деятельности человека, имитируя в процессе функционирования отдельные когнитивные функции человека, связанные с поиском решений по алгоритмам, формируемым в ходе выполнения поставленных задач, обусловленным, с одной стороны, техническими возможностями оборудования и программного обеспечения, а с другой – объемами задействованных массивов данных и скоростью их обработки технологическим оборудованием.

Термин «искусственный интеллект», введенный Дж. Маккарти еще в 1956 г. на семинаре в Дартмутском колледже, предполагал, что технологии, по сути, позволят смоделировать программное обеспечение для компьютерных систем и машины будут воспринимать окружающий их мир, используя возможность самообучения на больших массивах данных. Эти объемы информации в настоящее время предоставляет сеть Интернет. Кроме того, по определенным направлениям данные могут накапливаться для последующего анализа, адаптации и интерпретации в процессе использования технологий искусственного интеллекта. Таким образом, алгоритмы искусственного интеллекта, опираясь на массивы имеющихся данных по схожим или аналогичным параметрам, позволяют выбрать наиболее подходящие к имеющейся задаче, которая поставлена перед искусственным интеллектом.

Однако не все исследователи считают, что подобные технологии нужно применять бесконтрольно. Тем более что процесс их создания и использования опосредован деятельностью человека (в частности, разработчиков технологий искусственного интеллекта (программного обеспечения); производителей оборудования, на котором установлены указанные технологии; операторов, работающих с ними; лиц, интерпретирующих результаты работы; лиц, координирующих деятельность, связанную с использованием технологий; лиц, принимавших решения по применению данных технологий в названной деятельности; и т. п.).

В связи с этим возникает проблема пределов применения технологий искусственного интеллекта (особенно в контрольной, надзорной и управленческой человеческой деятельности). Это связано с несколькими аспектами.

Во-первых, анализ любого программного обеспечения показывает, что в самой компьютерной программе содержится определенное количество ошибок. Кроме того, оборудование и используемые чипы также имеют долю брака, ошибок в производстве. Следовательно, в ходе применения технологий искусственного интеллекта ошибки предполагаются в обязательном порядке. Но не ясно, какие из них будут нарушать права, свободы и законные интересы физических и юридических лиц. Кроме того, не понятно, кто и в каком объеме ответствен за исправление данных ошибок, а также возмещение причиненных убытков, ущерба, последствий. Виноваты ли разработчики технологий искусственного интеллекта (программного обеспечения), производители оборудования или операторы, которые работают с указанными технологиями. Вполне возможно, что ошибки могут быть допущены лицами, интерпретирующими результаты работы данных технологий, лицами, координирующими деятельность, связанную с их использованием, а также лицами, принимавшими решения по их применению в обозначенной деятельности.

Во-вторых, ошибки могут быть как допустимыми (не препятствующими цели деятельности), так и недопустимыми (препятствующими достижению цели).

В-третьих, отсутствие пределов применения технологий искусственного интеллекта не позволяет определить лицо, уполномоченное выявлять и интерпретировать результаты работы технологий.

В-четвертых, отсутствие определения содержания пределов не дает возможности сформулировать параметры механизма исправления ошибок.

В-пятых, отсутствие формализации пределов применения технологий искусственного интеллекта не позволяет выяснить, какая критическая масса ошибок свидетельствует о невозможности их использования в дальнейшем. Пределы применения технологий искусственного интеллекта важны и для деятельности, связанной с организацией и осуществлением общественного контроля в России.

Во-первых, данная деятельность в стране децентрализована. Ошибки и погрешности в использовании инновационных технологий будут выявляться хаотично, что снизит эффективность указанного института гражданского общества.

Во-вторых, в Российской Федерации отсутствуют единые центры координации внедрения и использования технологий искусственного интеллекта.

В-третьих, в стране мало специалистов с соответствующей квалификацией.

В-четвертых, в научной правовой доктрине общественного контроля, а также в соответствующем законодательстве отсутствуют единые критерии использования данных технологий.

Мы считаем, что технологии искусственного интеллекта в управленческой, контрольной и надзорной деятельности (на примере субъектов общественного контроля) могут и должны применяться только под контролем человека и при условии соблюдения прав, свобод и законных интересов физических и юридических лиц. Поскольку данные технологии еще достаточно новые, их применение связано с большим количеством ошибок и погрешностей. Следовательно, без постоянного анализа и интерпретации результатов их применения человеком мы не сможем добиться постоянного повышения качества их использования.

Кроме того, законодательство об общественном контроле содержит ряд запретов (например, нельзя произвольно вмешиваться в деятельность объектов общественного контроля). Следовательно, требуется постоянно осуществлять мониторинг соблюдения обозначенных запретов при использовании указанных технологий.

Законодательство об общественном контроле в России также закрепило массу категорий, которые невозможно либо сложно интерпретировать в числовых системах координат. Например, как проверить уровень доверия граждан к власти? В каких параметрах измерить нетерпимость граждан к противоправному поведению? Следовательно, ряд направлений невозможно или трудно интерпретировать в алгоритмах программного обеспечения, которые могут быть использованы субъектами общественного контроля при применении технологий искусственного интеллекта. Это можно осуществить только путем деятельности человека (посредством задействования всех его когнитивных интеллектуальных способностей).

В целом применение указанных технологий сопряжено с массой проблем, в числе которых можно выделить, в частности: отсутствие разработанности в научной правовой доктрине и законодательстве понятия и содержания пределов применения технологий искусственного интеллекта в функционировании института общественного контроля; слабую технологическую базу в России в данной сфере; отсутствие систем информационно-технологической безопасности, гарантирующих невмешательство в функционирование названных технологий извне (например, со стороны стран и корпораций, где технологии, программное обеспечение, а также оборудование были произведены). Решение этих проблем потребует разработки и реализации системы мероприятий, среди которых можно назвать следующие.

Во-первых, в законодательстве нужно формализовать понятие и содержание пределов использования технологий искусственного интеллекта, а также систему мер уголовной, административной, трудовой и гражданско-правовой ответственности для всех лиц, которые участвуют в разработке, внедрении и реализации названных технологий в указанной сфере.

Во-вторых, необходимо на уровне правительства страны решить вопросы, связанные, с одной стороны, с научно-практическими исследованиями пределов использования технологий искусственного интеллекта в различных областях деятельности человека, а с другой – с разработкой систем информационно-технологической безопасности, гарантирующих невмешательство в функционирование технологий искусственного интеллекта извне.

В-третьих, следует предусмотреть комплекс мероприятий, направленных на развитие отечественной базы по созданию как оборудования, так и программного обеспечения в обозначенной сфере. Данные мероприятия должны включать в себя, в частности, систему федеральных программ, ориентированных на создание и развитие научно-производственной базы в области выпуска электронно-вычислительных устройств, чипов, программного обеспечения для указанных устройств. При этом промышленные предприятия и научно-исследовательские центры должны находиться на территории Российской Федерации, лица, на них работающие, должны являться гражданами России либо иностранными гражданами, постоянно проживающими и нахо- дящимися на территории РФ. Используемое в НИИ и промышленных предприятиях программное обеспечение, а также внутренняя архитектура чипов и электронно-вычислительных устройств должны быть по возможности отечественной разработки, чтобы исключить риск взлома извне. В настоящее время на практике в отечественном производстве чипы для электронно-вычислительных устройств разрабатываются иностранными специалистами (компаниями), а их физическое производство находится за рубежом (как правило, в КНР и на Тайване). В подобной ситуации не исключена возможность того, что в чипы будут внедрены устройства, позволяющие оказывать воздействие на их работу либо передавать данные через Интернет. Это обстоятельство снижает или сводит к нулю уровень информационной безопасности устройств. Кроме того, значительная часть программного обеспечения в нашей стране также выполнена иностранными специалистами или зарубежными компаниями либо используется готовое программное обеспечение, которое адаптируется к российским реалиям иностранными специалистами и компаниями.

Как вариант Правительству Российской Федерация следует использовать опыт КНР в данной сфере. Разработка и производство программного обеспечения и электронно-вычислительного оборудования осуществляются частными отечественными компаниями, отбираемыми на конкурсной основе, но они получают от государства беспроцентные целевые кредиты, которые можно направить под контролем государства исключительно на создание предприятий по выпуску чипов, литографического оборудования, самих электронно-вычислительных устройств. Это особенно актуально в условиях, когда ставка рефинансирования ЦБ РФ превысила 21 %, а банковские кредиты промышленным предприятиям предоставляются по ставкам, которые значительно превышают 21 %. Кроме того, данные проекты рассматриваются банковскими организациями в качестве особо рискованных. Банки требуют материального, имущественного обеспечения выдаваемых кредитов в 100 %-м объеме. В условиях бедственного положения отечественной радиоэлектронной промышленности это сводит возможности получения кредитов к нулю.

Заключение . В результате исследования можно сделать ряд выводов.

• 1.    Институт общественного контроля в Российской Федерации выступает в качестве важнейшей юридической гарантии реализации, охраны и защиты системы конституционных принципов (прежде всего народовластия и участия граждан РФ в управлении делами государства), а также всей системы прав, свобод и законных интересов физических и юридических лиц. Так, посредством его функционирования: а) осуществляется контроль за любыми органами публичной власти, а также органами и организациями, реализующими отдельные публичные полномочия; б) законная деятельность его субъектов неподконтрольна любым органам публичной власти, они действуют повсеместно; в) их деятельность не лимитирована по времени, объему, интенсивности и периодичности; г) она позволяет выявлять любые виды нарушений названных принципов, а также прав, свобод и законных интересов; д) для пресечения нарушений субъекты вправе обращаться в любые органы публичной власти (включая суды и правоохранительные органы).

• 2.    Современные цифровые технологии, под которыми следует понимать совокупность разработанных и используемых в настоящее время процессов и способов сбора, хранения, обработки, поиска, передачи и представления данных в электронном виде, т. е. основанных на предоставлении сигналов дискретными полосами аналоговых уровней, разрабатываются и реализуются во всех сферах жизнедеятельности общества и государства. При этом, с одной стороны, темпы и направления их развития определяются потребностями общества и государства, с другой – процесс создания и внедрения указанных технологий сам детерминирует данные потребности, изменяя их.

• 3.    В связи с тем что технологии искусственного интеллекта все более активно используются в управленческой, контрольной и надзорной деятельности, которая затрагивает права, свободы и законные интересы физических и юридических лиц, актуальной задачей выступает определение пределов допустимости их применения в обозначенной деятельности. Это объясняется следующими факторами: а) если в рамках указанной деятельности будут нарушены права, свободы и законные интересы, то не ясно, кто и в каком объеме будет выступать в качестве ответственного по данным нарушениям (разработчики технологий искусственного интеллекта (программного обеспечения); производители оборудования; операторы, взаимодействующие с технологиями; лица, интерпретирующие результаты работы; лица, координирующие деятельность, связанную с такими технологиями; лица, принявшие решения по применению технологий в названной деятельности); б) не ясно, какие ошибки в работе технологий допустимы; в) кто и каким образом уполномочен выявлять и интерпретировать результаты работы технологий; г) не понятно, кто и каким образом определяет механизм исправления ошибок; д) какая критическая масса ошибок свидетельствует о невозможности использования указанных технологий в дальнейшем.

• 4.    Технологии искусственного интеллекта управленческой, контрольной и надзорной деятельности (на примере субъектов общественного контроля) могут и должны применяться только с участием человека, под его контролем и при условии соблюдения прав, свобод и законных интересов физических и юридических лиц. Это обусловлено следующими причинами: а) они затрагивают деятельность, акты и решения любых органов публичной власти, органов и организаций, реализующих публичные полномочия; б) результаты их использования должны интерпретироваться в части соблюдения предусмотренных законодательством запретов и ограничений, связанных с функционированием института общественного контроля (например, в плане недопустимости вмешательства субъектов общественного контроля в сферу деятельности политических партий, соблюдения ими нейтральности, недопустимости необоснованного вмешательства субъектов общественного контроля в деятельность объектов общественного контроля и т. д.); в) конечная цель общественного контроля состоит в обеспечении соблюдения прав, свобод и законных интересов физических и юридических лиц; г) законодательство об общественном контроле задействует массу категорий, которые сложно поддаются оценке и ранжированию в рамках программных алгоритмов (в частности, гражданское правосознание, уровень доверия граждан, прозрачность и открытость деятельности объектов общественного контроля, нетерпимость к коррупционному поведению и т. п.).

• 5.    Использование субъектами общественного контроля технологий искусственного интеллекта сопряжено с множеством проблем, в числе которых можно выделить, например: а) отсутствие закрепления в гражданском законодательстве пределов применения технологий искусственного интеллекта в Российской Федерации; б) слабую разработанность в научной правовой доктрине понятия и содержания указанных пределов; в) отсутствие в России технологической базы для автономного производства подобных технологий (как программного обеспечения, так и оборудования для его использования); г) неразработанность в силу этого в стране систем информационно-технологической безопасности, гарантирующих невмешательство в функционирование технологий искусственного интеллекта извне (в частности, со стороны стран и корпораций, где технологии, программное обеспечение, а также оборудование были выпущены).

• 6.    Разрешение обозначенных проблем потребует разработки и реализации системы мероприятий, включающих в себя, в частности, следующие: а) нужно закрепить в российском законодательстве понятие и содержание пределов использования технологий искусственного интеллекта; б) необходимо установить в гражданском, уголовном, административном, трудовом законодательстве меры правовой ответственности для разработчиков технологий искусственного интеллекта (программного обеспечения), производителей оборудования, на котором применяются указанные технологии, операторов, работающих с данными технологиями, лиц, интерпретирующих результаты, лиц, координирующих деятельность, связанную с использованием технологий, лиц, принимающих решения по применению данных технологий в названной деятельности, в случае, если в результате применения технологий искусственного интеллекта было нарушено российское законодательство либо права, свободы и законные интересы органов публичной власти, физических и юридических лиц; в) следует поручить Правительству Российской Федерации разработать и принять систему федеральных программ, направленных на организацию и проведе-

• ние научно-практических исследований, связанных с определением пределов использования технологий искусственного интеллекта в управленческой, контрольной и надзорной деятельности (в том числе в сфере общественного контроля); г) целесообразно поручить Правительству РФ также принять комплексные федеральные программы для создания систем информационнотехнологической безопасности, гарантирующих невмешательство в функционирование технологий искусственного интеллекта извне (в частности, со стороны стран и корпораций, где данные технологии, программное обеспечение, а также оборудование были произведены); д) необходимо усилить работу по разработке и строительству в России предприятий, которые будут производить как оборудование, так и программное обеспечение для рассматриваемых технологий.

Общественный контроль выступает в качестве ключевого института гражданского общества в России, так как: а) его субъекты наиболее многочисленны среди других субъектов институтов гражданского общества; б) их деятельность предполагает участие любых видов негосударственных некоммерческих организаций, а также физических лиц; в) перечень субъектов общественного контроля согласно законодательству об общественном контроле является открытым; г) указанные субъекты могут кооперировать усилия путем создания ассоциаций и союзов субъектов общественного контроля; д) их деятельность поддерживается из публичных бюджетов (например, в части финансирования аппаратов субъектов общественного контроля, которые функционируют, как правило, в виде государственных и муниципальных бюджетных учреждений).

В свою очередь, технологии искусственного интеллекта выступают в качестве ядра современных цифровых технологий, так как при выполнении поставленных задач позволяют получать результаты, сопоставимые с результатами интеллектуальной деятельности человека, имитируя отдельные когнитивные функции человека (а также их совокупности во взаимосвязи и взаимообусловленности), связанные с поиском решений по алгоритмам. Последние формируются в ходе выполнения поставленных задач и обусловлены, с одной стороны, техническими возможностями оборудования и программного обеспечения, а с другой – объемами задействованных массивов данных и скоростью их обработки посредством технологического оборудования.

В деятельности, связанной с функционированием института общественного контроля, определение пределов применения технологий искусственного интеллекта усложнено рядом моментов: а) отсутствием единой системы субъектов общественного контроля; б) неподконтроль-ностью их Общественной палате Российской Федерации; в) различным уровнем квалификации и подготовки специалистов тех или иных субъектов общественного контроля; г) отсутствием единых центров координации внедрения и использования указанных технологий; д) отсутствием единых критериев применения данных технологий.