К вопросу о формировании институциональной цифровой среды искусственного интеллекта: правовые и этические основания

В современных условиях перехода к постиндустриальному информационному обществу наблюдается широкомасштабная цифровая трансформация российской экономики, внедряются новые информационные технологии – «сквозные», к числу которых относится искусственный интеллект. Как показывает практика, применение «сквозных» технологий обеспечивает рост производительности труда на 40 % [2, с. 5], значительно повышает конкурентоспособность экономики, а также обусловливает необходимость развития их нор- мативно-правовой основы, законодательной институализации.

Применение прозрачных, верифицированных механизмов и алгоритмов искусственного интеллекта является важным условием обеспечения объективности, взаимного доверия и сотрудничества субъектов экономической деятельности, а также повышения ее эффективности, сокращения времени на заключение договоров, сбор и обработку необходимой информации, уменьшения транзакционных издержек на оплату товаров (услуг) и т.д.

В основательном монографическом труде С. Рассела и П. Норвига выделено четыре основных подхода к пониманию и исследованию феномена искусственного интеллекта как системы, которая: думает подобно людям; действует подобно людям; думает рационально; действует рационально [5, с. 35].

Сущность первого подхода заключается в том, что искусственный интеллект, как правило, определяется как компьютерное устройство, способное думать и обладать разумом; во втором – акцентируется внимание, что системы искусственного интеллекта должны выполнять функции, требующие интеллектуальности при выполнении таковых людьми; в третьем – предполагается, что искусственный интеллект способен воспроизводить умственные способности с помощью вычислительных моделей; в четвертом – искусственный интеллект рассматривается как проектируемый интеллектуальный артефакт, созданный человеком, но не целиком зависящий от него объект [1, с. 10–11].

Такие подходы, видимо, имеют под собой определенные основания, однако в качестве общего их недостатка выступает то, что в них авторы либо уходят от прямого ответа на вопрос, что же представляет собой искусственный интеллект, либо отождествляют его с «компьютерным устройством, способным думать и обладать разумом», или с «проектируемым интеллектуальным артефактом», что вряд ли можно признать достаточно корректным. В частности представляется вряд ли обоснованным отождествление искусственного интеллекта с указанным «компьютерным устройством», которое, в сущности, выступает не более как внешняя вещественная форма выражения материального объекта – средства для использования искусственного интеллекта в практической деятельности. Иначе говоря, искусственный интеллект нельзя относить к категории некой материальной субстанции, о чем далее будет отмечено дополнительно.

По мнению А. П. Любимова, искусственный интеллект – это интегрированный продукт ряда научных исследований, проводимых в различных областях знаний [3, с. 1–2]. Данное определение носит достаточно абстрактный характер и не дает сколько-нибудь определенного представления о феномене искусственного интеллекта, ибо, помимо искусственного интеллекта, имеется немало и других «интегрированных продуктов ряда науч- ных исследований», которые, однако, существенно отличаются от искусственного интеллекта.

Более содержательный подход к определению понятия искусственного интеллекта проявлен Н. В. Городновой: «Искусственный интеллект – это способность цифрового компьютерного алгоритма выполнять конкретные поставленные задачи, которые обычно связаны с жизнедеятельностью разумных существ (человека)» [2]. Иными словами, как далее отмечает автор, «искусственный интеллект – это приближенное отображение работы нейронных связей в мозге человека, отождествляемое с комплексами таких технологий и процессов, как глубокое машинное обучение и применение алгоритмов виртуальной реальности» [2].

В связи с вышеотмеченным обращают на себя внимание два момента.

Во-первых, Н. В. Городнова идентифицирует искусственный интеллект не непосредственно с самим цифровым компьютерным алгоритмом, выполняющим конкретные поставленные задачи, а лишь с его указанной «способностью», что, представляется, не совсем точным в расстановке «акцента».

Во-вторых, когда автор идентифицирует искусственный интеллект как «приблизительное отображение работы нейронных связей в мозге человека, отождествляемое с комплексами» вышеуказанных «технологий и процессов», то необходимо иметь ввиду, что при всем «приближенном» их сходстве и подобии функции искусственного интеллекта достаточно существенно отличаются от функций интеллекта человека – по их объему, скорости совершения и т.д. И если в основе технологий, алгоритмов и процессов, используемых в искусственном интеллекте, лежат закономерности математического, физического, информационного характеров, – объективные субстанциональные сущности, то интеллект человека относится к социальной сфере, и основа его формирования исторически связана с общественно-производственной практикой человека, его социальной коммуникацией с другими индивидами. К тому же и сам искусственный интеллект является не более чем результатом творческой (интеллектуальной) деятельности человека как существа социального.

В политико-правовом документе «Национальная стратегия развития искусственного интеллекта на период до 2030 года», утвер- жденном Указом Президента РФ от 10 октября 2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации», искусственный интеллект определен как комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые с результатами интеллектуальной деятельности человека или превосходящие их. Комплекс технологических решений включает в себя информационно-коммуникативную инфраструктуру, программное обеспечение (в том числе, в котором используются методы машинного обучения), процессы и сервисы по обработке данных и поиску решений (подп. «а» п. 5).

Здесь, как представляется, следует обратить внимание на два момента. Во-первых, авторы указанной стратегии в приведенном определении основной «акцент» сделали на том, что искусственный интеллект – комплекс технологических решений, позволяющих имитировать когнитивные, то есть познавательные, функции человека и получать при этом результаты – опять же «сопоставимые с результатами интеллектуальной деятельности человека или превосходящие их». Однако это лишь внешние сопоставимые признаки, которые не затрагивают субстанциональные (сущностные, глубинные) черты, характерные, соответственно, для искусственного интеллекта и человеческого мышления, а, следовательно, не раскрывающие основополагающие отличительные особенности каждого из данных явлений.

В частности, в отличие от человеческого мышления, в основе которого лежат производственный и социальный опыт, общественная практика, искусственный интеллект неразрывно связан с различными информационными технологиями и процессами, программным обеспечением, которые в своей сущности прямо либо опосредовано связаны с законами математического, естественного, биологического, информационного и т.п. порядка.

Во-вторых, вряд ли достаточно релевантным можно признать указание на то, что «комплекс технологических решений включает в себя информационно-коммуникативную инфраструктуру, программное обеспечение, процессы и сервисы» и т.д. В связи с этим следует заметить, что «комплекс технологи- ческих решений» – есть, в сущности, совокупность соответствующих творческих идей (интеллектуальных мыслей), что необходимо отличать от средств и способов их обеспечения, реализации (воплощения) в практическую деятельность – информационных технологий, компьютерных программ, информационно-коммуникативной инфраструктуры.

По аналогичным соображениям вряд ли можно согласиться с дополнением Национальной стратегии развития искусственного интеллекта пунктом 171 в той его части, где искусственный интеллект идентифицируется с «одной из самых важных технологий, которые доступны человеку в настоящее время».

С учетом выше отмеченного сформулируем следующее определение. Искусственный интеллект - это система технических, технологических, информационных и т.д. идей (решений) как результат творческого (интеллектуального) человеческого мышления, воплощенных (выраженных) в комплексе взаимно интегрированных цифровых технологий и процессов, адаптированных к глубокому машинному обучению, базирующихся на использовании гигантских объемов данных, мощных компьютерных алгоритмов и других цифровых механизмов, посредством чего осуществляется достижение целей обеспечения быстрого, надежного и эффективного решения сложных научно-технических задач, разработки прогнозных проектов, а также реализация иных социальных эффектов.

В настоящее время правительства многих индустриально развитых стран уделяют значительное внимание разработке систем искусственного интеллекта. Так, в сравнении с 2018 годом, когда объем продаж программного обеспечения для систем искусственного интеллекта в мировой экономике составлял 10 млрд долларов, в 2025 году данный показатель прогнозируется в сумме свыше 126 млрд долларов [6].

В этом контексте также осуществляются, в том числе на международном уровне, разработки законодательного обеспечения создания и внедрения технологий и инфраструктуры искусственного интеллекта. Так, Европейский парламент 13 марта 2024 г. одобрил первый в мировой практике комплексный закон в сфере искусственного интеллекта, применение которого (закона) в полном объеме предполагается через два года после вступления его в силу, за исключением некоторых положений [7].

По заявлениям разработчиков данного законодательного акта закон Европейского союза об искусственном интеллекте - это первая в мировой истории правовая база в сфере искусственного интеллекта, которая устраняет связанные с ним риски.

Закон Европейского союза об искусственном интеллекте преследует достижение следующих целей:

• -    защита фундаментальных прав, демократии, верховенства закона и экологической устойчивости от высоко рискового искусственного интеллекта;

• -    предоставление разработчикам и специалистам по внедрению искусственного интеллекта четких требований и обязательств в отношении конкретных видов использования этих технологий;

• -    стимулирование инноваций и утверждение Европы в качестве лидера в этой области.

Очень важным свойством рассматриваемого закона Европейского союза является то, что в нем значительное внимание уделяется обеспечению публичной безопасности, а также охране прав и законных интересов граждан; в частности предусматривается, что технологиям на основе искусственного интеллекта будут присваиваться категории:

• 1)    неприемлемая, что предполагает запрет соответствующей технологии искусственного интеллекта;

• 2)    высокая категория риска - обусловливает необходимость установления в отношении разработчиков технологий искусственного интеллекта четких обязательств и требований, касающихся оценки и снижения риска, обеспечения прозрачности таких технологий и осуществления человеческого контроля;

• 3)    средняя категория;

• 4)    низкая.

Для обеспечения прав и законных интересов граждан в законе Европейского союза об искусственном интеллекте установлен ряд положений запретительного характера, под которые попадают:

• •    распознавание лиц (RBI) в режиме реального времени;

• •    нецелевое извлечение изображений людей из интернета или с камер видеонаблюдения для создания баз данных распознавания лиц;

• •    социальный рейтинг (social scoring) (речь идет о недопустимости классификации

• •    социальный рейтинг (social scoring) (речь идет о недопустимости классификации людей по их социальному поведению, социально-экономическому статусу или личным качествам и т.п.).

В законе Европейского союза об искусственном интеллекте предполагается также создание структуры управления рисками и т.д.

В сентябре 2024 г. в Нью-Йорке состоялся двухдневный Саммит будущего, в рамках которого было принято три соглашения. Одно из них - Глобальный цифровой договор, где впервые зафиксирована договоренность о международном управлении искусственным интеллектом, для чего должна быть создана международная научная группа по искусственному интеллекту [4].

В Российской Федерации в последнее время также достаточно активно формируется политико-правовая и нормативно-правовая база обеспечения создания и внедрения технологий и процессов, связанных с искусственным интеллектом.

В этом контексте прежде всего необходимо отметить, что в Национальной стратегии развития искусственного интеллекта на период до 2030 года определены цели и основные задачи развития искусственного интеллекта в Российской Федерации, а также меры, направленные на его использование для обеспечения национальных интересов и реализации стратегических национальных приоритетов, в том числе в области научно-технического развития. Нормативно-правовую базу указанной стратегии составляют положения Конституции РФ, соответствующие федеральные законы, указы Президента РФ и другие нормативные правовые акты.

Главным инструментом реализации Национальной стратегии выступает «дорожная карта» развития высокотехнологичного направления «Искусственный интеллект» [8], которая включает в себя мероприятия Федерального проекта «Искусственный интеллект» [9], «продуктовую» составляющую, а также планы мероприятий компаний-лидеров в этом направлении.

В соответствии с Указом Президента РФ от 7 мая 2024 г. № 309 «О национальных целях развития Российской Федерации на период до 2030 года и на перспективу до 2036 го- да» в системе целевых показателей и задач, выполнение которых характеризует достижение национальной цели «Технологическое лидерство», предусмотрено, в частности, развитие систем искусственного интеллекта, беспилотных авиационных систем, средств производства и автоматизации, цифровой трансформации.

Помимо вышеуказанных и иных элементов нормативно-правовой базы обеспечения развития искусственного интеллекта, в России в соответствии с Указом Президента РФ от 15 февраля 2024 г. № 124 принят Кодекс этики в данной сфере, формируется система регулирования отношений в сфере искусственного интеллекта в виде негосударственных актов рекомендательного характера - «мягкое право». Все это, безусловно, полезные меры, что, однако, не устраняет и не уменьшает необходимость актуализации вопросов, касающихся совершенствования правовых средств и механизмов законодательного обеспечения регулирования отношений в сфере искусственного интеллекта.

Изменение экономических условий, односторонние санкционные меры недружественных иностранных государств и иные факторы, действующие в последние годы, определили новые вызовы и угрозы для Российской Федерации, в том числе связанные с недостаточным развитием отечественных решений в сфере искусственного интеллекта, кадровым обеспечением указанной деятельности и др. В этом контексте необходимо расширять использование экономических, финансовых инструментов, а также правовых средств и механизмов регулирования отношений в сфере искусственного интеллекта. Для этого представляется целесообразным осуществить ряд различных преобразований, в том числе нормативно-правового характера.

• 1.    Наряду с расширением государственного субсидирования организаций, осуществляющих разработки в сфере искусственного интеллекта, с помощью экономико-правовых средств и механизмов целесообразно стимулировать привлечение частных инвестиций в развитие указанных организаций, особенно на этапах венчурного финансирования соответствующих проектов.

• 2.    В практической деятельности сохраняется немало межотраслевых технических, экономических, организационных, а также нормативно-правовых барьеров, мешающих

• 3.    Необходимо развитие правовых средств и механизмов обеспечения информационной безопасности при разработке, внедрении и использовании технологий искусственного интеллекта, защиты персональных данных, а также информации ограниченного доступа.

• 4.    Отдельного внимания требует обеспечение усиления охраны и защиты прав авторов и патентообладателей в сфере интеллектуальной собственности, используемой при создании, использовании, машинном обучении систем искусственного интеллекта. В связи с этим представляется целесообразным внести соответствующие коррективы в положения § 8 гл. 72 «Патентное право» Гражданского кодекса РФ.

• 5.    В условиях санкционного режима законодательного решения требуют также вопросы охраны и защиты прав и законных интересов организаций и иных разработчиков технологий искусственного интеллекта в связи с недобросовестными действиями конкурентов со стороны недружественных иностранных государств.

эффективному развитию и внедрению технологий искусственного интеллекта. И здесь в качестве исходной базы необходимо разработать общую методологию, содержащую концептуальные положения для комплексного экономического, финансового, а также организационно-правового обеспечения решений в сфере искусственного интеллекта.

В России в сфере правового обеспечения создания и использования искусственного интеллекта к настоящему времени сформировался определенный круг установлений нормативного и иного характера, между которыми в ряде случаев отсутствуют должные корреляционные взаимосвязи и соотношения, что обусловливает необходимость их консолидации в едином нормативном правовом акте. В качестве такого правового акта мог бы выступать проект закона «Основы правового регулирования отношений в сфере искусственного интеллекта», консолидирующий принципиальные положения в указанной области и устраняющий в данном правовом регулировании дублирующие положения, а также некоторые элементы несогласованности.

В проекте указанного законодательного акта целесообразно было бы предусмотреть:

• а)    цели и основные задачи правового обеспечения развития искусственного интеллекта в России;

• б)    основные понятия, термины и конструкции в сфере искусственного интеллекта;

• в)    основные принципы правового обеспечения развития и использования технологий искусственного интеллекта;

• г)    правовое обеспечение повышения доступности инфраструктуры, необходимой для развития и использования технологий искусственного интеллекта;

• д)    обеспечение защиты конституционных прав и свобод человека и гражданина, а также безопасности Российской Федерации в сферах, связанных с разработкой, внедрением и использование искусственного интеллекта;

• е)    основные положения, касающиеся сотрудничества РФ с дружественными зарубежными государствами в сфере создания и использования искусственного интеллекта.