Современное государство и право перед проблемами цифровой реальности

В работе [2] отмечается, что на данный момент существует достаточно большое число разрозненных концепций, которые так или иначе служат «кирпичиками» для построения цифрового государства: «цифровое правосудие»; «цифровые избирательные технологии»; «цифровой общественный мониторинг над государственным и муниципальным управлением» и другие. Разумеется, все эти концепции претерпевают определенные организационно-технологические изменения в связи с развитием как самих общественных отношений в той или иной области так и в связи с модернизацией применяемых цифровых технологий коммуникации, хранения, защиты, поиска, обработки информации и др.

Следует отметить, что цифровое государство – это платформа для реализации правоотношений не только граждан, общественных и коммерческих организаций и органов публичной власти, но и органов власти между собой [2] . При этом «внутреннее» взаимодействие в рамках информационного пространства органов публичной власти между собой является одним из главных направлений в цифровом государстве (примером чего является активно развиваемое в настоящее время межведомственное электронное взаимодействие).

Независимо от того, о каких взаимодействующих субъектах в рамках информационного пространства идет речь (граждане, организации, органы публичной власти), обязательным условием их эффективного взаимодействия в виртуальной сфере является значимый уровень так называемого «цифрового присутствия» указанных субъектов в этой специфической среде [3].

Например, для коммерческих организаций значимый уровень «цифрового присутствия» в виртуальной среде обеспечивается созданием и поддержанием точек взаимодействия с клиентами в Интернете через различные цифровые каналы (веб-сайты, чат-боты, мобильные приложения, социальные сети, онлайн-рекламу, электронную почту, интернет-магазины, платформы распространения контента и др.), то есть, через совокупность всех онлайн-активов и коммуникаций фирмы, предоставляющих ее продукты, ее менеджеров, а также формирующих ее образ и доступность для потребителей и контрагентов в сети.

Некоторые вопросы обеспечения «цифрового присутствия» различных субъектов в виртуальной среде рассматривались автором настоящей статьи в работах [4] - [11].

В статье [12] отмечается, что цифровизация оказывает влияние и на форму права. Цифровая формализация нормативно-правовых актов может способствовать упорядочению законотворческого и правоприменительного процессов в электронном виртуальном мире. При этом с помощью аппарата формальной логики возникает возможность выявлять противоречия в праве, неполноту регулирования тех или иных отношений. Алгоритмизация законотворческого процесса предполагает формирование цифрового правового языка и переход к автоматизированному законотворчеству, позволяющему предотвратить грамматические ошибки, находить дефекты и коллизии в обсуждаемых и принятых нормативно – правовых актах, унифицировать юридическую терминологию, выявлять коррупциогенные факторы, избежать дублирования в текстах нормативно-правовых актов [12].

Следует подчеркнуть, что алгоритмизация процессов как правотворчества, так и правоприменения автоматически не означает устранения человека из наиболее критичных процессов цифрового взаимодействия. Так, в работе [13] было отмечено, что рассмотрение даже типичных дел не может быть доверено «судье-автомату». При решении дел судья обязан руководствоваться не только нормами действующего законодательства (которые, действительно, вместе с примерами судебной практики могут быть представлены в удобном интерактивном цифровом виде), но и учитывать разнообразные обстоятельства конкретных дел, руководствуясь при вынесении решений не только правовыми, но и моральными принципами. Вынесение решения не может осуществляться электронным устройством или судьей-роботом, поскольку в противном случае из системы правосудия будет неизбежно устранен такой важный его компонент как судебное усмотрение [13].

Несмотря на то, что человек не заменяется полностью роботами в виртуальной среде цифрового государства, следует подчеркнуть, что формирование новых правовых механизмов происходит в условиях смены всей научной парадигмы и типов научной рациональности, в том числе, в области правовых наук [14].

Одним из принципиальных моментов, характеризующих новую научную парадигму, является использование квантовых технологий. Особо отметим, что речь идет не только и не столько об использовании квантовых компьютеров (хотя вполне обоснованно ожидается, что их практическое использование приведет к кардинальному увеличению вычислительных возможностей, доступных человечеству). Речь идет также об использовании квантовой логики, в которой (в отличие от классической аристотелевой логики), противоположные по смыслу высказывания А и не-А образуют квантовую суперпозицию (entanglement) и могут быть одновременно истинными до момента принятия решения, вызывающего редукцию волновой функции этой квантовой смеси высказываний А и не-А.

Показательным является тот факт, что в начале XXI века квантовые теории проникли в те сферы, которые ранее практически никак не описывались с помощью математического аппарата, тем более такого, который применяется в квантовой механике.

Разумеется, многие исследователи на данный момент воспринимают термин «квантовая логика» более как метафору, восходящую к известным концепциям квантовой физики (запутанные состояния; нелокальность, то есть действие на расстоянии; неустранимое влияние наблюдателя на результат измерений, и т.д.), нежели как прямой призыв к действительному переносу аппарата, скажем, уравнений Шредингера на поле социогуманитарных наук. Тем не менее, тенденция весьма показательна, и возможно, что она отражает более глубокое присутствие квантовых явлений в нашей жизни, чем это представлялось ранее. Приведем несколько примеров.

Известны работы [15], [16] из области социологии, в которой концепция запутанного состояния квантовых объектов (entanglement) переносится на человеческое общество. При этом из гипотезы о квантовой запутанности всех людей в обществе делается вывод о научном обосновании существования морали и нравственности.

Существуют также работы в области так называемой «квантовой когнитивистики» - новой междисциплинарной области исследований на стыке квантовой механики, лингвистики, а также психологии. В этой сфере формализм квантовой теории применяется для моделирования ряда когнитивных явлений, к которым относятся, в частности, человеческая память, мышление и принятие решений [17], [18].

Известны также работы, в которых говорится о квантовых подходах в теории международных отношений [19] и, что особенно интересно в контексте настоящей статьи, о формировании новой квантовой теории права [20], [21].

Автор настоящей работы считает, что квантовые алгоритмы в области права должны в настоящее время рассматриваться исследователями скорее как перспективные цели, нежели как прямое руководство к применению инструментария квантовых наук, однако направление движения научной мысли в этом направлении представляется весьма симптоматичным. Особенно привлекательным и многообещающим представляется использование квантовых алгоритмов для обеспечения функционирования искусственного интеллекта, поскольку многими исследователями делается обоснованный вывод о подобии мыслительной деятельности человека работе квантового компьютера. Если говорить предельно просто, то вообще есть веские основания рассматривать мозг человека как универсальный квантовый компьютер [22].

Безусловно, осмыслить масштаб внедрения цифровых технологий в нашу жизнь человеку еще только предстоит, однако, уже сегодня представляется справедливым утверждение о том, что применение этих технологий - это явление времени неизбежное и революционное. И в этом смысле любые «неолуддитские» настроения неотвратимо разобьются об аргументы сторонников цифровизации об эффективности новых технологических процессов во всех областях общественной жизни.

Наиболее впечатляющие результаты процессы цифровизации связаны с применением средств искусственного интеллекта.

В настоящее время юристам-практикам доступны для использования в повседневной работе различные программные продукты (нейросети) с элементами искусственного интеллекта, которые эффективно справляются с типовыми задачами и аналитической работой. При этом возможности современных нейросетей ограничены в области анализа сложных дел и понимания причинно-следственных связей. Нейросети, несмотря на свою высокую вычислительную мощность и способность к статистической и аналитической обработке громадных массивов информации, не обладают интуицией и не способны адекватно оценивать сложные обстоятельства, такие как мотивы, эмоции и поведение людей, а также отдельные детали, которые могут быть важными для принятия правильного решения.

При выборе конкретного средства искусственного интеллекта для практической работы, необходим учет нескольких факторов. Во-первых, не все модели нейросетей подходят для юридической работы, связанной с анализом больших объемов текста и логическими построениями. Целесообразно использовать только так называемые рассуждающие (reasoning) нейросети. Это средства искусственного интеллекта, которые перед выдачей ответа выстраивают внутреннюю цепочку рассуждений, что делает результат точнее. Можно сказать, что reasoning – нейросети не выдают готовые ответы, а демонстрируют мыслительный процесс. Кроме того, следует учитывать также такие параметры, как мощность нейросети, размер контекстного окна и возможность работы с документами, представленными в различных графических форматах. Мощность нейросети определяет ее потенциальную способность к обучению и запоминанию сложных закономерностей. Чем выше мощность нейросети, тем она меньше склонна к «галлюцинациям», то есть выдумыванию фактов.

Размер контекстного окна определяет объем информации, который модель нейросети может одновременно удерживать в своей краткосрочной памяти. Для практикующего юриста это является критически важным параметром. Если в модель нейросети с небольшим окном будет загружен объемный документ типа Налогового Кодекса, такая нейросеть просто «забудет» его часть в процессе работы.

В целях обеспечения ускоренного развития искусственного интеллекта в Российской Федерации, проведения научных исследований в области искусственного интеллекта, повышения доступности информации и вычислительных ресурсов для пользователей, совершенствования системы подготовки кадров в этой области, в России утверждена в 2019 году (в редакции Указа Президента от 15.02.2024 № 124) Национальная Стратегия развития искусственного интеллекта на период до 2030 года [23].

В Стратегии дано легальное определение искусственного интеллекта: «модель искусственного интеллекта – программа для электронных вычислительных машин (ее составная часть), предназначенная для выполнения интеллектуальных задач на уровне, сопоставимом с результатами интеллектуального труда человека или превосходящем их, использующая алгоритмы и наборы данных для выведения закономерностей, принятия решений или прогнозирования результатов» [23].

В Стратегии [23] отдельное внимание уделено так называемому сильному искусственному интеллекту. Так, в Стратегии говорится: «создание универсального (сильного) искусственного интеллекта, способного, подобно человеку, решать различные задачи, мыслить, взаимодействовать и адаптироваться к изменяющимся условиям, является сложной научнотехнической проблемой, решение которой находится на пересечении различных сфер научного знания - естественно-научной, технической и социально-гуманитарной» [23].

Однако, искусственный интеллект не должен заменять человека или организацию, он не должен их подменять. Цель внедрения искусственного интеллекта - это упрощение сложного, это деление «дроби человеческих потребностей» на утилитарные части. Как говорят специалисты, фактически искусственный интеллект - это «экзосклет из неройсетей», который мы надеваем на наши задачи, тем самым расширяя и ускоряя наши собственные возможности.

Цель внедрения искусственного интеллекта в России - повысить результативность деятельности граждан, организаций и органов публичной власти во всех отраслях, ускорить обработку бурно увеличивающегося пласта информации, стать лидерами коммерческой привлекательности и экспортного потенциала технологических решений, разработанных в России с помощью искусственного интеллекта. Технологическая независимость, суверенитет, лидерство и конкурентоспособность России на мировом рынке в области искусственного интеллекта может позволить нам «достичь значимых результатов по основным направлениям социальноэкономического развития» [23].

Одним из основных базовых принципов развития и использования технологий искусственного интеллекта в России провозглашен принцип преемственности - «обеспечение постепенного перехода органов публичной власти к использованию технологий искусственного интеллекта» [23]. Основными направлениями внедрения доверенных технологий искусственного интеллекта в органах публичной власти и организациях являются цифровая трансформация органов публичной власти и субъектов

Российской Федерации при включении и актуализации в них программ и стратегий цифровой трансформации.

Не менее важным этапом является методическое и нормативноправовое обеспечение внедрения доверенных технологий искусственного интеллекта в государственном управлении, в том числе и площадок для обмена опытом и вычленения наиболее эффективных методов внедрения, а также активное развитие единой цифровой платформы РФ «РосТех», содержащей как реестр проектов, так и реестр уже апробированных доверенных технологий искусственного интеллекта для органов публичной власти и организаций и в различных отраслях экономики и социальной сферы [23].

Цель внедрения больших генеративных систем искусственного интеллекта - это ускорение экономического роста, что неизбежно приводит к росту темпов роста производительности труда, и «стимулирует работодателей к существенному увеличению доли высококвалифицированных специалистов в общей численности работников («экономика высоких зарплат»)» [23].

Самыми первыми принципами развития и использования технологий искусственного интеллекта в России заявлены следующие принципы: обеспечение защиты прав и свобод человека, гарантированных законодательством Российской Федерации, международными договорами Российской Федерации и общепризнанными принципами и нормами международного права, в том числе права на труд, и предоставление гражданам возможности получать знания и приобретать навыки для успешной адаптации к условиям цифровой экономики [23].

Представляет естественный интерес сравнение Стратегии [23] с подобными документами других юрисдикций.

Лидирующие позиции в области разработки и внедрения ИИ занимают США. Ключевым документом, который определял национальные приоритеты США в области разработки и применения ИИ, был указ президента США от 30 октября 2023 года «Executive Order on Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence» [25] (ныне не действует). В этом документе были определены несколько базовых принципов для ИИ, в том числе: защита критической инфраструктуры, противодействие дискриминации, сохранение конфиденциальности, обеспечение прозрачности алгоритмов и развитие ИИ в интересах национальной безопасности и экономики. Примечательным является тот факт, что Указ Президента США «Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence» обязывал разработчиков ИИ предоставлять уполномоченным органам результаты тестирования моделей ИИ, касающихся рисков, включая вопросы безопасности и злоупотреблений.

На территории стран Европейского Союза действует в качестве нормативного документа Регламент ЕС 2024/1689, более известный как Artificial Intelligence Act (AI Act) [26], принятый Европейским парламентом 13 марта 2024 года и вступивший в силу 1 августа 2024 года. Сфера действия AI Act охватывает все отрасли, кроме военной, и все виды ИИ. Являясь нормативным актом в отношении продукции, он не будет наделять правами отдельных лиц, но будет регулировать деятельность поставщиков ИИ и организаций (органов), использующих их в своей профессиональной деятельности. Закон AI Act [26] об ИИ направлен на классификацию и регулирование приложений, использующих ИИ в зависимости от риска причинить вред пользователю. В соответствии с AI Act [26], все продукты ИИ делятся на три категории: запрещенные системы (с недопустимой степенью риска); системы с высокой степенью риска; остальные системы ИИ. К запрещенным системам относятся те, которые могут быть использованы для манипулирования людьми на подсознательном уровне. Системы ИИ с высокой степенью риска – это системы, представляющие значительную угрозу здоровью, безопасности или основным правам человека. Такие системы требуют обязательной оценки соответствия, проводимой поставщиком, перед выпуском системы ИИ на рынок.

С точки зрения нашего исследования, стоит отметить, что статья 5 AI Act [26] прямо запрещает несколько «практик» использования ИИ, среди которых: применение манипулятивных или обманных методов; использование уязвимости людей, связанных с возрастом, инвалидностью или социально-экономической ситуацией; применение ИИ для оценки или классификации людей на основе их социального поведения или личных характеристик; использование ИИ для определения эмоций на рабочем месте или в учебной среде (за исключением медицины и безопасности); применение биометрических систем для категоризации людей по биометрическим данным с целью установления их расы, политических взглядов, религиозных убеждений (кроме случаев обеспечения безопасности).

Следует отметить, что в России действовала Концепция развития регулирования отношений в сфере технологий искусственного интеллекта, утвержденная распоряжением Правительства Российской Федерации от 19 августа 2020 года № 2129-р [24]. В Концепции были определены, в том числе, следующие принципы регулирования отношений в сфере технологий искусственного интеллекта: регуляторное воздействие, основанное на риск -ориентированном междисциплинарном подходе; человеко-ориентированный подход, предусматривающий, что конечной целью развития искусственного интеллекта является обеспечение прав и свобод человека; оценка воздействия систем искусственного интеллекта на все сферы жизни человека, общества и государства, основанная на научно выверенных исследованиях с привлечением широкого круга ученых. Разумеется, что научные исследования касаются и вопросов допустимости автономизации средств искусственного интеллекта, в том числе возможности его автономного функционирования в правовом поле.

Рассуждая о возможности наделения средств сильного искусственного интеллекта правосубъектностью, представляется новаторской идея внедрения технологий искусственного интеллекта в повседневную жизнь простого гражданина в виде некоторого индивидуального чат-бота, цифрового двойника, частично схожего по статусу с конкретным индивидом, целью которого была бы защита прав и интересов простого человека в рамках правового поля в повседневной жизни. Такой бот - это не просто индивидуальный кабинет с набором данных о человеке и его правоустанавливающих документах, а интеллектуальный помощник – двойник, который мог бы грамотно, пристрастно и детализировано вычленять нарушенные права конкретного человека и не только предлагать возможные решения его проблем, но и, возможно, в будущем, самостоятельно вовлекаться в их разрешение и устранение, тотально защищая и оберегая индивида. Более того, данный бот мог бы заниматься и просветительской деятельностью своего «хозяина», так как не все граждане в силу уровня образованности и юридической подкованности способны грамотно оценивать последствия своих действий, а также бездействия в конкретных жизненных ситуациях и перипетиях.

Так в частности, можно предположить, что создание индивидуальной цифровой экосистемы для каждого человека позволит ему реализовывать свои права, о которых он мог не знать в силу разных причин (например, подача заявления в уполномоченный орган на получение выплаты и ее полное оформление по умолчанию системой искусственного интеллекта), а также защищать законные интересы (например, оперативно оплачивать образовавшиеся штрафы без пеней за просрочку или составлять и отправлять жалобы в государственные органы).

Однако, нельзя не упомянуть, что Национальная стратегия развития искусственного интеллекта [23] не допускает делегирование таким системам ответственного нравственного выбора (в том числе, принятие любых решений, способных оказать влияние на жизнь или здоровье человека), а также делегирование ответственности за последствия принятия решений.

Ответственность за все последствия работы систем искусственного интеллекта всегда несет физическое или юридическое лицо, признаваемое субъектом ответственности в соответствии с законодательством Российской Федерации. И в этом смысле идею передачи системам искусственного интеллекта некоторых функций по принятию решений индивидом еще предстоит детально проработать с учетом базовых принципов права и законодательства РФ. Однако, уже сейчас представляется возможным в будущем составление некой «Электронной доверенности» по принципу анкетирования, в которой каждый человек сам решит, какие функции и какие сферы своей жизни он готов делегировать системам искусственного интеллекта, с учетом сохранения принципа конечной ответственности за собой,то есть физическим лицом.

Отметим, что создание и предоставление определенной свободы и автономности такому аватару конкретного человека, его «цифровому двойнику», представляется вопросом дискуссионным, поскольку предстоит решить сложные проблемы не только технологического и юридического, но и морально – этического плана.

Тем не менее, данный вопрос (создание и автономная деятельность цифровых двойников человека), их юридическая субъектность, права и обязанности в цифровой виртуальной среде (которая все чаще обоснованно называется метавселенной), уже являются предметом заинтересованного обсуждения специалистов [27], [28].

Автор статьи [27] справедливо отмечает: «правовая субъектность ИИ - аватаров поставит сложные вопросы об ответственности и подотчетности в случае причинения вреда или совершения противоправных действий. Если аватар на основе ИИ наносит ущерб или занимается незаконной деятельностью, кто должен нести ответственность – сам аватар, пользователь, который его создал или применил или компания, разработавшая базовую технологию? Решение этих вопросов потребует тщательного учета интересов и ответственности всех вовлеченных сторон, а также разработки новых правовых доктрин и механизмов для решения уникальных проблем, создаваемых агентами ИИ».

Как говорится в работе [27], одним из возможных подходов к решению этой проблемы цифровой реальности может быть разработка «многоуровневой» системы правосубъектности для ИИ-аватаров, которая будет предоставлять различные уровни прав и обязанностей в зависимости от сложности и автономности данной сущности. Согласно такому подходу, «слабые» аватары на основе ИИ с ограниченными возможностями принятия решений получат базовую форму правосубъектности с ограниченными правами и обязанностями, в то время как «сильные» ИИ-аватары получат правовой статус более высокого уровня с соответственно большими правами и обязанностями [27].

Автор настоящей статьи полагает такой подход принципиально неприемлемым, поскольку как раз аватары на основе сильного искусственного интеллекта вызывают наибольшее беспокойство из-за их все возрастающих возможностей при абсолютно непрозрачном даже для их создателей алгоритме принятия решений.

Проблемы цифровой реальности требуют дальнейшего обсуждения.