Цифровизация как направление развития государства и права: сущность, перспективы, риски
Автор: Мишин Д.А., Куровский С.В., Халафян А.А.
Журнал: Вестник Академии права и управления @vestnik-apu
Рубрика: Теория и практика юридической науки
Статья в выпуске: 5 (80), 2024 года.
Бесплатный доступ
В статье рассматривается понятие цифровизации, отмечается его многогранный и противоречивый характер, а также положительное влияние на возможности выполнения функций разными ветвями власти. Выделяется ряд цифровых технологий, которые, по мнению авторов, окажутся наиболее значимыми с точки зрения использования в государственно-правовой сфере в обозримой перспективе. Рассматривается дискуссия о возможности принятия судебных решений на основе технологий искусственного интеллекта, в частности отмечаются аргументы использования указанной технологии в качестве основы правосудия. Высказывается и обосновывается гипотеза о возможности принятия судебных решений в будущем на основе технологий искусственного интеллекта. Особое внимание уделяется осмыслению проблематики ответственности в контексте вынесения неправосудных решений с использованием искусственного интеллекта. Затрагиваются вопросы перспектив развития технологий электронного правительства, отмечаются риски появления неограниченной цифровой власти. Подчеркиваются угрозы для таких фундаментальных государственно-правовых идей, как власть народа, выборность власти, сменяемость власти, ее ограниченность и разделение на три ветви. Делается вывод, что наибольшие риски для государственно-правовой сферы представляют технологии искусственного интеллекта, применение которых предлагается ограничивать в той мере, в какой это необходимо для сохранения этических и морально-нравственных ценностей общества.
Государство, информационные технологии, искусственный интеллект, право, цифровые технологии, электронное правительство
Короткий адрес: https://sciup.org/14132228
IDR: 14132228 | УДК: 342
Digitalization as a direction of development of the state and law: essence, prospects, risks
The concept of digitalization is considered, its multifaceted and contradictory nature is noted, as well as its positive impact on the ability of different branches of government to perform functions. A number of digital technologies are highlighted, which, according to the author, will prove to be the most significant in terms of use in the public legal sphere in the foreseeable future. The discussion on the possibility of making judicial decisions based on artificial intelligence technologies is considered, in particular, the arguments “for” and “against” the use of this technology as the basis of justice are noted. The hypothesis about the possibility of making judicial decisions in the future based on artificial intelligence technologies is expressed and substantiated. Special attention is paid to understanding the issues of responsibility in the context of making unlawful decisions using artificial intelligence. The issues of prospects for the development of e-government technologies are touched upon, the risks of the emergence of unlimited digital power are noted. The threats to such fundamental state-legal ideas as the power of the people, the electability of power, the changeability of power, its limitations and the division into three branches are emphasized. It is concluded that artificial intelligence technologies pose the greatest risks to the public legal sphere, the use of which, for these reasons, is proposed to be limited to the extent necessary to preserve the ethical and moral values of society.
Текст научной статьи Цифровизация как направление развития государства и права: сущность, перспективы, риски
С егодня цифровизация является одним из важнейших трендов развития современного государства, права и тех сфер общественной жизни, которые прямо или косвенно связаны с ними. Именно этим обстоятельством актуализируется рассматриваемая тема.
Необходимо отметить наличие множества дискуссионных вопросов, связанных с цифровизацией, как в целом, так и в контексте развития государства и права. При этом среди проблемных вопросов внедрения цифровизации в процессы государственноправовой сферы есть и вопросы общетеоретического, философского характера и вопросы практического характера, связанные с реализацией конкретных направлений деятельности государства. Вместе с тем решение практических вопросов представляется невозможным без осмысления проблематики цифровизации в теоретическом и общефилософском аспектах.
Особо стоит подчеркнуть проблемы возможных перспектив внедрения цифровизации в государственно-правовую сферу, а также сопутствующих такому внедрению рисков, которые весьма многочисленны, серьезны и требуют тщательного осмысления.
Все это обосновывает актуальность изучения цифровизации в контексте развития государства и права без привязки к конкретным законодательным и подзаконным нормативным правовым актам.
Цифровизация является достаточно сложным феноменом, анализу которого посвящено множество современных исследований. Поскольку единообразный подход к трактовке цифровизации не выработан, представляется принципиально важным уточнить содержание данного понятия в рамках настоящей статьи. Прежде всего стоит обратиться к определению, сформулированному в методических рекомендациях Минкомсвязи России, где цифровизация (цифровое развитие) трактуется как «основанный на информационных технологиях процесс организации выполнения в цифровой среде функций и деятельности (биз-нес-процессов), которые ранее выполнялись людьми и организациями без использования цифровых продуктов». При этом под цифровым продуктом в том же документе понимается приложение (отдельная про- грамма для электронно-вычислительных машин, ЭВМ) для выполнения некоего конечного процесса [1]. То есть в данном контексте цифровизация рассматривается как всеобъемлющий процесс внедрения цифровых (компьютерных) технологий, не ограниченный какой-либо конкретной сферой, что позволяет рассматривать проблематику цифровизации применительно к любой области деятельности, где человек использует (или будет использовать) цифровые информационные (компьютеризированные) технологии.
Сложность феномена цифровизации обусловливается его многоаспектностью, динамичностью и противоречивостью [2, с. 104], в связи с чем это понятие может быть истолковано в различных значениях [4, с. 12]. Однако вне зависимости от выбранного подхода к рассмотрению цифровизации в ее основе лежит использование цифровых технологий, базирующихся, соответственно, на ЭВМ.
Говоря о перспективах цифровизации, невозможно отрицать ее позитивного влияния практически на все сферы общественной жизни, среди которых сферы государственного управления и права, где благодаря цифровизации существенно упрощаются, ускоряются, становятся более экономичными коммуникационные процессы [4, с. 13]. Это способствует определенной трансформации практически всех государственно-правовых институтов в сфере реализации законодательной, исполнительной и судебной власти.
Так, цифровизация в сфере правотворчества позволяет более активно вовлекать в этот процесс население, например, путем вынесения на обсуждение законодательных актов, обеспечивая, таким образом, учет общественного мнения. В сфере реализации исполнительной власти цифровизация позволяет решать широкий спектр проблем, возложенных на соответствующие органы, но при более тесной коммуникации и при активном вовлечении населения. В сфере правосудия цифровизация позволяет рассматривать судебные дела в дистанционном формате, обеспечивая более оперативный процесс.
Цифровые технологии весьма разнообразны. Однако среди тех технологий, которые перечисляются в упомянутых выше Методических рекомендациях [1] представляется возможным особо выделить беспроводную связь, цифровые платформы, искусственный интеллект (далее – ИИ) и дополненную реальность. Думается, именно они являются наиболее значимыми с точки зрения развития государства и права. Наиболее сложной, противоречивой и в то же время перспективной является технология ИИ, применение которого уже становится предметом острых дискуссий, причем не только в научно-теоретическом контексте.
Этот вопрос крайне неоднозначен, поскольку усматриваются аргументы как в пользу применения технологий ИИ при разрешении дел судами, так и против этого, при этом обе группы аргументов весьма конкретны и убедительны.
Так, внедрение ИИ в процесс принятия решения по делу в суде можно аргументировать следующим:
-
1) экономичность – разрешение судебных дел на основе ИИ может существенно снизить трудоемкость судопроизводства;
-
2) возможность существенно ускорить процесс судебного разбирательства – разрешение судебных дел на основе ИИ может позволить значительно ускорить процесс правовой оценки документов и прочих доказательств, их анализа, обобщения и прочих операций, которые, как правило, выполняются человеком и требуют существенных затрат времени;
-
3) возможность исключения ошибок, обусловленных недостаточно тщательным исследованием материалов дела – в случае использования технологий ИИ может быть минимизирована либо полностью исключена роль человеческого фактора.
Преимущества технологий ИИ в значительно мере обусловлены возможностью быстрой обработки огромных массивов информации, что человеку недоступно, в том числе при рассмотрении судебных дел. В этой связи М.И. Клеандров указывает на значительный объем информации, которую должен изучить судья при рассмотрении дела. В качестве примера данный автор приводит дела о банкротстве, которые нередко включают по 300-350 томов (в случае банкротства крупных корпораций), а каждый из томов насчитывает, как правило, не менее 150 листов [6, с. 16]. Очевидно, что даже ознакомление с таким объемом юридически значимого материала весьма трудозатратно. Однако этого недостаточно. Судья также должен проанализировать все имеющиеся в деле материалы, дав каждому из них соответствующую правовую оценку, соответствующее обоснование и ссылки на конкретные нормы закона, что представляется еще более сложной задачей. Указанный аспект позволяет М.И. Клеандрову прийти к выводу, что в полном диапазоне подобные объемы юридически значимой информации может воспринять и обработать робот [6, с. 18], с чем отчасти можно согласиться.
Вместе с тем следует признать невозможность замены человека технологиями ИИ ввиду некоторых особенностей, которые свойственны только человеку. Так, при рассмотрении судебных дел принципиально важно руководствоваться признаваемыми в человеческом социуме ценностями справедливости, гуманизма, уважения и прочими моральными ориентирами, которые и в прежние времена, и в современную эпоху остаются основой юридически значимых отношений, несмотря на формализм и эмоциональную нейтральность таких отношений. Но такого рода ориентиры свойственны лишь человеку, ИИ они недоступны, на что указывает М.И. Клеандров [6, с. 18]. В этой связи именно человеческие качества лежат в основе аргументов, направленных против внедрения ИИ в процесс принятия судебных решений.
В то же время нельзя согласиться с указанным автором в том, что передача функций судьи-человека к судье-роботу невозможна [6, с. 24], поскольку в зарубежной практике попытки такой замены, пусть и частичной, имеют место, причем в полной мере неудачными их вряд ли можно назвать. Так, в США разработаны и предлагаются на рынке основанные на технологии ИИ продукты, позволяющие с вероятностью более чем 70 % спрогнозировать результат рассмотрение дела судом, а также тактику сторон разбирательства. При этом алгоритмы прогнозирования засекречены, о чем пишет Е.В. Купчина [7, с. 67-68].
Очевидно, что на данный момент такого рода технологии не смогут обеспечить возможность рас-смотренияспорабез непосредственного изучения материалов дела судьей. Однако если учесть, что цифровые технологии прогрессируют, а продукты на основе ИИ способны к самообучению, то можно полагать, что через некоторое время точность принимаемых решений будет существенного выше, а значит, такие технологии могут иметь место при разрешении дел судами. Возможно, судьи, уполномоченные рассматривать дела, при принятии решений в целом по делам или по отдельным вопросам будут руководствоваться оценкой обстоятельств, полученной в результате применения технологий ИИ. Думается, что такие варианты развития событий в перспективе нельзя исключить.
Не приходится сомневаться также в том, что внедрение ИИ в систему правосудия повлечет обо- стрение проблемы ответственности за принятые решения, особенно в сфере уголовного судопроизводства. Если в настоящее время ответственность за вынесение неправосудных, незаконных, несправедливых решений несет персонально судья, а также государство, из бюджета которого возмещается вред в соответствующих случаях, то в случае принятия неправосудного решения с использованием технологий ИИ судья не будет нести персональной ответственности в полном объеме. Привлечение судьи к ответственности без вины будет, во-первых, несправедливым ввиду неподконтрольности ему процесса принятия решения ИИ, во-вторых, будет противоречить фундаментальному принципу виновности, сложившемуся за многовековую историю развития права, де-юре исключающему возможность осуждения невиновного человека.
Внимание следует уделить и перспективам развития технологии электронного правительства, которая уже активно применяется, причем как в России, так и в других странах мира, и в целом представляется собой автоматизацию стандартных административных процедур [8, с. 26], позволяющую оперативно взаимодействовать гражданам с различными государственно-правовыми институтами, относящимися, прежде всего, к исполнительной власти. Кроме того, в рамках технологии электронного правительства происходит взаимодействие различных государственновластных структур друг с другом, что совершенствует практику реализации государством его функций.
Однако на практике при обсуждении вопросов развития электронного правительства речь пока идет именно об автоматизации, но без активного вовлечения ИИ в процесс принятия государственного значимых решений. В случае внедрения технологий ИИ в процесс принятие таких решений, особенно на высшем уровне, проблематика, думается, будет принципиально иной, чем в настоящее время.
Так, Г. И. Авцинова особое внимание обращает на риск возникновения так называемой цифровой власти, причем безграничной. И данный риск расценивается ей как главный [2, с. 104]. Безусловно, это мнение не является безосновательным, поскольку в случае, когда решение государственно значимых вопросов будет происходить на основе технологий ИИ, роль таких основополагающих принципов организации государства, как сменяемость власти, ее ответственность, ограниченность посредством разделения на законодательную, исполнительную и судебную, выборность (применительно к законодательным органам) будет поставлена под сомнение.
Более того, под сомнение может быть поставлена также идея о том, что главным источником власти является народ. В случае выполнения государственно-властных функций человеком только он яв- ляется тем представителем от народа, через которого эта власть реализуется. То есть и де-факто, и де-юре люди реализуют власть в отношении людей, будучи ограниченными этическими и морально-нравственными нормами, которые свойственны человеку, приняты всем обществом и нашли отражение в праве. В случае выполнения государственно-властных функций посредством ИИ вряд ли будут основания говорить о том, что именно народ является единственным источником власти.
Так, человек-судья, выносящий решение на основе созданных человеком норм и руководствуясь своим внутренним убеждением, безусловно, является представителем народа при совершении правосудия. В этом случае уместно говорить о том, что народ есть источник власти, хотя эта власть не является непосредственной. Избранные народом члены законодательного органа, разрабатывающие и по своему внутреннему убеждению голосующие за конкретный закон, являются частью этого народа и действуют от его имени. Соответственно, народ остается источником власти, по крайней мере власть реализуется его представителями. Когда правотворческие акты формируются на основе технологий ИИ, когда голосование в пользу поддержки тех или иных инициатив осуществляется «по рекомендации» ИИ, когда человек-судья выносит решение, сгенерированное роботом-судьей, когда законы принимаются в соответствии с вариантами исполнения, «рекомендованными» ИИ, уместно ли говорить о том, что именно народ является источником власти?
Думается, что ответы на указанные вопросы будут зависеть от того, каким будет соотношение человеческого (естественного) и ИИ при принятии государственно значимых решений.
В любом случае дать однозначную оценку отдаленных перспектив развития цифровизации невозможно. В научной литературе взгляды на этой проблематику отличаются полярностью – от концепций «прямого» общественного управления, идеализирующих процесс цифровизации, до идей «цифрового тоталитаризма» [2, с. 104].
Проблематика цифровизации в государственно-правовой сфере выходит далеко за рамки тех вопросов, которые касаются возможностей электронного обращения в суд или иные органы власти, использования видео-конференц-связи [5, с. 72], повышения доступности для граждан публично-правового поля [3, с. 17] или рисков роста киберпреступности и утечки персональных данных [2, с. 105].
Думается, что наиболее важные фундаментальные вопросы развития цифровизации в контексте отдаленной перспективы во многом связаны с внедрением в государственно-правовую сферу ИИ и сохранением таких государственно-правовых ценностей и принципов, как выборность власти, ее сменяемость, ограниченность, ответственность, осуществление власти народом, поскольку именно ИИ несет наиболее существенные риски для указанных ценностей. В этой связи представляется принципиально важным на законодательном уровне установить пределы использования ИИ при принятии решений на высшем уровне, чтобы исключить принятие решений, противоречащих этическим и морально-нравственным ценностям общества.
Список литературы Цифровизация как направление развития государства и права: сущность, перспективы, риски
- Разъяснения (методические рекомендации) по разработке региональных проектов в рамках федеральных проектов национальной программы "Цифровая экономика Российской Федерации": утв. Приказом Минкомсвязи России от 01.08.2018 № 428 [Электронный ресурс]. URL: https://www.consultant.ru/document/cons_doc_LAW_343571/(дата обращения: 11.11.2022).
- Авцинова Г.И. Государственная политика цифровизации в современной России: понятие, концепции, тренды развития // PolitBook. 2022. № 2. С. 101-113. EDN: VCAZYW
- Дзидзоев Р.М., Лолаева А.С. Цифровая (электронная) демократия в России: понятие и пределы // Юридический вестник Кубанского государственного университета. 2022. № 2. С. 14-20. EDN: RLDPKG
- Жолдасова Ш. Цифровизация государственного управления // Universum: экономика и юриспруденция. 2022. № 10 (97). С. 12-14. EDN: SANAWT
- Карасев А.Т., Савоськин А.В., Мещерягина В.А. Цифровизация правосудия в Российской Федерации // Вестник Уральского юридического института МВД России. 2021. № 2 (30). С. 71-77. EDN: OIOAQQ
- Клеандров М.И. Размышления на тему: может ли судьей быть робот? // Российское правосудие. 2018. № 6 (146). С. 15-25. EDN: XOTJOH
- Купчина Е.В. Применение технологии искусственного интеллекта в системе гражданского судопроизводства США // Правовая парадигма. 2021. Т. 20, № 4. С. 63-71. EDN: IJZBNJ
- Сморчкова Л.Н. Цифровое правительство как перспектива государственного управления в России: информационно-правовые аспекты // Правовая информатика. 2022. № 2. С. 25-33. EDN: DQLHIV
- Талапина Э.В. Использование искусственного интеллекта в государственном управлении // Информационное общество. 2021. № 3. С. 16-22. EDN: BDZSVI