Права, связанные с искусственным интеллектом, в российском правопорядке

Ускоренное внедрение систем искусственного интеллекта (далее – ИИ) в сферы, непосредственно затрагивающие основные права и свободы граждан, создает новые вызовы для правоприменения и судебной защиты. Если буквально два-три года назад использование алгоритмов в кадровой деятельности, кредитовании и даже административной юстиции казалось экзотикой (как в России, так и за рубежом), то сегодня это стало рутинной практикой. Громкий скандал, недавно случившийся с транснациональной компанией Amazon, ИИ-система кадрового отбора которой систематически отклоняла кандидатуры женщин1, убедительно продемонстрировал, что опасения относительно алгоритмической дискриминации вышли из области теоретических рассуждений и материализовались в реальные нарушения прав человека.

В настоящей работе будут рассмотрены вопросы, связанные с такими правами человека в области искусственного интеллекта, как право на объяснимость (возможность получить объяснения по поводу принятых ИИ решений, как, например, отказ в кредите или отказ в выдаче визы) и право на человеческое вмешательство (возможность оспорить решение ИИ и передать его на рассмотрение человеку), без интеграции которых в национальный правопорядок говорить о континуальности обеспечения конституционных прав в цифровую эпоху не приходится.

По состоянию на конец 2024 года в России разработано и утверждено 136 национальных стандартов в сфере искусственного интеллекта2, однако за пределами «регуляторной песочницы» в рамках нескольких экспериментальных правовых режимов (для беспилотного транспорта, по направлению медицинской деятельности и по эксплуатации беспилотных авиационных систем в Москве) отсутствует комплексное законодательство, обеспечивающее право граждан на получение понятного объяснения решений, принимаемых автоматизированными системами. Некоторые пробелы мог бы устранять Кодекс этики в сфере искусственного интеллекта3, принятый еще в 2021 году и актуализируемый до настоящего времени, однако его положения не имеют нормативного характера.

В Национальной стратегии развития искусственного интеллекта на период до 2030 года4, хотя и предусмотрены элементы, отражающие реализацию принципа транспарентности и права на объяснение, не содержится конкретных механизмов, гарантирующих реальную реализацию соответствующих прав.

Права, связанные с искусственным интеллектом, в российском правопорядке

Проблематика прав на объяснимость и человеческое вмешательство как ключевых гражданских прав, возникающих в контексте применения искусственного интеллекта, в современной юриспруденции носит междисциплинарный характер. Исследования в предметной области находятся на пересечении информационного права, прав человека, процессуального права и защиты персональных данных, что обусловливает многоаспектный характер доктринальной разработки этого вопроса.

Затрагиваемый спектр проблем – лишь часть проблематики в предметной области, иллюстрирующая необходимость дальнейшей концептуальной разработки и обеспечения надлежащего закрепления и регулирования прав, связанных с искусственным интеллектом.

Право на объяснимость

Концептуальная основа права на объ-яснимость в европейском праве восходит к принципам справедливого разбирательства и процессуальной прозрачности, закрепленным в Европейской конвенции о защите прав человека и основных свобод. Однако специфически в контексте искусственного интеллекта это право получило формулировку в Общем регламенте по защите данных (General Data Protection Regulation – GDPR)1. Как подчеркивалось выше, практикующие юристы долгие годы спорили о том, существует ли действительно право на объяснение в GDPR в том виде, который требуют лица, затронутые алгоритмическими решениями. Однако практика судебных органов Европейского союза постепенно уточнила содержание этого права. В судебном деле C-203/222 отражено, что информация о решениях, принятых алгоритмами, должна быть:

• •    значимой – отражающей суть логики обработки, а не просто технические детали;

• •    конкретной – относящейся к конкретному решению и конкретному субъекту данных;

• •    прозрачной и понятной – доступной для лиц, не обладающих специальными знаниями в области информатики;

• •    с примерами последствий – включающей практические иллюстрации того, как переменные влияют на результат;

• •    уважающей коммерческую тайну – при том, что полное раскрытие алгоритма не требуется, если оно ущемляет защищаемые интересы оператора.

В цитируемом судебном решении получила подтверждение позиция, в соответствии с которой право на объяснение решений, принятых на основании автоматизированных ИИ-алгоритмов, – это даже не столько право информационного характера, а процедурная гарантия, тесно связанная с правом на справедливое разбирательство и эффективное средство правовой защиты. Без понимания логики решения субъект лишается возможности компетентно его оспорить. Европейский регламент об искусственном интеллекте продвинул требование прозрачности еще

72 Вестник Российского нового университета72 Серия: Человек и общество. 2026. № 2

дальше, различая системы ИИ в зависимости от уровня риска. Для систем высокого риска (включая те, что используются в рекрутинге, кредитовании, администрировании правосудия) Регламентом установлено право субъекта требовать объяснение о логике выработки решения, особенно если это решение может существенно повлиять на права человека.

На практике применения представленных принципов были выявлены как позитивный потенциал, так и сложности реализации. В некоторых случаях объяснения, генерируемые методами XAI (Explainable Artificial Intelligence – объяснимый искусственный интеллект), оказываются достаточными для удовлетворения требований соответствующих европейских регулятивов. Например, в системах рекомендации культурных предпочтений на основе истории просмотров объяснение может быть относительно простым и понятным. Однако проблемы защиты прав возникают в более сложных случаях, когда, скажем, в объяснениях, генерируемых синтетическими нейронными сетями глубокого обучения, содержатся квазиподдель-ные детали, которые, хотя и статистически валидны, но не соответствуют действительным механизмам принятия решения системой [1; 2]. В результате де-факто подложное решение с юридических позиций даже при оспаривании, включая запрос верификации процедуры принятия автоматизированного решения, будет иметь признаки законного. Соответствующие коллизии все еще требуют своего разрешения, как юридического, так и технического, даже в рамках права Европейского союза, которое с позиций регулирования ИИ может считаться одним из наиболее продвинутых, в особенности в контексте защиты персональных данных и гражданских прав.

В других юрисдикциях складывается еще более противоречивая ситуация с за- креплением и защитой прав, связанных с ИИ. Фактическая практика применения систем искусственного интеллекта в кадровом отборе, кредитовании и публичном администрировании демонстрирует, что опасения относительно алгоритмической дискриминации не являются абстрактными теоретическими рассуждениями, а составляют серьезную практическую проблему. Вопреки изначальным ожиданиям о том, что алгоритмы будут более «объективными», чем люди, они часто воспроизводят и систематизируют предубеждения, встроенные в обучающие данные; соответствующие примеры были представлены выше.

Механизмы алгоритмической дискриминации классифицированы в работе Н. Шеард [3]:

• •    дискриминация через обучающие данные – происходит в ситуации, когда система обучается на исторических данных, содержащих предубеждения. Например, если в исторических данных по поводу найма на работу женщины и мужчины получали разные отклики, алгоритм может воспроизводить дискриминацию, от которой отошли уже десятилетиями;

• •    дискриминация через прокси-переменные – возникает в случае, когда система использует переменные (раса, пол, возраст), учет которых при принятии решений прямо не запрещен законом, но коррелирует с нарушениями через прокси-механизмы. Например, пробелы в истории работы становятся «прокси» для гендера (женщины чаще берут отпуск по уходу за детьми; у них будут чаще возникать пробелы в лонгитюдности карьеры, которые по умолчанию будут восприниматься ИИ как недостатки соискателя, в результате чего многие женщины будут получать отказы в найме на работу в сравнении с заявками, направленными кандидатами мужского

Права, связанные с искусственным интеллектом, в российском правопорядке

пола). Такие ИИ-системы не содержат явных правил, дискриминирующих женщин, но фактически приводят к нарушениям через прокси-переменные;

• •    дискриминация через структуру задачи – возникает в случаях, когда даже защищенные (формально неизменяемые) признаки исключены из модели, однако система может содержать встроенные смещения, если, например, целевая переменная смещена. Так, в тех случаях, когда определенная группа была исторически недостаточно представлена в перечне отбираемых кандидатов (например, недавние выпускники), данная ситуация будет вновь воспроизведена в алгоритме принятия автоматизированного решения, применение которого, к примеру, приведет к механическому отклонению резюме самого талантливого молодого соискателя;

• •    структурная дискриминация – возникает тогда, когда интеллектуальная система сама создает новые формы дискриминации против маргинализированных (по сгенерированному определению) групп, которым не хватает ресурсов для полноценного участия в цифровизированном процессе. Например, для прохождения онлайн-интервью исключаются кандидаты, не имеющие персонального компьютера или направившие резюме по специфическому каналу. Напротив, с помощью ИИ-консал-тинга другие кандидаты, которые заведомо уступают другим, смогут «нормализовать» заявку и резюме, получив необоснованные преимущества;

• •    намеренная дискриминация – система может быть сознательно сконфигурирована для отклонения определенных групп.

Правовые последствия алгоритмической дискриминации в США предопределяются нарушениями множества актов, включая законодательство о гражданских правах, о запрете дискриминации по признаку возраста, о защите прав инвалидов, а в Европейском союзе применяются директивы о недискриминации и GDPR. В то же время в нашей стране применение алгоритмических систем в рекрутинге находится фактически в «серой» зоне правового регулирования. Несмотря на возможность применения общих норм трудового законодательства и законодательства о персональных данных, фактически не сложилась практика преследования за алгоритмическую дискриминацию. А.С. Кашлакова [4] указывает, что необходимо внесение специальных норм в Трудовой кодекс РФ, которые бы прямо запрещали применение алгоритмических систем, обученных на смещенных данных или содержащих дискриминационные критерии. Однако на момент подготовки настоящего исследования подобные новации в отечественном трудовом законодательстве отсутствуют. А риски ИИ-дискриминации, безусловно, намного шире отношений по найму персонала и трудовых отношений вообще.

Действующее российское законодательство содержит ряд норм, которые можно интерпретировать как относящиеся к праву на объяснимость ИИ-решений, однако эти нормы разрозненны, не скоординированы и недостаточны для обеспечения эффективной защиты этого права. Так, в соответствии со ст. 16 Федерального закона РФ от 27.07.2006 № 152-ФЗ (ред. от 24.06.2025) «О персональных данных»1,

74 Вестник Российского нового университета74 Серия: Человек и общество. 2026. № 2

запрещается принятие на основании исключительно автоматизированной обработки персональных данных решений, порождающих юридические последствия в отношении субъекта персональных данных или иным образом затрагивающих его права и законные интересы, за исключением установленных случаев (при наличии согласия в письменной форме субъекта персональных данных или в случаях, предусмотренных федеральными законами). Оператор обязан разъяснить субъекту персональных данных порядок принятия решения на основании исключительно автоматизированной обработки его персональных данных и возможные юридические последствия такого решения, предоставить возможность заявить возражение против такого решения, а также разъяснить порядок защиты субъектом персональных данных своих прав и законных интересов.

Соответствующие нормы появились в текущей редакции цитируемого закона еще с 2011 года, то есть в период, который можно называть де-факто доалгоритми-ческой эпохой, и в силу этого не в полной мере соответствуют интересам защиты «новых» прав, связанных с искусственным интеллектом. В частности, не определено четко, какое объяснение должно предоставляться заявителю, каковы санкции за непредоставление должного объяснения. Кроме того, представленные ре-гулятивы относятся только к обработке персональных данных, но не охватывают ситуации, в которых ИИ принимает решения на основе других источников информации (например, открытых данных, социальных сигналов).

Положения документов стратегического планирования, а также национальных стандартов и этических правил в силу известных причин не образуют действенно- го механизма гарантий защиты прав, связанных с искусственным интеллектом. А в ближайшей перспективе правоприменительной практики российские суды будут сталкиваться с проблемами, с которыми уже столкнулись правоприменители за рубежом. Одной из ярких проблем в предметной области выступает проблема «черного ящика»: сложные нейронные сети и модели глубокого обучения часто используются без возможности объяснения их решений; суды не понимают, как алгоритм принимает решение, что лишает судебную систему возможности контролировать применение ИИ. В перспективе также актуализируется проблематика отсутствия эффективного средства правовой защиты – даже если гражданин получит объяснение о принятом ИИ решении, остается неясным, какие меры могут быть предприняты, если объяснение его не удовлетворило, или само решение оказалось дискриминационным.

Право на человеческое вмешательство

Право на человеческое вмешательство тесно связано с правом на объяснимость, но не совпадает с ним, потому вопросы защиты такого права, связанного с ИИ, требуют самостоятельного рассмотрения. Если право на объяснимость предполагает право на информацию, то право на человеческое вмешательство подразумевает право на пересмотр и переоценку решения, принятого алгоритмом, человеком, обладающим дискреционной властью и способным учесть обстоятельства, которые упустила система искусственного интеллекта.

Формулировка такого права и мер его защиты, как и в случае с правом на объ-яснимость, лучшим образом реализована в законодательстве ЕС – с поправкой на то, что в других юрисдикциях зачастую

Права, связанные с искусственным интеллектом, в российском правопорядке

вовсе отсутствуют даже рамочные нормы в данной области. В ст. 22 GDPR содержится положение о том, что лицо имеет право потребовать человеческого вмешательства в автоматизированное решение, которое производит правовые последствия. Это означает, что может потребоваться пересмотр решения в ручном режиме. Расширение данного правила в AI Act связано с установлением в ст. 86 положения о том, что операторы систем высокого риска в обязательном порядке должны предусмотреть наличие механизма обжалования и пересмотра решения человеком.

В России право на человеческое вмешательство не получило четкого закрепления в законодательстве, судебная практика по данному вопросу минимальная. Отечественные суды традиционно рассматривали вопросы дискриминации через призму нарушения прав человека в соответствии с Конституцией РФ и законодательством о противодействии дискриминации. Однако в век ИИ данные подходы требуют адаптации, поскольку источник дискриминации может быть встроен в алгоритм на этапе разработки или обучения системы на смещенных данных.

Практические аспекты права на человеческое вмешательство сложнее, чем его формальное признание (которое все еще необходимо закрепить в законодательстве), и включают следующие проблемы:

• •    проблема компетентности – опосредуется вопросом о том, кто является «человеком», – не алгоритмическим субъектом, уполномоченным пересмотреть решение алгоритма, например, служащим организа-

• ции, принимающей решение, либо судьей, или же специалистом по ИИ. Не все обладают необходимой компетентностью для осмысленного пересмотра сложного алгоритмического решения;

• •    проблема времени и затрат – пересмотр каждого алгоритмического решения человеком может быть экономически неэффективным, особенно когда система принимает миллионы решений ежедневно, что создает давление в направлении символического, а не подлинного человеческого вмешательства. Подобные пересмотры могут затягивать и судебный процесс, что уже граничит с нарушениями конституционного права на судебную защиту;

• •    проблема дисклеймеров (коротких заявлений, в которых разъясняются ограничения, условия использования информации и которыми с субъектов снимаются определённые виды ответственности перед пользователями) – зарубежные суды иногда принимают дисклеймеры от органов, утверждающих, что, хотя решение было принято с использованием алгоритма, человек все равно принял бы то же самое решение. Верховный суд США в решении о системах риск-оценки в уголовной юстиции выразил озабоченность, но не отменил решение, требуя лишь дополнительных дисклеймеров об объективности¹;

• •    проблема судебного контроля – суды должны быть готовы к квалифицированной оценке алгоритмических решений. Это требует либо обучения судей, либо привлечения экспертов. Особо важно для корректной имплементации инноваций установить четкие пределы допустимого использования алгоритмов в судебной системе.

76 Вестник Российского нового университета76 Серия: Человек и общество. 2026. № 2

Научно-практические рекомендации по развитию российского законодательства в сфере ИИ

С учетом изложенного может быть предложен комплекс научно-практических рекомендаций, образующих контуры дорожной карты по развитию российского законодательства и практики правоприменения в сфере защите прав, связанных с искусственным интеллектом:

• 1)    принятие специального закона о регулировании ИИ, в котором должны содержаться четкие определения, требования к разработчикам и операторам ИИ, включая обязательность обеспечения объ-яснимости и права на человеческое вмешательство;

• 2)    внесение изменений в трудовое законодательство, в которое надлежит включить специальные нормы, устанавливающие запрет на использование алгоритмических систем при найме, которые не были протестированы на предмет дискриминации, и требующие письменного объяснения причин отклонения кандидатуры, если оно принято с использованием ИИ;

• 3)    уточнение норм законодательства о защите персональных данных, включая, в частности, четкое определение минимального содержания объяснения и обжалования принятых алгоритмических решений, сроков предоставления объяснений и санкций за нарушения;

• 4)    установление требований к объяс-нимости в государственном управлении, включая правило о том, что органы государственной власти, использующие ИИ при принятии решений, затрагивающих права граждан, обязаны предоставлять объяснение логики работы алгоритма в форме, понятной среднему гражданину;

• 5)    включение в административное процессуальное законодательство специаль-

• ной процедуры обжалования – подачи жалобы на алгоритмические решения, включая сроки рассмотрения и обязательность пересмотра решения человеком в случае поступления жалобы;

• 6)    развитие судебной практики – важно выработать и закрепить в руководящих разъяснениях высшей судебной инстанции устойчивый подход к оценке объяснимо-сти и к контролю алгоритмических решений с опорой на международные стандарты и передовую практику в предметной области.

Право на объяснимость и право на человеческое вмешательство в искусственном интеллекте представляют собой неотъемлемые компоненты современной системы защиты прав человека. Практика применения алгоритмических систем в кадровом отборе, кредитовании и государственном управлении продемонстрировала, что в отсутствие нормативного закрепления гарантий данных прав субъекты правоотношений, и прежде всего граждане, подвергаются риску дискриминации и произвольного обращения, не совместимых с принципами надлежащего функционирования правового государства.

Имплементация представленных в работе научно-практических рекомендаций по совершенствованию российского законодательства и правоприменительной практики призвана гармонизировать правовое регулирование с международными стандартами и обеспечить эффективную защиту прав человека в условиях стремительного развития технологий искусственного интеллекта. Без реализации предложенных мер риск того, что код станет недемократическим регулятором, а граждане и организации будут подвергаться произвольным и необъяснимым алгоритмическим решениям, значительно возрастает.

Права, связанные с искусственным интеллектом, 77в российском правопорядке 77