Проблемы правового регулирования ИИ-усиленного фишинга и социальной инженерии для обеспечения цифровой безопасности

Введение .

Процесс глобализации, затрагивающий все сферы жизни современного общества, в значительной мере отразился в цифровизации, уже ставшей неотъемлемой частью развития человечества. Этико-моральные, социальноэкономические и иные проблемы появления и развития искусственного интеллекта (ИИ) неоднократно рассматривались [1] и, несомненно, будут рассматриваться в будущем, как одна из философских проблем современности.

Несмотря на кажущиеся очевидными плюсы данного процесса, необходимо обратить внимание на проблему неизбежных сопутствующих ему угроз, в частности, на вопрос безопасности цифровой среды.

Своеобразная ирония современных процессов в том, что в числе лидирующих направлений использования ИИ-технологий – это сфера безопасности [2, с. 7–8].

Человечеству, по сути, уже совсем скоро придётся жить в мире, где различить живых социальных существ от их цифровых двойников возможно будет лишь в том случае, когда сам ИИ будет сообщать об этом согласно заложенной в него программе [3, с. 97].

Глобализация и сопутствующая ей цифровизация не могли не повлиять на состояние и развитие транснациональной преступности: вопросы кибербезопасности выходят за пределы отдельных стран, перерастая в проблему мирового уровня.

Кибератака, инициированная территориально в одной стране, способна найти своих жертв по всему миру.

Преступность реально перестала иметь территориальные, этнические и другие границы. Особую актуальность проблема киберпреступности приобретает с развитием генеративного искусственного интеллекта – технологии, открывающей новые горизонты прогресса, и в то же время создавая беспрецедентные угрозы информационной безопасности.

Цель настоящей работы выявить пробелы в ответственности платформ (социальные сети, email-сервисы, облачные провайдеры) и операторов ИИ (разработчиков и пользователей моделей), а также предложить пути совершенствования законодательства.

Обсуждение . Результаты .

Сегодня ИИ перестал быть инструментом будущего, изменяя ландшафт киберугроз в режиме реального времени. Генеративный ИИ уже сейчас активно используется злоумышленниками для реализации гиперперсонализированных фишинговых (фисшинг – кража личных данных: логинов, паролей, реквизитов банковских карт и т.п.) атак, создания голосовых клонов (voice cloning), генерации deepfake-видео (deepfake, дипфейк – создание реалистического изображения, видео и аудио с помощью нейросетей, фальшивого по своей сути) и автоматизации многоэтапных схем социальной инженерии.

Масштаб угрозы подтверждается статистикой: в 2025 году количество успешных фишинговых атак увеличилось на 400 %, при этом 82,6 % фишинговых писем содержали элементы, созданные с помощью ИИ. Прогнозируемые потери от мошенничества с использованием генеративного ИИ ( GenAI -фрод) уже к 2027 году могут достичь 40 млрд долларов [4].

Количество киберпреступлений с использование дипфейков возросло в России в 26 раз, только за первые пять месяцев 2026 года похищено не менее 2 млрд. рублей [5].

По данным аналитиков компании «Код Безопасности», среднее время между моментом проникновения злоумышленника в корпоративную сеть и его обнаружением обнаружения (Mean Time to Detect, MTTD) для российских компаний составляет 42 дня – вполне достаточный срок для изучения инфраструктуры, повышения привилегий, копирования данных и установки бэкдоров (получение несанкционированного доступа к системе) [6].

Развитие генеративных моделей радикально изменило ландшафт киберугроз. Если ранее социальная инженерия опиралась на интуицию и стандартные шаблоны, то сегодня алгоритмы анализируют открытые данные для создания максимально убедительных сценариев обмана. Реальные примеры атак по всему миру:

Австралия, 2024. Злоумышленники использовали voice cloning для имитации голоса CEO крупной строительной компании. Они позвонили финансовому директору и убедили перевести 3,2 млн на «срочный контракт». Голос был настолько убедительным, что жертва не заподозрила подмены.

Индия, 2025. В ходе политической кампании распространили deepfake-видео с кандидатом, произносящим экстремистские высказывания. Ролик набрал 5 млн. просмотров за 6 часов, вызвав массовые беспорядки в нескольких штатах.

Германия, 2024. Банк потерял 1,8 млн евро после того, как мошенники использовали deepfake видео для подтверждения крупной транзакции. Система верификации не обнаружила подмены.

США, 2025. Компания по производству медицинского оборудования стала жертвой ИИ-фишинга: злоумышленники сгенерировали письмо от имени партнёра с просьбой обновить платёжные реквизиты. Ущерб составил 7,5 млн.

Россия, 2025. Зафиксирован рост атак с использованием голосовых клонов: в первом квартале

2025 года количество таких инцидентов выросло на 250% по сравнению с аналогичным периодом 2024 года. Особенно часто подделывали голоса руководителей банков и госорганов.

Яркий пример инцидент с компанией Arup [7] в 2024 году, когда сотрудник перевёл 25 млн долларов после видеозвонка с deepfake-версиями CFO и юристов. Этот случай показал: ИИ-атаки больше не гипотетическая угроза, а реальность, с которой сталкиваются организации по всему миру.

Следует отметить некий парадокс современности: технологии, в том числе и цифровые, развиваются глобально, а правовое регулирование продолжает оставаться национально фрагментированным. В этой связи следует отметить формирование принципиальных подходов к решению данного вопроса, вот лишь некоторые из них.

Европейский Союз . ЕС принял наиболее продвинутый риск-ориентированный подход – AI Act [8] (вступает в силу поэтапно, полное применение с августа 2026):

– Deepfakes и синтетический контент отнесены к «limited-risk» системам;

– Провайдеры обязаны обеспечивать machine-readable маркировку (водяные знаки) и детекти-руемость (ст. 50(2));

– Deployers (операторы) должны раскрывать факт искусственного происхождения контента пользователям (ст. 50(4)). Исключения – только для правоохранительных целей;

– Запрещены манипулятивные техники, искажающие поведение (ст. 5).

AI Act взаимодействует с DSA (Digital Services Act): платформы несут ответственность за модерацию вредоносного контента, включая ИИ-фишинг. Штрафы – до 3 % общего оборота, или 15 млн евро.

Соединенные Штаты Америки. Регулирование фрагментарно (штаты + федеральный уровень). Ключевой акт, регулирующий данный вопрос – TAKE IT DOWN Act [9] (май 2025):

– криминализирует публикацию неконсенсуальных интимных deepfakes (до 2–3 лет лишения свободы);

– платформы обязаны удалять контент в течение 48 часов по notice-and-takedown.

Законы о deepfakes приняли 46 штатов (с 2022 года). Предложен Deepfake Liability Act (H.R.6334, 2025), ограничивающий иммунитет платформ по Section 230 за добросовестное отключение вредоносного контента [10]. FTC (Федеральная торговая комиссия, США) преследует deceptive AI-claims (обманные заявления об искусственном интеллекте) (Operation AI Comply)

[11]. Однако федерального всеобъемлющего закона нет. Executive Order 2025 (« Обеспечение подотчётности всех агентств » , Указ Президента США Д. Трампа) лишь задаёт направление для национальной рамки регулирования проблемы.

Российская Федерация . В России регулирование ИИ носит рамочный характер – как набросок будущего здания без несущих конструкций. Среди основных документов, регулирующих данный вопрос, можно выделить:

– Указ Президента от 10 октября 2019 г. № 490 [12], утвердивший Национальную стратегию развития искусственного интеллекта до 2030 года. – задают общие ориентиры, но не содержат конкретных санкций;

– Федеральный закон от 24 апреля 2020 г . № 123-ФЗ [13] – экспериментальное регулирование ИИ в Москве. Представьте: город становится полигоном для тестирования правил, которые потом могут распространиться на всю страну;

– Кодекс этики ИИ (2021) – носит рекомендательный характер [14]. Это как свод хороших манер: полезно, но не обязательно к исполнению.

Проблема в том, что отдельной ответственности за ИИ-фишинг нет. Deepfakes подпадают под:

– ст. 207.1 УК РФ (распространение заведомо ложной информации);

– ст. 152.1 ГК РФ (использование изображения гражданина без согласия).

Но эти нормы создавались до эпохи генеративного ИИ и плохо подходят для новых угроз. Например, deepfake-видео с «выступлением» чиновника может формально подпасть под ст. 207.1, но доказать умысел и связь с конкретным злоумышленником крайне сложно.

Сейчас обсуждаются законопроекты:

– об обязательной маркировке ИИ-контента (штрафы от 10 до 500 тыс. руб.);

– о запрете deepfakes для мошенничества.

Платформы несут общую ответственность в соответствии с Федеральным законом «Об информации» [15] (обязанность удалять противоправный контент), но без учёта специфики ИИ-атак.

Такая несогласованность создаёт лазейки для злоумышленников: атаки могут запускаться из юрисдикций с мягким регулированием, а экстрадиция преступников затруднена, а по сути – чаще всего и невозможна. Развитие генеративного искусственного интеллекта (ИИ) выявило ряд существенных пробелов в правовом регулировании, особенно в части ответственности операторов ИИ разработчиков, владельцев и пользователей моделей, которые могут быть использо-

ваны для создания вредоносного контента (фишинг, deepfake, дезинформация и др.). Среди основных проблем глобальной кибербезопасности можно выделить следующие:

– отсутствие чёткой и прямой ответствен ности за foreseeability misuse (предсказуемое неправомерное использование): Операторы ИИ (разработчики моделей) могут быть привлечены к ответственности, если последствия использования их продукта были предсказуемы. Но доказать причинно-следственную связь почти невозможно. Например, компания выпустила языковую модель, которую затем использовали для генерации фишинговых писем. Утверждение разработчика: «Мы не могли предвидеть, что кто-то применит наш инструмент для мошенничества». И будет прав – ведь модель действительно создавалась для написания текстов, а не для обмана [16]. Таким образом, операторы не мотивированы внедрять дополнительные меры безопасности и контроля;

– иммунитет платформ и операторов за пользовательский контент: в ряде юрисдикций (например, США – Section 230 и аналогичные нормы) защищают платформы и операторов ИИ от ответственности за контент, созданный пользователями, даже если он вредоносен. Платформа, предоставляющая доступ к генеративной модели, не несёт ответственности за deepfake, созданный пользователем, если не доказано прямое соучастие. Пока нет обязательного proactive detection ИИ-фишинга, соцсети и email-сервисы не обязаны искать deepfakes – только удалять их по жалобе. Как следствие – отсутствие стимулов для проактивного мониторинга и удаления вредоносного ИИ-контента;

– технические сложности: водяные знаки можно обойти, а атрибуция атак затруднена. Например, злоумышленник арендует ИИ-сервис на даркнете (AI-as-a-service), проводит атаку и стирает следы. Найти его почти невозможно;

– фрагментарность и отставание законо дательства от темпов технологического прогресса: законы принимаются годами, а ИИ-инструменты обновляются ежемесячно. В результате нормативная база не успевает охватить новые формы угроз. Например, в России (как и большинстве других стран) отсутствуют специальные составы преступлений за ИИ-усиленное мошенничество или создание deepfake с целью обмана. Таким образом, правоохранительные органы вынуждены применять устаревшие нормы (например, о мошенничестве или клевете), которые не учитывают специфику ИИ;

– отсутствие международных стандартов и недостаток в обмене данными об угрозах и координации правоприменения. Кроме того, оператор ИИ, как правило, находится в одной стране, атака совершается из другой, а жертвы – по всему миру. Экстрадиция и правоприменение осложнены различиями в законах, что создает лазейки для злоумышленников и отсутствие гло- бальной координации. Экстрадиция в таких случаях – редкость, а законы разных стран противоречат друг другу;

– сложности доказывания причинно следственной связи: крайне сложно доказать, что конкретный оператор ИИ несёт ответственность за ущерб, причинённый вредоносным контентом, особенно если модель была модифицирована или использована через посредников. Например, злоумышленник арендует ИИ-сервис на теневом рынке, проводит атаку и стирает следы. Доказать связь между оператором и преступлением практически невозможно. Отсюда – низкий уровень привлечения к ответственности и высокий уровень безнаказанности;

– недостаточная прозрачность и отсут ствие реестров: нет обязательных реестров ИИ-моделей и требований к прозрачности их работы, поэтому невозможно отследить, кто и какие модели использует для генерации вредоносного контента, что крайне затрудняет расследование инцидентов и привлечение к ответственности;

– иммунитет за « добросовестное » отключе ние контента: даже если платформы обязаны удалять вредоносный контент по жалобам, они не несут ответственности за его появление, если действуют «добросовестно». Так, платформа удаляет deepfake после жалобы, но не обязана искать такие материалы проактивно, отсюда – замедленная реакция на угрозы и высокий риск распространения вредоносного контента до момента удаления;

– доступность инструментов: на даркнете deepfake-сервисы предлагаются по цене от 50 долл. за пакет из 10 видео, а фишинговые боты – от 20 долл. в месяц. И перечисленное – только знаковые проблемы из существующих.

Проведенный анализ глобальных тенденций в развитии ИИ-угроз позволяет сделать вывод о необходимости комплексного подхода в их урегулировании, который должен сочетать:

• 1)    технические меры (маркировка ИИ-контента, AI-detection (процесс обнаружение искусственного интеллекта);

• 2)    правовые механизмы (классификация рисков, ответственность платформ);

• 3)    международное сотрудничество (гармонизация норм, обмен сигнатурами угроз).

Таким образом, для решения поставленной задачи и минимизации рисков, на наш взгляд, необходимо акцентировать внимание на следующих вопросах:

Трансформация киберугроз под влиянием генеративного ИИ: конкретные примеры атак и их последствия.

Текущее состояние правового регулирования в ключевых юрисдикциях (ЕС, США, Россия) – с акцентом на пробелы и противоречия.

Предложения по совершенствованию законодательства на национальном и международном уровнях, включая:

• –    введение обязательной маркировки ИИ-контента;

• –    создание реестров ИИ-моделей;

• –    разработку механизмов ответственности платформ и операторов ИИ;

• –    формирование международной конвенции по борьбе с ИИ-угрозами.

Развитие генеративного ИИ знаменует собой переход к новой эре киберугроз. Раньше мошенники полагались на интуицию и общие шаблоны. Сегодня алгоритмы анализируют открытые данные из соцсетей, профессиональных сетей и публичных баз, чтобы создать убедительный сценарий атаки. То, что несколько лет назад могло произойти в фантастических шпионских фильмах, в настоящий момент уже не удивляет: звонок начальника, абсолютно узнаваемый убедительный голос с привычными интонациями с просьбой срочно перевести деньги, или сообщение от коллеги с убедительной просьбой открыть вложение – текст написан в его стиле, с привычными оборотами речи. Сегодня это реальность – и всё благодаря генеративному искусственному интеллекту [17].

Технологии, созданные для упрощения жизни, теперь помогают злоумышленникам: сущность и масштабы ИИ-усиленного фишинга и социальной инженерии поражают уже в настоящий момент.

Проблема заключается в том, что ИИ-усиленный фишинг – это не просто «более умные» письма. Это целый набор технологий:

• –    генерация текста – большие языковые модели (LLM) создают убедительные email и SMS, копируя стиль конкретного человека. Представьте: ИИ анализирует 10 писем вашего коллеги и пишет новое – так, будто его написал он сам;

• –    синтез аудио и видео – voice cloning позволяет клонировать голос за секунды, а deepfakes создают реалистичные видео;

• –    автоматизированные кампании – AI-боты рассылают тысячи персонализированных сообщений, адаптируя сценарий под реакцию жертвы;

  – социальная инженерия эволюционировала в « agentic AI»- атаки: системы самостоятельно проводят многоэтапные схемы обмана – создают фейковые аккаунты, обходят двухфакторную аутентификацию (MFA), выстраивают доверительные отношения с жертвой.

Заключение .

Традиционные меры защиты – спам-фильтры, двухфакторная аутентификация – теряют эффективность против персонализированных атак. Представьте: вы получаете письмо от «друга» с видеосообщением. Фильтр не видит угроз – письмо не содержит вредоносных ссылок, а видео выглядит реальным. Но это deepfake, созданный за минуты.

Существующие юридические пробелы позволяют операторам ИИ избегать ответственности за создание и распространение вредоносного контента.

Для их устранения, на наш взгляд, необходимо предпринять следующие меры.

• 1.    Введение ( усиление ) прямой ответствен ности за предсказуемое неправомерное использование: снятие иммунитета платформ за систематическое игнорирование угроз и введение ответственности платформ за непринятие мер по выявлению и удалению ИИ-фишинга и deepfake, аналогично подходу Deepfake Liability Act (США). В России – дополнение законодательства нормами, предусматривающими административную и гражданско-правовую ответственность за не-удаление или несвоевременное удаление вредоносного ИИ-контента [18].

• 2.    Введение субсидиарной ответственности операторов ИИ: операторы (владельцы и разработчики моделей) должны нести ответственность за отсутствие необходимых мер предосторожности ( safeguards ), если их продукт был использован для совершения преступлений. Внедрение требования о наличии « kill switch » (механизма экстренного отключения модели) и ведения журналов действий ( logging ).

• 3.    Создание реестров ИИ - моделей:

• 4.    Внедрение технических стандартов про зрачности и маркировки:

во-первых, создание Государственных реестров ИИ-моделей, ведение открытых или ограниченных реестров, позволяющих отслеживать, кто и какие генеративные модели использует, с целью оперативного реагирования на инциденты;

во-вторых, создание Международной базы сигнатур ИИ-контента и формирование единой международной базы данных deepfake и других вредоносных ИИ-материалов для ускорения их обнаружения и блокировки [19].

• а)    все материалы, созданные с помощью генеративного ИИ, должны содержать машиночита емые метки (водяные знаки), позволяющие автоматически идентифицировать их искусственное происхождение. Исключение – только для случаев, связанных с правоохранительной деятельностью;

• б)    внедрение систем автоматического обнаружения ИИ-фишинга и deepfake. Платформы (социальные сети, почтовые сервисы, мессенджеры) обязаны интегрировать AI-detection инструменты для выявления и блокировки вредоносного контента. Внедрение механизмов proactive detection (проактивного обнаружения), а не только реагирования по жалобам пользователей.

• 5.    Образовательные и научные инициативы:

• а)    обучение судей и следователей особенностям дел с участием ИИ, проведение специализированных курсов для представителей судебной системы и правоохранительных органов;

• б)    государственная поддержка разработки технологий защиты, выделение грантов и субсидий на исследования в области deepfake detection, атрибуции атак и создания новых методов защиты.

Однако для эффективного противодействия ИИ-угрозам требуется согласование усилий на международном уровне.

Как нам представляется, для разрешения данной проблемы, а также для формирования единой и действенной системы необходимо предпринять следующие шаги:

Данная Конвенция должна определять:

• – критерии отнесения ИИ-систем к категориям риска;

  – обязательные требования к прозрачности, маркировке и аудиту моделей;

  – механизмы привлечения к ответственности за создание и распространение вредоносного контента [20].

• 2.    Гармонизация национальных законода тельств:

• а)    страны должны привести свои законы к единому стандарту, исключив лазейки, связанные с различиями в регулировании (например, иммунитет платформ, отсутствие ответственности за foreseeability misuse).Внедрение единых опреде-

• лений deepfake, ИИ-фишинга, генеративного контента и связанных с ними правонарушений;

• б)    взаимное признание решений, создание механизмов признания судебных решений по делам, связанным с ИИ-угрозами, между странами-участницами [21].

• 3.    Формирование глобальной системы обмена данными об угрозах:

• а)    создание единой базы данных вредоносных ИИ-материалов ( deepfake , фишинговые письма, голосовые клоны), доступной для правоохранительных органов и платформ всех стран;

• б)    внедрение защищённых каналов для обмена данными о новых угрозах, методах атак и технических средствах их выявления.

• 4.    Установление единых технических стан дартов:

• а)    введение международного стандарта маши ночитаемых меток (водяных знаков) для всего контента, созданного с помощью генеративного ИИ;

• б)    обязательное внедрение систем автоматического обнаружения ИИ-фишинга и deepfake на всех цифровых платформах с глобальным охватом и введение единых сроков реагирования на выявленные угрозы (например, 24 часа на удаление вредоносного контента).

• 5.    Совершенствование механизмов междуна родного сотрудничества:

• а)    разработка специальных соглашений о выдаче лиц, причастных к трансграничным ИИ-преступлениям;

• б)    создание международных следственных групп для расследования сложных киберпреступлений с использованием ИИ.

• 6.    Развитие образовательных и научных ини циатив:

• а)    организация международных программ повышения квалификации для судей, следователей, экспертов по цифровым доказательствам;

• б)    выделение совместных грантов на разработку технологий обнаружения вредоносного ИИ-контента и методов атрибуции атак.

Только комплексный подход, основанный на международном сотрудничестве, гармонизации законодательства и внедрении единых технических стандартов, позволит эффективно распределить ответственность между операторами и платформами, что позволит минимизировать глобальные ИИ-угрозы и сохранить доверие к цифровой среде.