Анализ преступлений с помощью «слабого» искусственного интеллекта на примере беспилотных автомобилей

Введение .

Развитие современных технологий, включая с искусственный интеллект, активно внедряются в различные сферы жизни. Слабый искусственный интеллект используется везде в создании видео, обработке звука. Стоит отметить, что данная технология стала использоваться и в автомобилях.

Искусственный интеллект стал внедряться в транспортные средства с целью облегчение управлениями ими, но поэтому злоумышленники стали использовать это в своих целях

Одной из ключевых особенностей преступлений с применением слабого ИИ в беспилотных автомобилях является эксплуатация уязвимостей алгоритмов и датчиков. Поскольку такие системы работают на основе заранее заданных данных и шаблонов, злоумышленники могут манипулировать их работой.

Обсуждение .

Технологии автономного вождения активно развиваются, и над ними работают такие компании, как Tesla, Uber, Toyota, Nvidia и Apple. В России уже внедрены беспилотные транспортные средства в 2025 году в виде грузовых автомобилей на федеральной трассе М-11. Эти автомобили должны повысить безопасность дорожного движения и снизить зависимость от человеческого фактора, однако, пока общество относится к ним с осторожностью, поскольку в мире случаются аварии, вызванные сбоями в электронике.

Хотя машины с искусственным интеллектом становятся умнее, полагаем, что полностью доверять им управление пока рано. Чрезмерно использование автопилота может привести к серьезным последствиям, потому что люди из-за этого теряют концентрацию внимания, и как следствие, случается ДТП. Основными причинами аварии являются технические неполадки – например, датчики могут не сработать из-за яркого солнца или программных ошибок.

В 2022 году было принято постановление правительства РФ № 1849 от 17 октября 2022 года, регулирующее запуск проекта «Беспилотные логистические коридоры» на трассе М-11 «Нева». Для участия в этой программе транспортные средства компаний-разработчиков должны были соответствовать ряду строгих требований.

Во-первых, автомобиль должен быть официально зарегистрирован в базе данных МВД как беспилотное транспортное средство.

Во-вторых, грузовик обязан пройти всестороннюю проверку на соответствие стандартам безопасности, которую проводит ФГУП «НАМИ».

Важнейшим условием является обязательное присутствие в кабине инженера-испытателя, который в случае возникновения нештатной ситуации сможет взять управление на себя, и 23 сентября 2024 года данный коридор был открыт по всей трассе.

Однако даже при соблюдении всех этих мер предосторожности полностью исключить вероятность аварий невозможно. Это закономерно вызывает вопрос о распределении ответственности при ДТП с участием беспилотников. В каждом конкретном случае вина может быть возложена на разных участников процесса в зависимости от причин происшествия.

В законодательстве РФ на данный момент высокоавтоматизированные транспортные средства относятся к автомобильному транспорту, без особых разграничений. В связи с этим, согласно статьей 1079 ГК РФ, ответственность за вред, причинённый таким видом транспорта, несут его владельцы, независимо от того, повлияла ли каким-либо образом на произошедшее программа, управляющая автомобилем. Говорить о полной ответственности владельца ВАТС за решения, принятые ИИ, не является правильным с точки зрения справедливости [3].

Преступления с участием беспилотных автомобилей могут принимать различные формы. Одним из наиболее опасных сценариев является использование взломанного автотранспорта для террористических актов, когда автомобиль превращается в управляемое ударное устройство. Также возможны случаи контрабанды, когда преступники загружают в беспилотник запрещенные грузы (наркотики, оружие), а система доставляет их без участия человека. Еще одним направлением преступной деятельности является мошенничество в сфере страхования, когда владельцы или третьи лица намеренно провоцируют аварии с участием автономных транспортных средств для получения страховых выплат.

В 2025 году Министерство транспорта РФ разработало проект закона, который вступит в силу 1 сентября 2025. Он подразумевает, что в случае ДТП, повлекшего причинение вреда здоровью третьих лиц или окружающей среде, ответственность будет нести владелец автомобиля, а в некоторых случаях, возложена ответственность на производителя машины или на диспетчера.

Приведем пример, где данное происшествие стоит рассмотреть в контексте темы, так как произошел не сбой работы автопилота, а в работе определения объекта.

В 19 марта 2018 года в американском городе Темпе произошло ДТП с участием автономного такси Uber. Беспилотный Volvo, двигавшийся со скоростью 61 км/ч, не смог правильно идентифицировать 49-летнюю велосипедистку, появившуюся на неосвещенном участке дороги – система ошибочно классифицировала ее как незначительный объект. Находившийся на месте водителя оператор также не успел среагировать, что привело к гибели женщины. Этот инцидент стал первым в истории зафиксированным смертельным случаем с участием автономного транспортного средства [8].

Исходя из представленного примера и инцидента по статье 109 УК РФ (причинение смерти по неосторожности), деяние выражается в бездействии разработчика системы автономного управления: он не учел возможность некорректной идентификации велосипедиста в темное время суток на неосвещенном участке дороги, что привело к тому, что датчики автомобиля не сработали на человека. Субъектом преступления здесь выступает именно разработчик, поскольку он, в силу своей профессиональной обя- занности, должен был обеспечить правильное распознавание пешеходов и велосипедистов. Форма вины – неосторожность в виде преступной небрежности: разработчик не предвидел возможности наступления смерти, хотя при необходимой внимательности и предусмотрительности должен был и мог предвидеть, что ошибочная классификация человека как «незначительного объекта» приведет к трагическим последствиям. Причинная связь между бездействием разработчика и смертью женщины устанавливается как прямая последовательность: из-за некорректного алгоритма система не распознала велосипедистку и не дала команду на торможение, автомобиль продолжил движение с прежней скоростью 61 км/ч, оператор не успел вмешаться, произошел наезд, повлекший гибель потерпевшей; если бы разработчик надлежащим образом реализовал функцию идентификации, автомобиль затормозил бы, и смерть не наступила бы.

Приведем примеры, которые произошли именно в России. Инцидент с беспилотником «Яндекса» в ноябре 2019 года, когда автомобиль вовремя не смог затормозить и совершил столкновение [4]. Поскольку в момент аварии управление осуществлялось вручную, виновным признали водителя-испытателя. Возможно, здесь имел место обоснованный риск (ст. 41 УК РФ).

10 августа 2019 года произошла авария, причиной которой стал автопилот. Автомобиль марки «Tesla» врезался в «Газель», водитель грузовика, получил перелом ноги, также там находились 2 ребенка, которые получили сотрясение мозга [7]. Данное происшествие можно было бы квалифицировать по ст.238 ч. 1, ст. 264 УК РФ. Но кто же виноват в данной ситуации? Водитель или производитель? На наш взгляд, здесь авария произошла по вине производителя, так как причиной аварии стало то, что датчик в беспилотном автомобиле «Tesla» не опознала «Газель» как объект, здесь явно видно недоработку разработчика.

Отдельной проблемой являются кибератаки на устройства. В 2015 году хакеры смогли взломать систему, остановить автомобиль на скорости 110 км/ч. Данное событие вынудило производителя отозвать 1,4 млн машин для устранения уязвимости. Данный случай показал, что ни одна система не гарантирует защиты [12].

В случае с беспилотником «Яндекса» в ноябре 2019 года (столкновение из-за несвоевременного торможения), деяние заключается в неправильных действиях водителя-испытателя при ручном управлении, а субъектом признан именно он; форма вины – неосторожность (нарушение правил дорожного движения или эксплуатации), однако, автор допускает наличие обоснованного риска по ст. 41 УК РФ, что исключает преступность деяния, если риск был направлен на достижение общественно полезной цели и не заведомо сопряжен с угрозой для жизни. Причин- ная связь устанавливается через то, что именно действия водителя (несвоевременное торможение) привели к столкновению, а не сбой автопилота, так как управление осуществлялось вручную.

В инциденте с автомобилем «Tesla» 10 августа 2019 года, где автопилот не опознал «Газель» как объект, в результате чего водитель грузовика получил перелом ноги, а двое детей – сотрясение мозга, деяние заключается в бездействии производителя (недоработка датчиков и алгоритмов распознавания). Субъектом, по мнению автора, является производитель (разработчик системы автопилота), а не водитель. Форма вины – неосторожность (преступная небрежность), поскольку производитель не предвидел возможность ошибочного нераспознавания грузового автомобиля, хотя при надлежащем проектировании и тестировании должен был и мог это предвидеть. Причинная связь устанавливается как прямая: из-за недостаточной работы датчиков система не идентифицировала «Газель» как объект, что привело к отсутствию торможения, столкновению и травмам; если бы производитель устранил недоработку, аварии бы не произошло. Возможна также квалификация по ст. 238 ч. 1 (оказание услуг, не отвечающих требованиям безопасности) и ст. 264 УК РФ (нарушение ПДД, но субъектом там обычно водитель, что создает коллизию).

В случае кибератаки на устройство в 2015 году (хакеры взломали систему и остановили автомобиль на скорости 110 км/ч) деяние представляет собой неправомерный доступ к компьютерной системе управления автомобилем и вмешательство в её работу, повлекшее остановку транспортного средства на высокой скорости, что создавало реальную угрозу ДТП. Субъектом являются хакеры (группа лиц, осуществивших взлом). Форма вины – прямой умысел, так как они осознавали общественно опасный характер своих действий, предвидели возможность остановки автомобиля с риском аварии и желали этого либо сознательно допускали. Причинная связь между действиями хакеров и наступившими последствиями (необходимость отзыва 1,4 млн машин для устранения уязвимости) устанавливается через то, что именно взлом выявил критическую уязвимость, которая позволила бы иным лицам повторно совершать аналогичные действия; сам по себе факт остановки автомобиля на скорости 110 км/ч не привел к аварии в данном случае, но демонстрирует реальную причинно-следственную связь между взломом и невозможностью безопасного управления автомобилем, что и побудило производителя к отзыву машин их производителем.

Данный инцидент наглядно демонстрирует три ключевые проблемы расследования аварий с участием автономных транспортных средств:

ботчике ПО, хакерах или быть следствием системного сбоя.

Стоит отметить, что полноценного самостоятельного управления беспилотными автомобилями искусственным интеллектом пока не существует. Многие производители автомобилей пытаются создать данный тип, и уже появляются модели автомобилей с самостоятельной парковкой, а также движение машины по специальной белой полосе.

Результаты .

В Уголовном кодексе РФ нет пока норм, рассчитанных специально на автономные транспортные средства. Если рассматривать, какие статьи можно использовать при определении преступлений, первым делом – это нарушения правил эксплуатации и безопасности, где ключевой является статья 264 УК РФ. Однако водитель может понести наказание, даже когда автомобиль управляется автопилотом – если он не успел или не смог вовремя среагировать на ошибку системы и предотвратить ДТП. В случае гибели людей максимальное наказание может достигать 15 лет лишения свободы по данной статье. В особо тяжких случаях, когда авария с участием беспилотного автомобиля приводит к гибели или серьезным травмам людей, к уголовной ответственности могут привлечь не только водителей, но и представителей компании-производителя. Например, инженера по безопасности могут осудить по статье 238 УК РФ за выпуск небезопасной продукции. Если в результате халатности погибнут два и более человек, максимальное наказание составит до 10 лет лишения свободы. Однако доказать вину производителя крайне сложно – для этого потребуется длительная экспертиза и тщательное расследование. Основная проблема здесь – определение субъекта преступления: кто будет нести ответственность – физическое лицо в салоне, владелец, оператор, производитель или разработчик программного обеспечения? Привлечь к ответственности по этой статье сложно без доказательств вины конкретного человека.

Также, на наш взгляд, может применяться статья 143 УК РФ, если авария произошла по вине сотрудника компании-оператора, повлекшая вред здоровью. Во-вторых, это неправомерное вмешательство в работу беспилотных автомобилей. Сюда относится статья 274.1 УК РФ, если произошла хакерская атака, которая привела к тяжким последствиям, и к этому также следует отнести статью 273 УК РФ.

Стоит отметить, что можно применить статью 213 УК РФ, если вмешательство было вызвано хулиганскими побуждениями.

Также беспилотный автомобиль можно использовать как инструмент для совершения других преступлений: транспортировка наркотиков статья 228 УК РФ или оружия статья 222 УК РФ, совершение теракта (статья 205 УК РФ) путем управляемого наезда или подрыва, незаконное пересечение границы статья 322 УК РФ. Также можно привлечь за преступления, связанные с данными, генерируемыми беспилотным автомобилем: сбор или передача персональных данных.

Квалификация таких деяний по УК РФ сталкивается с серьезными проблемами.

Первая и главная – проблема субъекта преступления (статьи 19, 20 УК РФ). ИИ, управляемый автомобилем, не является субъектом уголовного права – это требует вменяемого физического лица. Круг потенциально ответственных лиц широк, но доказать вину каждого в конкретном сбое или отказе системы крайне затруднительно. Требуются новые нормы о распределении ответственности.

Вторая проблема – установление формы вины. Как доказать неосторожность программиста, ошибка которого привела к ДТП, или как установить умысел оператора при непредсказуемом сбое? Это требует сложной и дорогостоящей технико-криминалистической экспертизы.

Третья проблема – недостаточная конкретика существующих норм. В УК РФ отсутствуют специальные статьи, прямо регулирующие ответственность за вред, причиненный автономными системами.

Заключение .

Таким образом, слабый ИИ в беспилотных автомобилях, несмотря на свои ограниченные возможности, может стать причиной/средством/ способом совершения преступления из-за уязвимостей в алгоритмах и недостаточной защищенности систем. Однако правовая база продолжает развиваться, и в будущем возможны изменения в регулировании этого вопроса. Стоит учесть, что уголовная наказуемость за деяния, связанные с преступлениями с помощью беспилотных автомобилей, может быть разной в зависимости от различных факторов, поэтому по нашему мнению статьи: 109 УК РФ, 137 УК РФ, 143 УК РФ, 213 УК РФ, 222 УК РФ 238 УК РФ, 264 УК РФ, 272 УК РФ, 273 УК РФ, 274 УК РФ и 322 УК РФ, за которые можно привлечь человека за преступление связанные с беспилотными автомобилями. Также остается проблема, что данная система не обладает хорошей системой безопасности от хакерских атак или от кражи персональных данных.