Интеллектуальные транспортные системы: правовые вызовы

This is an open access article distributed under the CC BY-NC 4.0. license

В последнее время в связи с развитием науки и техники, внедрением систем искусственного интеллекта становится все более актуальным вопрос о необходимости определения правового статуса робота: следует ли его наделять правосубъектностью, т. е. признавать субъектом правоотношений, либо распространять на него правовой режим объекта гражданских правоотношений.

Если ранее обсуждалась проблема квалификации действий физического лица в аспекте связанности их с владельцем автомата [Gunther, 1892], то в настоящее время основное внимание фокусируется на различных формах проявления правосубъектности искусственного интеллекта и автономных роботов. Так, в немецком правоведении высказано предположение о сверхспособности роботов, превосходящей возможности человека, что, как отмечается, потребует пересмотра устоявшегося в правовых системах положения об антропоцентризме [Erhardt, Mona, 2016: 62–63].

В Европейском союзе предприняты попытки определить статус автономных роботов как специфических «электронных лиц». Так, в Резолюции Европарламента «Нормы гражданского права о робототехнике» от 16 февраля 2017 г. сформулирована концепция «электронной личности» для автономных роботов, которые могли бы иметь права и обязанности, включая обязательную страховку для покрытия возможного ущерба. Хотя эта инициатива пока не получила воплощения в законе, однако она задала общий фрейм (рамки) для глобальной дискуссии.

В целом к настоящему времени сформировались три основные концепции по поводу определения правосубъектности роботов.

• 1.    Концепция робота как юридического лица: допускает избирательное применение норм гражданского права, регулирующих отношения с участием юридических лиц, к отношениям с «участием» роботов – по аналогии, исходя из того что природа юридических лиц и роботов одинакова; носит искусственный характер, представляет собой не что иное, как фикцию.

• 2.    Концепция «электронного лица» [Ястребов, 2018: 37]: предполагает юридическую конструкцию, в соответствии с которой «электронное лицо» обладает субъективными правами и обязанностями и выступает вовне как комплекс прав и обязанностей, определяющих действия искусственного интеллекта.

• 3.    Концепция ограниченной правосубъектности роботов [Габов, 2018]: допускает правоспособность, дееспособность и деликтоспособность роботов, однако только в установленных законом пределах. Примечательно, что в США, где отсутствует единое федеральное регулирование статуса автономных роботов, а точечные решения принимаются в отдельных штатах, основной акцент делается не на правах роботов, а на вопросах, касающихся ответственности их создателей и операторов.

Отдельные авторы полагают, что в качестве субъектов права следует признавать только роботов-агентов. К гражданским отношениям с участием таких роботов может применяться гражданское законодательство о юридических лицах [Гришин, 2016], т. е. здесь робот-агент идентифицируется как юридическое лицо. Однако это положение не согласуется с другим положением в рамках этого же подхода, когда отмечается, что под владельцем робота-агента следует понимать юридическое лицо и т. д. Получается, что робот-агент является юридическим лицом и это же юридическое лицо выступает объектом права владельца робота – юридического лица. Сама

конструкция юридического лица есть не более, чем юридическая фикция, которая принципиально не может выступать в качестве объекта чьего-либо права.

В литературе есть и противоположная позиция, отражающая иной подход к проблеме правосубъектности роботов, когда правовой режим роботов увязывается с рассмотрением их только в качестве объектов гражданских правоотношений. Так, по мысли С. А. Синицина, «роботы являются не участниками общественных отношений, а исключительно объектами или средствами общественного производства, а значит, их место определяется только положением объекта прав» [Синицын, 2020: 60].

Как представляется, при решении проблемы, связанной с определением правового статуса роботов, необходимо учитывать следующие обстоятельства.

Прежде всего, нужно исходить из того, что нельзя смешивать такие сущности, как «робот» и «искусственный интеллект», что проявляется в ряде аспектов, в том числе в ситуациях, когда робот и интеллект могут быть непосредственно не взаимосвязаны. Так, О. П. Александров и Г. У. Казахбаева ставят вопрос: «Насколько справедлива связка „робот – интеллект“ и действительно ли интеллектуальность должна быть в числе основных свойств роботов»? Отвечая на него, они констатируют: «По нашему мнению, подавляющее большинство областей применения роботов не требует у них наличия интеллектуальных способностей, так как чаще всего связаны с узкопрофессиональными задачами» [Александров, Казахбаева, 2016: 31].

Действительно, далеко не для всех роботов имеется потребность в наличии в их структуре «интеллектуального» компонента, что отражается и в их конструкции (например, роботы-манипуляторы). В частности, имеется такой тип, как аналоговые роботы с ограниченным набором функций: в их конструкции используются аналоговые компоненты (фоторезисторы, транзисторы, конденсаторы); они не могут получать данных из окружающей среды и самостоятельно принимать решения и используются для решения утилитарных задач. Отсюда следует, что применительно к роботам такого типа вообще снимается проблема определения их правового статуса: они могут выступать только в качестве объектов гражданских прав и соответствующих правоотношений.

Однако структура многих типов современных роботов носит достаточно сложный характер и включает в свой состав ряд взаимодействующих между собой компонентов: корпус – несущая конструкция; манипулятор – управляемый механизм, предназначенный для выполнения двигательных функций при перемещении объектов в пространстве; система управления – комплекс программных и аппаратных средств, обеспечивающих управление и координацию действий робота; датчики – устройства, преобразующие физические параметры окружающей среды в электрические сигналы, которые может интерпретировать система управления робота.

Приведенная структурная организация робота свидетельствует о том, что в ее составе наличествуют:

• 1)    элементы (компоненты), субстрат которых носит материально-вещественный характер (корпус – несущая конструкция, манипулятор, датчики и др.);

• 2)    интеллектуальный элемент (компонент) – программное обеспечение и другие результаты творческой деятельности человека.

Для сферы правового регулирования данная структуризация имеет принципиальное значение: если указанные и другие материально-вещественные элементы (компоненты) могут и в действительности выступают в качестве объектов вещных прав (право собственности - ст. 209 ГК РФ, право хозяйственного ведения имуществом – ст. 294 ГК РФ, право оперативного управления имуществом), из которых, например, право собственности на материальные носители может принадлежать владельцу робота, то иначе обстоит дело с интеллектуальным элементом (ком-

понентом) робота – результатом человеческой творческой (интеллектуальной) деятельности, который, по общему правилу, принадлежит его творцу (человеку), а владелец робота может использовать такой интеллектуальный результат на основе специального разрешения (лицензии), выданного правообладателем на данный интеллектуальный продукт. Аналогично, например, право собственности на материально-вещественную основу робота-автомобиля принадлежит его владельцу (собственнику), что же касается интеллектуальной составляющей - программного обеспечения и др. данного робота-машины, то интеллектуальные права на такие творческие результаты будут принадлежать иным лицам – их разработчикам (творцам), а не владельцу (собственнику) робота.

Таким образом, сегодня информационная, технологическая среда в сфере робототехники, а также существующее правовое регулирование обусловливают вывод о том, что все структурные элементы (компоненты) - составляющие робота - выступают в качестве объектов вещных прав или объектов интеллектуальных прав, которые принадлежат именно человеку, а не роботу - пусть даже и с высокой степенью его автономности.

Вместе с тем ранее в философии [Канке, 2009: 13], а в последнее время и в правоведении актуализируется подход о том, что «в современный период наблюдается существенное изменение субъективно-объективной парадигмы права» [Габов, 2018: 110], ставится вопрос о пределах для появления новых субъектов права, к которым предлагается относить и роботов, правда, в ограниченных рамках. Указанная субъективно-объективная парадигма в праве позиционируется как единство субъективного и объективного аспектов в правовом сознании; человек одновременно объявляется и объектом правового регулирования, и активным, заинтересованным субъектом правовых отношений.

Применительно к сфере правового регулирования отношений, связанных с технологиями робототехники, данная «субъект-объектная» парадигма означает, что робота можно рассматривать одновременно в двух «ипостасях»: и как субъекта права, и как объект права и правовых отношений.

Однако, думается, гипотетически такой феномен робота можно помыслить лишь в будущем, когда интеллектуальные технологии в сфере робототехники будут развиты настолько высоко, что абсолютно автономные роботы будут обладать способностью самостоятельно воспроизводить себя и все составляющие компоненты, в том числе интеллектуальное обеспечение, его развитие и т. д., независимо от человека. Но даже в этом случае, как представляется, контрольные функции в критических ситуациях должны сохраняться за человеком.

В настоящее же время роботы выступают объектами гражданских прав. В соответствии с положениями ст. 128 ГК РФ к объектам гражданских прав относятся вещи, иное имущество, имущественные права, результаты работ и оказание услуг, охраняемые результаты интеллектуальной деятельности и приравненные к ним средства индивидуализации (интеллектуальная собственность) и другие блага. Следовательно, на отношения по поводу роботов распространяются нормы ГК РФ, определяющие правовой режим вещей как объектов гражданских прав.

Вместе с тем в будущем для автономных роботов нам видится модель электронноцифрового лица, которое представляет собой совокупность прав и обязанностей вещного и иного характера. При этом всякие права и обязанности связаны с теми или иными объектами; безобъектных прав и обязанностей в правовой действительности не существует. В данном случае в качестве объекта прав и обязанностей такого электронно-цифрового лица будет выступать робот – как сложный имущественный комплекс, охватывающий собой не только вещественные элементы, но и исключительные права на интеллектуальные продукты, созданные самим роботом.

Однако в современных условиях основная проблема, как представляется, заключается не в том, как обозначить (поименовать) статус робота – «юридическое лицо», «электронное лицо», «ограниченная правосубъектность» робота, «субъект-объектная модель» и т. д., а сопряжена с правовой оценкой последствий в случаях возникновения девиантного «поведения» робота и определением ответственных лиц, в качестве которых в настоящее время могут выступать владелец (собственник), эксплуатирующий робота, иное лицо, в пользовании (по договору аренды) которого находился робот, разработчик программного обеспечения и т. д., виновные в причинении вреда.

Вместе с тем нужно учитывать, что многие виды роботов по техническим свойствам и иным характеристикам подпадают под такое понятие, как «источник повышенной опасности» (ст. 1079 ГК РФ), владелец которого несет, по общему правилу, ответственность независимо от его вины, однако с возможностью в последующем «переложения» в установленном порядке такой ответственности на действительно виновное лицо, если при этом сам владелец источника повышенной опасности не виновен в причинении вреда.

Большое значение в законе должно придаваться принципам правового регулирования отношений в сфере робототехники. В упомянутой Резолюции Европарламента (2017 г.), закрепляющей особенности использования роботов, сформулирован ряд принципов, на основе которых должна выстраиваться такая деятельность: «Человек владеет роботами на принципах самостоятельности и справедливости; роботы должны действовать в интересах людей, не должны вредить им; помощь робота должна быть доступна каждому»1.

Примечательно, что американский писатель-фантаст Айзек Азимов в 40-е гг. прошлого столетия сформулировал три «закона» робототехники:

• 1)    робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред;

• 2)    робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат «Первому Закону»;

• 3)    робот должен заботиться о своей безопасности в той мере, в которой это не противоречит «Первому или Второму Законам» [Мельникова, 2021].

В 1985 г. в романе «Роботы и Империя» (англ. «Robots and Empire») названный автор предложил «Нулевой закон»: робот не может причинить вред человеку, если только он не докажет, что в конечном счете это будет полезно для всего человечества [Азимов, 1992: 11–12]. Это крайне спорный и сомнительный вывод автора. Ибо очень сложно (да и возможно ли вообще?) сделать такую мегаоценку - что в конечном счете полезно, а что нет для «всего человечества», и в зависимости от этого решать вопрос о возможности причинения вреда человеку.

В Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники в подразд. 3 разд. I «Общие положения» предусмотрен ряд принципов, направленных на обеспечение цели и задач, обозначенных в названном документе. С внешней стороны эти принципы обращают на себя внимание по некоторым моментам.

Во-первых, здесь речь идет о единых принципах, которые экстраполируются одновременно на две сферы отношений, связанных с технологиями искусственного интеллекта и робототехники, а эти сферы, как было отмечено выше, не тождественны. Следовательно, с методологической точки зрения вряд ли можно признать достаточно обоснованным формулирование единых принципов, которые предназна-

чены для регулирования социальных сфер хотя и взаимно близких, однако различающихся по ряду особенностей.

Во-вторых, небесспорным представляется принцип, сформулированный как «запрет на причинение вреда человеку по инициативе систем искусственного интеллекта и робототехники (по общему правилу, следует ограничивать разработку, оборот и применение систем искусственного интеллекта и робототехники, способных по своей инициативе целенаправленно причинять вред человеку)». Исходя из применения формальной логики к данному принципу получается, что если вред причинен человеку не по «инициативе» системы искусственного интеллекта или робота, а, скажем, по вине человека, использующего искусственный интеллект или робота, то такое причинение вреда допустимо, что, конечно же, неверно.

Далее, крайне спорной представляется и та часть рассматриваемого принципа, в соответствии с которой «по общему правилу, следует ограничивать разработку, оборот и применение систем искусственного интеллекта и робототехники, способных по своей инициативе целенаправленно причинять вред человеку». Думается, создание, оборот, а также использование искусственного интеллекта или робота, способных «по своей инициативе и целенаправленно» причинять вред человеку, должно быть запрещено, а не ограничиваться применением «полумер».

При формулировании правовых принципов в указанной сфере представляется необходимым обратить внимание на некоторые положения методологического характера.

• 1.    Вести речь следует не о принципах «пользования» роботами, как это делается в отдельных документах, а о принципах, регулирующих более широкую сферу - отношения, связанные с разработкой, внедрением, оборотом, использованием роботов и т. д., что в целом можно обозначить как сферу робототехники.

• 2.    Система таких принципов должна отражать не только технические аспекты, но и социальные, морально-этические стороны в сфере робототехники, что является принципиально важным.

• 3.    Должна обеспечиваться корреляционная взаимосвязь правовых принципов в сфере робототехники с соответствующими правовыми принципами, регулирующими отношения, связанные с искусственным интеллектом.

• 4.    Рассматриваемые принципы должны базироваться на положениях законодательства и отражать основные (сущностные) особенности регулирования отношений в сфере робототехники.

• 5.    Развитие правового регулирования отношений в сфере современных технологий робототехники должно опираться на сотрудничество и взаимодействие с компетентными органами и организациями из дружественных стран.

С учетом отмеченного можно выделить ряд принципов в указанной сфере:

• 1)    обеспечение безопасности технологий роботов: при обычных условиях и соблюдении требований к их эксплуатации они не должны причинять вред жизни и здоровью человека, окружающей среде;

• 2)    стимулирование развития технологий робототехники посредством использования экономических, финансовых, правовых, организационных и других средств, регулирующих в единстве и взаимосвязи все элементы системы взаимоотношений субъектов в сфере робототехники, начиная с научно-исследовательских, опытноконструкторских работ, внедрения их результатов и т. д. до использования роботов в реальном секторе экономики;

• 3)    обеспечение баланса интересов всех участников системы взаимоотношений в сфере робототехники: разработчиков, производителей, пользователей и других лиц - с определением границ их ответственности за возможное наступление негативных последствий, связанных с использованием технологий робототехники;

• 4)    равный доступ всех субъектов экономической деятельности в сфере робототехники к необходимой информации из государственных и муниципальных информационных фондов в целях разработки систем робототехники;

• 5)    риск-ориентированный подход к регулированию отношений в сфере робототехники, предполагающий разработку индикаторов риска и сообразных с ними ограничительных норм, которые подлежат применению, когда использование технологий робототехники сопряжено с повышенным риском причинения вреда жизни, здоровью людей, окружающей среде, а также интересам общества и государства;

• 6)    обеспечение технологического суверенитета и экономической безопасности России в сфере робототехники с учетом установок национальных проектов и программ, а также политико-директивных документов в области развития информационных технологий и цифровых преобразований;

• 7)    нахождение в основе системы правового регулирования отношений в сфере робототехники морально-этических и нравственных начал с приоритетным обеспечением среди поставленных целей и задач благополучия и безопасности человека, защиты его конституционных прав и свобод; запретом умышленного причинения вреда человеку по «инициативе» систем робототехники; подконтрольностью человеку функций роботов сообразно степени их автономности;

• 8)    взаимодействие с международными организациями в сфере роботостроения, а также сотрудничество с национальными органами и организациями дружественных государств.

Исходное значение для целей формирования системы нормативно-правового регулирования отношений в сфере робототехники имеют положения, касающиеся в целом построения данной регулятивной системы.

Прежде всего построение нормативных регуляторов в сфере робототехники может быть представлено в виде комплексного нормативного массива, центральное место в котором должны занимать нормы Федерального закона «Об основах правового регулирования отношений в сфере робототехники». На базе этого закона как основополагающего акта должно выстраиваться все последующее законодательство в данной сфере. При этом важно устранить имеющиеся бюрократические нормативно-правовые препятствия, мешающие развитию технологий робототехнических систем, а также не допустить чрезмерной регламентации, «зарегулированности» отношений в указанной сфере.

Характер, виды норм, их структурное построение и т. д. в рамках названного нормативного массива обусловлены рядом особенностей сферы технологий робототехники. Одна из таких особенностей заключается в том, что большинство робототехнических систем, даже с высокой степенью автономности их функций, не способны воспринимать морально-этические положения, а могут реагировать на определенные действия и операции технического и иного характера, что обусловливает технико-юридический характер соответствующей части норм среди нормативных правовых регуляторов отношений в сфере технологий робототехники. С этим обстоятельством связан и другой момент: поскольку в основе технологий робототехники лежат закономерности информационно-технического, математического, физического, кибернетического и иного естественно-научного характера, которые объективно не могут быть подвержены правовому регулированию, то в качестве предмета правового регулирования здесь выступают не сами по себе указанные технологии (технологии как таковые), а отношения, складывающиеся по их разработке, определению правового режима таких объектов, регулированию их оборота, использования в практической деятельности и т. д. между различными субъектами экономических отношений.

В целом систему правового регулирования отношений в сфере робототехники можно представить в следующем виде.

Первый уровень - это программно-политический документ концептуального характера, отражающий значение и место института робототехники в системе экономики, специфику робототехнической среды, обусловливающей сущностные особенности законодательства в указанной сфере, перспективы его развития и т. д. В принципиальном плане такой документ в России разработан - Концепция развития регулирования отношений в сфере искусственного интеллекта и робототехники до 2024 года, которая в настоящее время, как представляется, нуждается в ряде поправок и дополнений, в том числе учитывающих: основные современные мировые тенденции в развитии систем робототехники, новейший к настоящему времени научно-технологический уровень, достигнутый в сфере робототехники; баланс интересов всех участников правоотношений в сфере робототехники; необходимость формирования в России органа, обладающего специальной компетенцией, – Федерального агентства по робототехнике и т. д.

Второй уровень непосредственно связан c формированием нормативных установлений, составляющих содержание предложенного в настоящей статье законопроекта - проекта федерального закона «Об основах правового регулирования отношений в сфере робототехники», который мог бы выступать в качестве базового, центрообразующего законодательного «ядра» в системе законодательства в сфере робототехники. Причем разработка и принятие такого федерального закона не сопряжена с коренной «ломкой» действующей системы российского законодательства; потребовалось бы лишь внесение ряда поправок в отдельные кодифицированные акты: Гражданский кодекс РФ, Кодекс РФ об административных правонарушениях, Налоговый кодекс РФ и некоторые другие законодательные акты.

Третий уровень должны занимать указы Президента РФ и постановления Правительства РФ – нормативные правовые акты, направленные главным образом на решение задач оперативного характера, возникающих при осуществлении правового регулирования отношений в сфере робототехники, в частности связанные с обеспечением своевременного финансирования инновационных проектов, имеющих ключевое значение для экономики Российской Федерации, решением организационных вопросов в указанной сфере и т. д.

Четвертый уровень отводится ведомственным нормативным правовым актам – актам федеральных министерств (ведомств, агентств, служб и т. д.), в которых должны учитываться существенные особенности, характерные для соответствующей отрасли (сектора) экономики, требующие правового регулирования.

Пятый уровень относится к правовому регулированию отношений в сфере робототехники с использованием законодательства субъектов Российской Федерации. Исходя из положений, закрепленных в ст. 71 и 72 Конституции РФ, необходимо четко определить вопросы в области систем робототехники, относящиеся к юрисдикции субъектов РФ, а также составляющие предмет компетенции Российской Федерации, и, кроме того, вопросы, составляющие предмет совместной компетенции РФ и ее субъектов.

Шестой уровень касается нормативных установлений, связанных с робототехникой, формирование которых относится к компетенции муниципальных образований, органов местного самоуправления.

Седьмой уровень - установление правил, требований, относящихся к компетенции саморегулируемых организаций: создание кодексов (сводов) этических правил поведения при разработке, внедрении и использовании технологий робототехники.

В порядке краткого резюме можно сделать следующие выводы.

• 1.    Основной целью правового регулирования отношений в сфере робототехники являются стимулирование развития технологий робототехники посредством использования комплекса экономико-правовых, финансово-правовых, налоговых и иных средств; обеспечение безопасности использования роботов, баланса интересов всех участников отношений, связанных с созданием роботов, их оборотом, использованием; охрана и защита прав и законных интересов граждан.

• 2.    Содержание законодательства в указанной сфере составляет комплексный нормативный массив, включающий в свой состав наряду с нормативными установлениями аналогового права специфические технико-юридические нормы, регулирующие различные отношения в области технологий робототехники, а также связанные с ними конкретные действия и операции технического характера.

• 3.    Правовое урегулирование в сфере робототехники видится как комплексное, в своей основе единое и взаимосвязанное упорядочение общественных отношений, складывающихся по поводу научно-исследовательских, опытно-конструкторских, внедренческих работ в области роботостроения, использования роботов, обеспечения их безопасности и т. д.

• 4.    Роботы являются объектами предпринимательских и гражданских правоотношений. Что касается наделения их таким «качественным» свойством, как правосубъектность, то данная проблема должна решаться не оперативным образом, а путем накопления и использования отечественного и зарубежного опыта в этой области, в том числе посредством применения экспериментальных правовых режимов в различных форматах практической деятельности.