Гражданско-правовая ответственность при разработке и применении систем искусственного интеллекта и робототехники: основные подходы

Гражданско-правовая ответственность при разработке и применении систем искусственного интеллекта и робототехники: основные подходы

Автор: Харитонова Ю.С., Савина В.С., Паньини Ф.

Журнал: Вестник Пермского университета. Юридические науки @jurvestnik-psu

Рубрика: Частноправовые (цивилистические) науки

Статья в выпуске: 4 (58), 2022 года.

Бесплатный доступ

Введение: изучение вопросов правового обеспечения безопасности и адекватности применения систем искусственного интеллекта привело нас к неизбежности обращения к проблемам ответственности при использовании систем искусственного интеллекта. Приоритет отдан исследованию цивилистических аспектов ответственности за вред, причиненный системами искусственного интеллекта и робототехники. Развитие технологий требует переосмысления многих юридических механизмов обеспечения безопасности применения искусственного интеллекта на основе баланса в части поддержания и стимулирования инновационных отраслей. Оценка реального уровня развития технологии искусственного интеллекта заставляет не только смотреть в будущее и реагировать на имеющиеся вызовы времени, но и создавать правила для ближайших прогнозов. И если раньше считалось, что не потребуется кардинальных изменений в регулировании института юридической ответственности, то сегодня оснований так говорить с абсолютной уверенностью уже нет. Причиной стало повышение степени автономности систем искусственного интеллекта при расширении спектра возможностей их применения. Искусственный интеллект обыденно применяется в креативных индустриях, при принятии решений в различных сферах человеческой деятельности, в беспилотном транспорте и т. д. Но все еще далеки от завершения дискуссии о субъектном составе систем искусственного интеллекта, ответственных за причинение вреда, о возможности применения механизмов безвиновной гражданско-правовой ответственности и даже надлежащих уровней регулирования подобных отношений. Цель: сформировать представление о направлениях правового регулирования гражданско-правовой ответственности при применении технологии искусственного интеллекта на основе анализа российских и зарубежных научных концепций и законодательства. Методы: эмпирические методы сравнения, описания, интерпретации; теоретические методы формальной и диалектической логики; частнонаучные методы: юридико-догматический и метод толкования правовых норм. Результаты: вопрос об ответственности разработчиков и владельцев (пользователей) систем искусственного интеллекта является весьма дискуссионным. Во многих странах принимаются кодексы этики искусственного интеллекта, однако необходима именно правовая регламентация, например подход к системе искусственного интеллекта как к источнику повышенной опасности, в отсутствие соответствующих правовых норм целесообразно использование механизма деликтной ответственности исходя из аналогии закона. Важное значение в плане выявления и привлечения к ответственности разработчиков и эксплуатантов систем искусственного интеллекта также приобретает стандартизация в рассматриваемой сфере (стандартизация баз данных, программного обеспечения, инфраструктуре и др.), нарушение требований которой также может служить условием привлечения в гражданско-правовой ответственности. Новым содержанием наполняются традиционные правовые понятия предмета, объекта и субъекта причинения вреда как для сферы договорной, так и внедоговорной ответственности. Выводы: анализ показал, что на современном этапе в законодательстве различных стран появляется мягкое регулирование в сфере ответственности за вред, причиненный системами искусственного интеллекта. Однако постепенно от выработки стратегий пора сделать конкретные шаги к созданию эффективных механизмов минимизации рисков причинения ущерба без привлечения к ответственности установленных лиц. Поскольку в процесс разработки систем искусственного интеллекта вовлечено много участников, обладающих самостоятельным правовым статусом (поставщик данных, разработчик, производитель, программист, дизайнер, пользователь), установить субъекта гражданско-правовой ответственности, если что-то пойдет не так, достаточно сложно и необходимо учитывать множество факторов. В отношении причинения вреда третьим лицам подход к системе искусственного интеллекта как к источнику повышенной опасности представляется закономерным и логичным, а в отсутствие соответствующих правовых норм целесообразно использование механизма деликтной ответственности исходя из аналогии закона. В рамках модели договорной ответственности требуется выработка общих подходов к определению продукта и последствий нарушений условий договора.

Еще

Искусственный интеллект, гражданско-правовая ответственность, самообучающееся программное обеспечение, взаимодействие человека с машиной, риски применения искусственного интеллекта, стандартизация систем искусственного интеллекта

Короткий адрес: https://sciup.org/147239654

IDR: 147239654   |   DOI: 10.17072/1995-4190-2022-58-683-708

Список литературы Гражданско-правовая ответственность при разработке и применении систем искусственного интеллекта и робототехники: основные подходы

  • Бегишева И. Р. Уголовно-правовая охрана общественных отношений, связанных с робототехникой: дис. ... д-ра юрид. наук. Казань, 2022. 506 с.
  • Васин Е. «Что делать?» ИИ «Кто виноват?». Ответственность в «цифровых песочницах». URL: https://zakon.ru/blog/2020/9/28/chto_delat_ii_kto_vinovat_voprosy_otvetstvennosti_v_gryaduschih_epr_chast_1_aibolit?ysclid=l9a1mh kt2o615990975.
  • Гражданское право: учебник / под ред. Ю. К. Толстого. М.: Проспект, 2009. Т. 1. 784 с.
  • Гражданское право: учебник; в 2 т. 2-е изд., перераб. и доп. М.: БЕК, 2003. Т. 1. 704 с.
  • Гурко А. В. Искусственный интеллект и авторское право: взгляд в будущее // Интеллектуальная собственность. Авторское право и смежные права. 2017. № 12. С. 7-18.
  • Кархалев Д. Н. Освобождение от договорной ответственности // Актуальные проблемы российского права. 2018. № 4. С. 64-70. DOI: 10.17803/1994-1471.2018.89.4.064-070.
  • Матвеев А. Г., Синельникова В. Н. Объекты интеллектуальной собственности, получающие охрану в XXI веке // Вестник Пермского университета. Юридические науки. 2019. Вып. 44. C. 285-313. DOI: 10.17072/1995-41902019-44-285-313.
  • Мокшанов А. Некачественное программное обеспечение: защита интересов правопри-обретателя. URL: https://zakon.ru/blog/2016/11/9 /nekachestvennoe_programmnoe_obespechenie_za schita_interesov_pravopriobretatelya?ysclid=l961 rolp89975382693.
  • Морхат П. М. Искусственный интеллект: правовой взгляд: монография / РОО «Институт государственно-конфессиональных отношений и права». М.: Буки Веди, 2017. 257 с.
  • Морхат П. М. Правосубъектность искусственного интеллекта в сфере права интеллектуальной собственности: гражданско-правовые проблемы: дис. ... д-ра юрид. наук. М., 2018. 420 с.
  • Понкин И. В., Редькина А. И. Искусственный интеллект с точки зрения права // Вестник Российского университета дружбы народов. Серия: Юридические науки. 2018. Т. 22, № 1. С. 91-109.
  • Реутов С. И. Теоретические и нормативные основы внедрения и развития цифровизации российского общества // Пермский юридический альманах. 2019. С. 38-49.
  • Российское гражданское право: учебник; в 2 т. 2-е изд. М.: Статут, 2011. Т. 2. 1208 с.
  • Сесицкий Е.П. Проблемы правовой охраны результатов, создаваемых системами искусственного интеллекта: автореф. дис. ... канд. юрид. наук. М., 2019. 27 с.
  • Туршук Л.Д. Проблемы разграничения договорной и деликтной ответственности при оказании социальных услуг // Социальное и пенсионное право. 2019. № 2. С. 26-30.
  • Цвайгерт К., Кетц Х. Введение в сравнительное правоведение в сфере частного права. Т. 2. Договор. Неосновательное обогащение. Деликт. М.: Междунар. отношения, 1998. 512 с.
  • Цепов Г. В., Иванов Н. В. К цивилисти-ческой теории смарт-контрактов // Закон. 2022. № 3. С. 149-172.
  • Чеховская С. А. Использование систем искусственного интеллекта для принятия решений: построение системы принципов регулирования // Предпринимательское право. 2021. № 1. С. 24-35.
  • Abbott R. The reasonable computer: Disrupting the paradigm of tort liability // The George Washington Law Review. 2018. Vol. 86, № 1. 45 р.
  • Alheit K. The applicability of the EU product liability directive to software // Comparative and International Law Journal of Southern Africa. 2001. № 34(2). Pp. 188-209.
  • Bertsia C. Legal liability of artificial intelligence driven-systems (AI). 2019. 57 p.
  • Brynjolfsson E. Information assets, technology and organization // Management Science. 1994. № 40(12). Pp. 1645-1662.
  • Kerber W. Governance of data: Exclusive property vs. access // International Review of Intellectual Property and Competition Law. 2016. № 47(7). Pp. 759-762.
  • Calo R. Robotics and the lessons of cy-berlaw // California Law Review. 2015. № 103(3). Pp. 513-563. DOI: 10.2139/ssrn. 2402972.
  • Castelvecchi D. Can we open the black box of AI? // Nature. 2016. № 538(7623). Pp. 20-23.
  • Di Nucci E., & Santoni de Sio F. Drones and Responsibility: Mapping the Feld Routledge. 2016. Pp.1-13.
  • Doran D., Schulz S., & Besold T. R. What does explainable ai really mean? A new conceptualization of perspectives. arXiv preprint ar-Xiv:1710.00794. 2017. Pp. 1-8.
  • Edwards L. & Veale M. Slave to the algorithm? Why a right to explanationn is probably not the remedy you are looking for // Duke Law and Technology Review. 2017. № 16(1). Pp. 1-65. DOI: 10.2139/ ssrn.2972855.
  • Corea F. AI Knowledge Map: how to classify AI technologies. A Sketch of a New AI Technology Landscape / Corea F. An Introduction to Data: Everything You Need to Know About AI, Big Data and Data Science. Cham. Springer, 2019. С. 25-29.
  • Gerstner M. E.: Comment, Liability Issues with Artificial Intelligence Software // Santa Clara Law Review, 1993. Vol. 33, № 1. URL: http://digitalcommons.law.scu.edu/lawreview/vol 33/iss1/7.
  • Ghosh A., Chakraborty, D. & Law A. Artificial intelligence in Internet of things. // CAAI Transactions on Intelligence Technology. 2018. № 3(4). Pp. 208-218.
  • Heyns C. Report of the Special Rapporteur on Extra-Judicial, Summary or Arbitrary Executions. United Nations. 2013. 24 p.
  • Hildebrandt M. Privacy as protection of the incomputable self: From agnostic to agonistic machine learning // Theoretical Inquiries in Law. 2019. № 20 (1). Pp. 83-121.
  • Hojnik J. Technology neutral EU law: digital goods within the traditional goods/services distinction // International Journal of Law and Information Technology. 2017. № 25(1). Pp. 63-84.
  • Kingston J. K. Artificial intelligence and legal liability. In International conference on innovative techniques and applications of artificial intelligence. 2016. Pp.269-279.
  • European Product Liability: An Analysis of the State of the Art in the Era of New Technologies. Ed. P. Machnikowski. Intersentia: Plymouth. 2016. 715 p. DOI: https://doi.org/10.1017/ 9781780685243.
  • Matthias A. The responsibility gap: Ascribing responsibility for the actions of learning automata // Ethics and Information Technology, 2004. № 6(3). Pp. 175-183. DOI: 10.1007/s10676-004-3422-1.
  • Meloni C. State and Individual Responsibility for Targeted Killings by Drones // Drones and Responsibility: Legal, Philosophical and So-cio-Technical Perspectives on Remotely Controlled Weapons. Eds. E. Di Nucci, F. Santoni de Sio. Routledge. 2016. Pp.47-64.
  • Mittelstadt B. D., Alio P., Taddeo M., Wachter S. & Floridi L. The ethics of algorithms: Mapping the debate. Big Data & Society, 2016. № 3(2). Pp. 1-21. DOI: 10.1177/20539517 16679679.
  • Morhat P. M. Legal personality of AI in the field of intellectual property law: civil law problems: Dr. Jurid. Sciences dis. M., 2018. 420 p.
  • Navas, S. Producer Liability for AI-Based Technologies in the European Union // International Law Research. 2020. № 9(1). Pp. 77-84.
  • Noto La Diega, G. Against the Dehuma-nisation of Decision-Making - Algorithmic Decisions at the Crossroads Of Intellectual Property, Data Protection, and Freedom of Information // Journal of Intellectual Property, Information Technology and Electronic Commerce Law. 2018. № 19(1). Pp. 3-34.
  • Oettinger G. Europe's future is digital, Speech at Hannover Messe // Speech. 2015. № 154772. URL: http://europa.eu/rapid/press-release_ SPEECH-15-4772_en.htm.
  • Pagallo U. The laws of robots: Crimes, contracts, and torts. Springer, 2013. 200 p.
  • Pasquale F. The black box society: the secret algorithms that control money and information. Harvard University Press, 2016. 310 p.
  • Perc M., Ozer M., & Hojnik J. Social and juristic challenges of artificial intelligence // Palgrave Communications. 2019. №5(1). Pp. 1-7.
  • Rakhmatulina R. Sh., Sviridova E. A., Sa-vina V. S. Legal Regulation of Artificial Intelligence and Robotization as a New Stage in the Development of the Economy // Humanities and Law Research. 2019. Issue 4. Pp. 209-216.
  • Ramalho A. Patentability of AI-Generated Inventions: Is a Reform of the Patent System Needed? Institute of Intellectual Property, Foundation for Intellectual Property of Japan, 2018. United States Patent and Trademark Office. 2019. 32 p.
  • Wachter S., Mittelstadt B. & Floridi L. Why a Right to Explanation of Automated Decision-Making Does Not Exist in the General Data Protection Regulation // International Data Privacy Law. 2017. № 7(2). Pp. 76-99. DOI: 10.1093/ idpl/ipx005.
  • Wagner G. Robot Liability // Liability for Artificial Intelligence and the Internet of Things/ Eds. S. Lohsse, R. Schulze, D. Staudenmayer. Baden Baden: Nomos Verlag, 2018. Pp. 27-63.
  • Weng Y.-H. Beyond robot ethics: on a legislative consortium for social robotics // Advanced Robotics. 2010. Vol. 24, № 13. Pp. 1919-1926. URL: https://www.researchgate.net/publication/ 46914077_Beyond_Robot_Ethics_On_a_Legisla-tive_Consortium_for_Social_Robotics.
  • WIPO technology trends 2019: artificial intelligence. WIPO, 2019. 158 p.
Еще
Статья научная
QR-код для установки приложения SciUp Наведите камеру и скачайте бесплатное приложение SciUp