Выпуск 4 (58) 2022

 

Вестник Пермского университета. Юридические науки. 2022. Вып. 4 (58)
Название: ГРАЖДАНСКО-ПРАВОВАЯ ОТВЕТСТВЕННОСТЬ ПРИ РАЗРАБОТКЕ И ПРИМЕНЕНИИ СИСТЕМ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА И РОБОТОТЕХНИКИ: ОСНОВНЫЕ ПОДХОДЫ
Авторы:

Ю. С. Харитонова, Московский государственный университет имени М. В. Ломоносова

 Этот адрес электронной почты защищен от спам-ботов. У вас должен быть включен JavaScript для просмотра.
ORCID: 0000-0001-7622-6215
 ResearcherID: K-7495-2016
Статьи автора в БД «Scopus» и «Web of Science»:       DOI: 10.17072/1995-4190-2019-43-121-145
DOI: 10.17072/1995-4190-2020-49-524-549
DOI: 10.17072/1995-4190-2016-34-451-460
DOI: 10.1007/978-3-030-90324-4_125
DOI: 10.1007/978-3-030-93244-2_30
DOI: 10.47576/2712-7516_2022_5_1_79
DOI: 10.17072/1995-4190-2021-53-488-515

В. С. Савина, Российский экономический университет имени Г. В. Плеханова

Этот адрес электронной почты защищен от спам-ботов. У вас должен быть включен JavaScript для просмотра.
ORCID: 0000-0002-8385-9421 
 ResearcherID: G-2782-2014
Статьи автора в БД «Scopus» и «Web of Science»:       DOI: 10.17072/1995-4190-2020-49-524-549
DOI: 10.17072/1995-4190-2021-53-488-515

Ф. Паньини, LOYTEC Electronics GmbH (Вена, Австрия)

Этот адрес электронной почты защищен от спам-ботов. У вас должен быть включен JavaScript для просмотра.
ORCID: 0000-0003-4618-0740
 ResearcherID: AAU-6991-2021
Статьи автора в БД «Scopus» и «Web of Science»:       DOI: 10.17072/1995-4190-2021-53-488-515
Реквизиты: Харитонова Ю. С., Савина В. С., Паньини Ф. Гражданско-правовая ответственность при разработке и применении систем искусственного интеллекта и робототехники: основные подходы // Вестник Пермского университета. Юридические науки. 2022. Вып. 58. C. 683–708. DOI: 10.17072/1995-4190-2021-58-683-708
DOI: 10.17072/1995-4190-2021-58-683-708
Аннотация:

Введение:изучение вопросов правового обеспечения безопасности и адекватности применения систем искусственного интеллекта привело нас к неизбежности обращения к проблемам ответственности при использовании систем искусственного интеллекта. Приоритет отдан исследованию цивилистических аспектов ответственности за вред, причиненный системами искусственного интеллекта и робототехники. Развитие технологий требует переосмысления многих юридических механизмов обеспечения безопасности применения искусственного интеллекта на основе баланса в части поддержания и стимулирования инновационных отраслей. Оценка реального уровня развития технологии искусственного интеллекта заставляет не только смотреть в будущее и реагировать на имеющиеся вызовы времени, но и создавать правила для ближайших прогнозов. И если раньше считалось, что не потребуется кардинальных изменений в регулировании института юридической ответственности, то сегодня оснований так говорить с абсолютной уверенностью уже нет. Причиной стало повышение степени автономности систем искусственного интеллекта при расширении спектра возможностей их применения. Искусственный интеллект обыденно применяется в креативных индустриях, при принятии решений в различных сферах человеческой деятельности, в беспилотном транспорте и т. д. Но все еще далеки от завершения дискуссии о субъектном составе систем искусственного интеллекта, ответственных за причинение вреда, о возможности применения механизмов безвиновной гражданско-правовой ответственности и даже надлежащих уровней регулирования подобных отношений. Цель: сформировать представление о направлениях правового регулирования гражданско-правовой ответственности при применении технологии искусственного интеллекта на основе анализа российских и зарубежных научных концепций и законодательства. Методы: эмпирические методы сравнения, описания, интерпретации; теоретические методы формальной и диалектической логики; частнонаучные методы: юридико-догматический и метод толкования правовых норм. Результаты: вопрос об ответственности разработчиков и владельцев (пользователей) систем искусственного интеллекта является весьма дискуссионным. Во многих странах принимаются кодексы этики искусственного интеллекта, однако необходима именно правовая регламентация, например подход к системе искусственного интеллекта как к источнику повышенной опасности, в отсутствие соответствующих правовых норм целесообразно использование механизма деликтной ответственности исходя из аналогии закона. Важное значение в плане выявления и привлечения к ответственности разработчиков и эксплуатантов систем искусственного интеллекта также приобретает стандартизация в рассматриваемой сфере (стандартизация баз данных, программного обеспечения, инфраструктуре и др.), нарушение требований которой также может служить условием привлечения в гражданско-правовой ответственности. Новым содержанием наполняются традиционные правовые понятия предмета, объекта и субъекта причинения вреда как для сферы договорной, так и внедоговорной ответственности. Выводы:анализ показал, что на современном этапе в законодательстве различных стран появляется мягкое регулирование в сфере ответственности за вред, причиненный системами искусственного интеллекта. Однако постепенно от выработки стратегий пора сделать конкретные шаги к созданию эффективных механизмов минимизации рисков причинения ущерба без привлечения к ответственности установленных лиц. Поскольку в процесс разработки систем искусственного интеллекта вовлечено много участников, обладающих самостоятельным правовым статусом (поставщик данных, разработчик, производитель, программист, дизайнер, пользователь), установить субъекта гражданско-правовой ответственности, если что-то пойдет не так, достаточно сложно и необходимо учитывать множество факторов. В отношении причинения вреда третьим лицам подход к системе искусственного интеллекта как к источнику повышенной опасности представляется закономерным и логичным, а в отсутствие соответствующих правовых норм целесообразно использование механизма деликтной ответственности исходя из аналогии закона. В рамках модели договорной ответственности требуется выработка общих подходов к определению продукта и последствий нарушений условий договора.
Ключевые слова: искусственный интеллект; гражданско-правовая ответственность; самообучающееся программное обеспечение; взаимодействие человека с машиной; риски применения искусственного интеллекта; стандартизация систем искусственного интеллекта 
  скачать полный текст статьи
Цитируемая литература: 1. Бегишева И. Р. Уголовно-правовая охрана общественных отношений, связанных с робототехникой: дис. ... д-ра юрид. наук. Казань, 2022. 506 с.
2. Васин Е. «Что делать?» ИИ «Кто виноват?». Ответственность в «цифровых песочницах». URL: https://zakon.ru/blog/2020/9/28/chto
_delat_ii_kto_vinovat__voprosy_otvetstvennosti_v_gryaduschih_epr_chast_1_aibolit?ysclid=l9a1mhkt2o615990975.
3. Гражданское право: учебник / под ред. Ю. К. Толстого. М.: Проспект, 2009. Т. 1. 784 с.
4. Гражданское право: учебник; в 2 т. 2-е изд., перераб. и доп. М.: БЕК, 2003. Т. 1. 704 с.
5. Гурко А. В. Искусственный интеллект и авторское право: взгляд в будущее // Интеллектуальная собственность. Авторское право и смежные права. 2017. № 12. С. 7–18.
6. Кархалев Д. Н. Освобождение от договорной ответственности // Актуальные проблемы российского права. 2018. № 4. С. 64–70. DOI: 10.17803/1994-1471.2018.89.4.064-070.
7. Матвеев А. Г., Синельникова В. Н. Объек¬ты интеллектуальной собственности, получающие охрану в XXI веке // Вестник Пермского университета. Юридические науки. 2019. Вып. 44. C. 285–313. DOI: 10.17072/1995-4190-2019-44-285-313.
8. Мокшанов А. Некачественное програм¬мное обеспечение: защита интересов правоприобретателя. URL: https://zakon.ru/blog/2016/11/9
/nekachestvennoe_programmnoe_obespechenie_zaschita_interesov_pravopriobre-tatelya?ysclid=l961
rolp89975382693.
9. Морхат П. М. Искусственный интеллект: правовой взгляд: монография / РОО «Институт государственно-конфессиональных отношений и права». М.: Буки Веди, 2017. 257 с.
10. Морхат П. М. Правосубъектность искусственного интеллекта в сфере права интеллектуальной собственности: гражданско-пра¬во¬вые проблемы: дис. ... д-ра юрид. наук. М., 2018. 420 с.
11. Понкин И. В., Редькина А. И. Искусственный интеллект с точки зрения права // Вестник Российского университета дружбы народов. Серия: Юридические науки. 2018. Т. 22, № 1. С. 91–109.
12. Реутов С. И. Теоретические и нормативные основы внедрения и развития цифровизации российского общества // Пермский юридический альманах. 2019. С. 38–49.
13. Российское гражданское право: учебник; в 2 т. 2-е изд. М.: Статут, 2011. Т. 2. 1208 с.
14. Сесицкий Е.П. Проблемы правовой охраны результатов, создаваемых системами искусственного интеллекта: автореф. дис. ... канд. юрид. наук. М., 2019. 27 с.
15. Туршук Л.Д. Проблемы разграничения договорной и деликтной ответственности при оказании социальных услуг // Социальное и пен¬сионное право. 2019. № 2. С. 26–30.
16. Цвайгерт К., Кетц Х. Введение в сравнительное правоведение в сфере частного права. Т. 2. Договор. Неосновательное обогащение. Деликт. М.: Междунар. отношения, 1998. 512 с.
17. Цепов Г. В., Иванов Н. В. К цивилистической теории смарт-контрактов // Закон. 2022. № 3. С. 149–172.
18. Чеховская С. А. Использование систем искусственного интеллекта для принятия решений: построение системы принципов регулирования // Предпринимательское право. 2021. № 1. С. 24–35.
19. Abbott R. The reasonable computer: Disrupting the paradigm of tort liability // The George Washington Law Review. 2018. Vol. 86, № 1. 45 р.
20. Alheit K. The applicability of the EU product liability directive to software // Comparative and International Law Journal of Southern Africa. 2001. № 34(2). Pp. 188–209.
21. Bertsia C. Legal liability of artificial intelligence driven-systems (AI). 2019. 57 p.
22. Brynjolfsson E. Information assets, tech¬nology and organization // Management Science. 1994. № 40(12). Pp. 1645–1662.
23. Kerber W. Governance of data: Exclusive property vs. access // International Review of Intellectual Property and Competition Law. 2016. № 47(7). Pp. 759–762.
24. Calo R. Robotics and the lessons of cyberlaw // California Law Review. 2015. № 103(3). Pp. 513–563. DOI: 10.2139/ssrn. 2402972.
25. Castelvecchi D. Can we open the black box of AI? // Nature. 2016. № 538(7623). Pp. 20–23.
26. Di Nucci E., & Santoni de Sio F. Drones and Responsibility: Mapping the Feld Routledge. 2016. Pp. 1–13.
27. Doran D., Schulz S., & Besold T. R. What does explainable ai really mean? A new con¬cep¬tualization of perspectives. arXiv preprint arXiv:1710.00794. 2017. Pp. 1–8.
28. Edwards L. & Veale M. Slave to the algorithm? Why a right to explanationn is probably not the remedy you are looking for // Duke Law and Technology Review. 2017. № 16(1). Pp. 1–65. DOI: 10.2139/ ssrn.2972855.
29. Corea F. AI Knowledge Map: how to classify AI technologies. A Sketch of a New AI Technology Landscape / Corea F. An Introduction to Data: Everything You Need to Know About AI, Big Data and Data Science. Cham. Springer, 2019. С. 25–29.
30. Gerstner M. E.: Comment, Liability Issues with Artificial Intelligence Software // Santa Clara Law Review, 1993. Vol. 33, № 1. URL: http://di¬gital-commons.law.scu.edu/lawreview/vol
33/iss1/7.
31. Ghosh A., Chakraborty, D. & Law A. Ar¬ti¬ficial intelligence in Internet of things. // CAAI Transactions on Intelligence Technology. 2018. № 3(4). Pp. 208–218.
32. Heyns C. Report of the Special Rapporteur on Extra-Judicial, Summary or Ar-bit¬rary Executions. United Nations. 2013. 24 р.
33. Hildebrandt M. Privacy as protection of the incomputable self: From agnostic to agonistic machine learning // Theoretical Inquiries in Law. 2019. № 20 (1). Pp. 83–121.
34. Hojnik J. Technology neutral EU law: digital goods within the traditional goods/services distinction // International Journal of Law and In¬formation Technology. 2017. № 25(1). Pp. 63–84.
35. Kingston J. K. Artificial intelligence and legal liability. In International conference on innovative techniques and applications of artificial intelligence. 2016. Pp. 269–279.
36. European Product Liability: An Analysis of the State of the Art in the Era of New Technologies. Ed. P. Machnikowski. Intersentia: Plymouth. 2016. 715 р. DOI: https://doi.org/10.1017/
9781780685243.
37. Matthias A. The responsibility gap: Ascribing responsibility for the actions of learning automata // Ethics and Information Technology, 2004. № 6(3). Pp. 175–183. DOI: 10.1007/s10676-004-3422-1.
38. Meloni C. State and Individual Respon-sibility for Targeted Killings by Drones // Drones and Responsibility: Legal, Philosophical and Socio-Technical Perspectives on Remotely Controlled Weapons. Eds. E. Di Nucci, F. Santoni de Sio. Routledge. 2016. Pp.47–64.
39. Mittelstadt B. D., Allo P., Taddeo M., Wachter S. & Floridi L. The ethics of algorithms: Ma¬p¬ping the debate. Big Data & Society, 2016. № 3(2). Pp. 1–21. DOI: 10.1177/20539517 16679679.
40. Morhat P. M. Legal personality of AI in the field of intellectual property law: civil
law problems: Dr. Jurid. Sciences dis. M., 2018.
420 p.
41. Navas, S. Producer Liability for AI-Based Technologies in the European Union // Inter¬national Law Research. 2020. № 9(1). Pp. 77–84.
42. Noto La Diega, G. Against the Dehuma¬nisation of Decision-Making – Algorith¬mic Decisions at the Crossroads Of Intellectual Property, Data Protection, and Freedom of Infor¬mation // Journal of Intellectual Property, Infor¬mation Technology and Electronic Commerce Law. 2018. № 19(1). Pp. 3–34.
43. Oettinger G. Europe's future is digital, Speech at Hannover Messe // Speech. 2015. № 15-4772. URL: http://europa.eu/rapid/press-release_ SPEECH-15-4772_en.htm.
44. Pagallo U. The laws of robots: Crimes, contracts, and torts. Springer, 2013. 200 p.
45. Pasquale F. The black box society: the secret algorithms that control money and infor-mation. Harvard University Press, 2016. 310 p.
46. Perc M., Ozer M., & Hojnik J. Social and juristic challenges of artificial intelligence // Palgrave Communications. 2019. №5(1). Pp. 1–7.
47. Rakhmatulina R. Sh., Sviridova E. A., Savina V. S. Legal Regulation of Artificial Intelligence and Robotization as a New Stage in the Development of the Economy // Humanities and Law Research. 2019. Issue 4. Pp. 209–216.
48. Ramalho A. Patentability of AI-Generated Inventions: Is a Reform of the Patent System Needed? Institute of Intellectual Property, Foun¬dation for Intellectual Property of Japan, 2018. United States Patent and Trademark Office. 2019. 32 р.
49. Wachter S., Mittelstadt B. & Floridi L. Why a Right to Explanation of Automated Decision-Making Does Not Exist in the General Data Pro¬tection Regulation // International Data Privacy Law. 2017. № 7(2). Pp. 76–99. DOI: 10.1093/ idpl/ipx005.
50. Wagner G. Robot Liability // Liability for Artificial Intelligence and the Internet of Things/ Eds. S. Lohsse, R. Schulze, D. Staudenmayer. Baden Baden: Nomos Verlag, 2018. Pp. 27–63.
51. Weng Y.-H. Beyond robot ethics: on a legislative consortium for social robotics // Advanced Robotics. 2010. Vol. 24, № 13. Pp. 1919–1926. URL: https://www.researchgate.net/publication/ 46914077_Beyond_Robot_Ethics_On_a_Legi-sla¬tive_Consortium_for_Social_Robotics.
52. WIPO technology trends 2019: arti¬ficial intelligence. WIPO, 2019. 158 p.
Поступила в редакцию: 05.07.2022
Финансирование:

---

Вход на сайт

Пермский Государственный Университет
614068, г. Пермь, ул. Букирева, 15 (Юридический факультет)
+7 (342) 2 396 275
vesturn@yandex.ru
ISSN 1995-4190 ISSN (eng.) 2618-8104
ISSN (online) 2658-7106
DOI 10.17072/1995-4190
(с) Редакционная коллегия, 2011.
Журнал зарегистрирован в Федеральной службе по надзору в сфере связи и массовых коммуникаций.
Свид. о регистрации средства массовой информации ПИ № ФС77-33087 от 5 сентября 2008 г.
Перерегистрирован в связи со сменой наименования учредителя.
Свид. о регистрации средства массовой информации ПИ № ФС77-53189 от 14 марта 2013 г.
Журнал включен в Перечень ВАК и в РИНЦ (Российский индекс научного цитирования)
Учредитель и издатель: Государственное образовательное учреждение высшего образования
“Пермский государственный национальный исследовательский университет”.
Выходит 4 раза в год.