Сажать ли роботов в тюрьму?

Роботизация производств и все более широкое использование технологий искусственного интеллекта в различных аспектах повседневной жизни переводит из теоретической в практическую плоскость вопрос о правовых последствиях причинения роботом вреда человеку. За пределами этой статьи остаётся и вопрос условности понятия искусственного интеллекта на текущем уровне научно-технического развития, и вопрос о неопределённости границ понятия «робот». При рассмотрении деликтоспособности ключевым является другой вопрос: коль скоро действия искусственного интеллекта де-факто уже сегодня порождают юридические обязательства договорного характера, то тем более такие действия способны породить обязательство из причинения вреда.

Резолюция Европейского парламента от 16 февраля 2017 с рекомендациями Комиссии по гражданскому праву «Правила робототехники», указывая на возрастающую актуальность вопроса об ответственности за вред, причиненный искусственным интеллектом, отмечает вместе с тем, что действующее законодательство не позволяет прилечь искусственный интеллект даже в случае, наносят ущерб третьим лицам [10]. И хотя в данной Резолюции перспективы правовой субъектности искусственного интеллекта описаны с подчёркнутой осторожностью, но в проекте от 31 мая 2016 были сфомулированы несколько подходов к закреплению «правовой природы искусственного интеллекта: рассматривать как физических лиц, как юридические лица, как животных или объекты либо создать новую категорию, с ее собственными особенностями и последствиями в отношении присвоения прав и обязанностей, включая ответственность за ущерб» [8].

Сегодня вопрос ответственности ИИ имеет не только теоретико-правовое, но и сугубо практическое значение. Отсутствие соответствующего регулирования создаёт правовой вакуум, который потенциально может создать ситуацию отсутствия ответственности за целую группу правонарушений. Это, в свою очередь, с неизбежностью повлечёт стремление физических и юридических лиц избегать, насколько это возможно, вовлечения в такие правоотношения, в которых потенциальное нарушение их прав и законных интересов не будет иметь никаких последствий. Проще говоря, неурегулированная правовая ответственность ИИ – это один из ключевых факторов депопуляризации повседневного использования цифровых технологий, а значит и важное препятствие на пути их развития.

Классическим набором элементов правовой ответственности принято называть наличие субъекта, субъективной стороны, объекта и о объективной стороны. И если наличие объекта и объективной стороны не устраняется фактом причинения вреда в результате действий ИИ, то наличие двух оставшихся факторов представляется в высшей степени дискуссионным.

Сам феномен деликтоспособности неразрывно связан с понятием правоспособности. Иными словами, лишь субъект права может нести правовую ответственность. Однако как быть в ситуации, когда причиной возникновении деликтных обязательств стали действия субъекта, не относящегося к субъектам права?

На сегодня преждевременными представляется разговоры о присвоении искусственному интеллекту статуса правового субъекта. Ведь сходство не означает тождество, а присвоение роботу антропоморфных черт не означает обретения им тождества с человека. С точки зрения достигнутого уровня развития техники на сегодняшний день «очевидна несостоятельность предложения признания за искусственным интеллектом правосубъектности, аналогичной правосубъектности физического лица, и, несмотря на использование принципов работы человеческого мозга для построения системы искусственного интеллекта, принципы правового регулирования статуса физического лица не могут быть применены к искусственному интеллекту» [2, с. 33].

Несмотря на стремительное развитие нейросетей и технологий роботизации, всё ещё остаётся актуальным мнение о том, что «придание роботам (системе искусственного интеллекта) статуса субъекта права не повлечет за собой в обозримом будущем каких-то явных негативных последствий. В то же время не видны и преимущества такого решения по сравнению с рассмотрением роботов (систем искусственного интеллекта) в качестве квазисубъектов права. Исходя из философского принципа Оккама не умножать сущности без крайней на то необходимости, мы полагаем, что введение в правовую сферу такого принципиально нового субъекта права, как робот (система искусственного интеллекта), является преждевременным (хотя не исключено, что такая необходимость появится)» [4, с. 108]. Присвоение ИИ прав человека стало бы лишь сугубо некорректной экстраполяций свойств человека на ИИ [11, p. 15], не учитывающей ни специфику человека, ни специфику искусственного интеллекта.

Право – по крайней мере, в нынешнем его виде – сугубо антропоцентрично. Правовыми нормами регулируется действия людей и отношение между людьми в обществе. Даже тогда, когда мы имеем дело с правовой фикцией, возложение ответственности, например, на юридическое лицо на практике означает возникновении неблагоприятных последствий для конкретных физических лиц: для руководителя, для сотрудников, для собственников и т.д. При этом важно подчеркнуть, что правовой принцип соразмерности требует возложения ответственности именно на тех лиц, действиями которых прямо или косвенно и было обусловлено возникновение деликтных обязательств.

Очевидным образом, подобная правовая конструкция неприменима к случаям возникновения деликтных обязательств в результате деятельности искусственного интеллекта. Однако невозможность применения той или иной конструкции не должна означать невозможность самой ответственности. Распространение на случаи причинения вреда роботом правового режима обстоятельств непреодолимой силы очевидным образом создает пространство для злоупотреблений. Как же в таком случае надлежит регулировать вопросы правовой ответственности за действия искусственного интеллекта?

В самом первом приближении необходимо уяснить (а где это возможно, и закрепить нормативных актах) корректное соотнесение ролей человека и искусственного интеллекта в хозяйственных и правовых отношениях. По общему правилу, недопустимо возлагать на ИИ принятие ключевых решений. Эти решения должны оставаться исключительной прерогативой человека там, где это возможно.

Дело здесь не только и не столько в упомянутом выше принципе антропоцентризма. Точнее, это обстоятельство обусловлено вовлечением человека в круг потенциальных последствий деятельности робота уже не в качестве субъекта, а в качестве объекта. Например, в случае принятия решения об аварийном отключении мощностей электростанции или об аварийном сбросе воды из водохранилища даже самый продвинутый алгоритм в отсутствие сложных дополнительных настроек будет оценивать сугубо экономические последствия каждого из возможных решений. И вполне может оказаться, что внезапное затопление близлежащего поселка искусственный интеллект сочтет в данной ситуации экономически целесообразным.

Это возвращает нас к понятию субъективной стороны правонарушения. Высококлассная команда разработчиков может создать алгоритм, позволяющий до известной степени включить в механизм принятия решения роботом интересы человека в качестве наиболее высокого приоритета. Но даже она не сможет придать роботу морально-этические свойства человека, имитировать нравственные переживания и психоэмоциональное отношения к совершаемому действию.

Не нужно забывать: методы мышления человека и методы обработки информации условным искусственным интеллектом качественными образом различны. Это два разных типа обработки информации, каждый из которых обладает своими достоинствами и недостатками. И даже при наличии схожих целей неуместно переносить на один тип свойства другого.

В этих условиях по общему правилу лишь человек – при это обладающий и надлежащей экспертизой, и развитыми этическими установками, и именно антропоцентричной аксиологией – может принимать решения, затрагивающие ключевые права и законные интересы другого человека. И потому сегодня ИИ может быть лишь источником данных для эксперта, а не заменой этого эксперта. Более того, не теряет своей актуальности правило: использование ИИ тем целесообразнее, чем меньше оно влияет на жизнь и здоровье физических лиц.

При соблюдении данного правила не требуются новые правовые конструкции. Вопросы деликтоспособности вполне могут решаться с помощью существующих правовых механизмов, пусть даже адаптированных к использованию такого специфического инструмента, как ИИ. Но как быть в ситуации, когда устранение человека от принятия решений и составляет саму суть роботизации?

В качестве понятного примера можно привести роботизированное такси, автопилот морского судна или робота для микрохирургических операций. Технологическая сложность выполняемых ими задач прямо обуславливает экономическую и прикладную целесообразность устранения человека от контроля за этими операциями. Проще говоря, если за рулем находится водитель, то робот в таком такси уже не нужен – а если такси управляет робот, то наличие водителя нивелирует экономические преимущества от роботизации такси. Именно для подобных ситуаций актуальным является формирование новых правовых механизмов регулирования ответственности за действия ИИ.

Теоретик и историк права может справедливо предположить, чтобы в данной ситуации актуально не столько изобретение новых правовых конструкций, сколько обращение к старым, давно забытым правовым моделям. Речь идет, например, о модели взаимоотношений pater famalias и раба в римском праве. При таком подходе «правовое положение ИИ становится тождественным или близким тому, которое было у римских антропоморфных коллективных организаций, либо еще более редуцированным – раба, домочадцев, детей, в том числе filius in potestate tua est» [1, с.21]. Однако простой принцип «за все действия раба правовую ответственность несет хозяин» невозможно механистически перенести на модель распределении ответственности за последствия действий робота.

Это отнюдь не означает того, что современный ИИ более сложен в психоэмоциональном аспекте чем, например, древнеримский гладиатор. Наоборот, при исследовании первопричин того или иного решения ИИ мы можем с большей лёгкостью выделить по меньшей мере несколько ключевых субъектов, причем каждый из этих субъектов будет являться физическим лицом, юридическим лицом либо группой лиц. «Отношения с использованием искусственного интеллекта – это всегда отношения между субъектами права или по поводу объектов права. В любом случае это отношения, которые на том или ином этапе инициированы, запрограммированы человеком - субъектом права с той или иной степенью ответственности (в том числе в рамках деятельности юридических лиц). Волеизъявление человека на те или иные действия искусственного интеллекта может быть выражено в разной степени: от действий ИИ, находящихся под полным контролем воли человека, до автономных действий ИИ, опять же допускаемых и осознаваемых в своих возможных пределах и последствиях человеком (группой лиц)» [5, с. 64].

Эта возможность, в свою очередь, может и должна стать основой для рационального и справедливого распределения ответственности между ними. Речь идет о таких субъектах, как владелец ИИ, пользователь ИИ, разработчик ИИ, а также третьи лица. Именно на балансе прав обязанности и ответственности данных субъектов и представляется целесообразным базировать матрицу распределения правовой ответственности за последствия действий ИИ.

Вопрос о деликтоспособности искусственного интеллекта уже не первый год затрагивается в теоретико-правовых работах [6, p. 214, 247]. Специальные исследования как правило содержат выводы субсидиарной ответственности [9, p. 453, 480] или о матрице ответственности, на основании которой вопрос о возложении неблагоприятных правовых последствий решается индивидуально в каждом конкретном случае с учётом комплекса фактов [7, p. 81].

Разумеется, мы не можем применить уголовное или административное наказание к ИИ. Любая мера ответственности, применённая к ИИ, в любом случае повлечёт за собой неблагоприятные последствия для его пользователя: например, административный запрет на работу ИИ в течение определённого срока будет означать издержки не для самого ИИ, а лишь для того субъекта, который использовал данную систему ИИ в своей хозяйственной деятельности.

Именно этот тезис является отправной точкой для конкретизации абстрактного тезиса об индивидуализии решения о распределении ответственности в каждом конкретном случае с учётом комплекса факторов. Владелец ИИ в таком контексте предстаёт владельцем источника повышенной опасности, а в саму категорию источника повышенной опасности можно и должно включать роботов и системы ИИ в целом. По умолчанию, ответственность за неблагоприятные последствия деятельности ИИ несёт его владелец – но лишь до тех пор, пока не доказана вина иных лиц. Так, например, по результатам проведения экспертизы (а при необходимости – и следственных действий) может быть доказано то, что неблагоприятные последствия возникли в силу фундаментальных недочётов разработки. Или, напротив, лишь действия третьих лиц – например, предоставление заведомо ложной информации в составе больших данных, исследуемых ИИ – стали причиной принятия ошибочного решения, затронувшего права и законные интересы физических или юридических лиц.

На сегодня вопрос о деликтоспособности искусственного интеллекта представляется актуальным не только в теоретико-правовом, но и в прикладном аспекте, поскольку пока что умышленная или по меньшей мере неосторожная вина «посредников искусственного интеллекта (разработчиков и пользователей) в случае нанесения вреда системой искусственного интеллекта может быть вполне вероятной, юридически и экспертно доказуемой» [3, с.42]. Это, в свою очередь, в совокупности с кратко изложенными выше тезисами даёт основания для следующих ключевых выводов:

1. Вопрос об ответственности за последствия решений ИИ актуален сегодня для рациональной организации повседневых отношений, а отказ от регулирования этого вопроса может стать препятствием если не для научно-технического прогресса, то по крайней мере для популяризации цифровых технологий.
2. И текущий уровень развития права, и текущий уровень развития технологий ИИ не позволяются рассматривать ИИ в качестве субъекта правовой ответственности.
3. Невозможность признания деликтоспособности за ИИ не означает необходимости признания за ИИ статуса форс-мажора или невозможности ответственности за последствия действий ИИ.
4. Ответственность за последствия действий ИИ распределяется между его создателями, его владельцами, его пользователями и иными лицами, вовлечёнными в использование ИИ в той степени, которая влияет на результаты работы ИИ.
5. Комбинация ответственности, в т.ч. субсидиарной, в каждом конкретном случае зависит от того, чьи действия повлияли на принятие ИИ того решения, следствием которого явилось возникновение деликтных обязательств.

Таким образом, формальная невозможность возложить наказание или иную меру правовой ответственности на робота уже сегодня отнюдь не препятствует полноценному включению отношений с использованием технологий ИИ в сферу правового регулирования, в т.ч. и в части правовых последствий причинения вреда.

 

Доклад для KazantDigitalWeek, 2024

 

Список литературы

1. Афанасьев С.Ф. К проблеме материальной и процессуальной правосубъектности искусственного интеллекта // Вестник гражданского процесса. 2022. N 3. С. 12-31. DOI 10.24031/2226-0781-2022-12-3-12-31
2. Дурнева П.Н. Искусственный интеллект: анализ с точки зрения классической теории правосубъектности // Гражданское право. 2019. N 5. DOI: 10.18572/2070-2140-2019-5-30-33
3. Ивлиев Г.П., Егорова М.А. Юридическая проблематика правового статуса искусственного интеллекта и продуктов, созданных системами искусственного интеллекта // Журнал российского права. 2022. № 6. С. 32 – 46. DOI: 10.12737/jrl.2022.060
4. Чаннов С.Е. Робот (система искусственного интеллекта) как субъект (квазисубъект) права // Актуальные проблемы российского права. 2022. № 12. DOI: 10.17803/1994-1471.2022.145.12.094-109
5. Шахназаров Б.А. Правовое регулирование отношений с использованием искусственного интеллекта // Актуальные проблемы российского права. 2022. N 9. С. 63 - 72. DOI 10.17803/1994-1471.2022.142.9.063-072.
6. Bertolini A. Robots as Products: The Case for a Realistic Analysis of Robotic Applications and Liability Rules // Law, Innovation and Technology. 2013. Vol. 5. DOI: 10.5235/17579961.5.2.214
7. Colonna K. Autonomous Cars and Tort Liability // Case Western Reserve Journal of Law, Technology & thpe Internet. 2012. Vol. 4. DOI: 10.2139/ssrn.2325879
8. Draft report with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL)). Committee on Legal Affairs (31.05.2016). URL: https://www.europarl.europa.eu/doceo/document/JURI-PR-582443_EN.pdf?redirect (дата обращения: 5.09.2024).
9. Duffy S.H., Hopkins J.P. Sit, Stay, Drive: The Future of Autonomous Car Liability // SMU Science & Technology Law Review. 2013. Vol. 16
10. European Parliament Resolution of 16 February 2017 with Recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL)).
11. Nevejans N. European Civil Law Rules in Robotics: Study. European Union, 2016.