Проблемы заключения сделок с участием искусственного интеллекта

Проникновение электронных технологий в самые разные сферы повседневной жизни и хозяйственной деятельности сегодня порождает вопросы, относящиеся не только к области информационных технологий, но и к сфере правового регулирования. Одним из ключевых вопросов такого рода является вопрос правосубъектности искусственного интеллекта (ИИ). Если означить шире, то это вопрос о правовых последствиях обязательств, возникших в результате работы электронных алгоритмов.

 

Роботы – в широком смысле этого слова – уже сегодня задействованы как в производстве, так и в сфере оказания услуг. Пока в юридической науке нет универсального понятия робота. Во много условным является его определение как телесного ИИ, обладающего способностью физически проявлять себя, в том числе обрабатывать информацию и воздействовать на окружающий мир в некоторой степени [1, с. 513]. Но уже сегодня технически реализуемы и практически апробированы не только различные механизмы автоматизации конвейерной сборки, но и, например, роботизация управления такси. Тексты и изображения, которые традиционно относились к объектам авторского права в частности, сегодня тоже создаются ИИ.

Сегодня уместного говорить не просто об экспериментах по внедрению ИИ и алгоритмов обработки больших данных, а о консенсусе по вопросу о необходимости подобных инноваций. В утверждённой Указом Президентом РФ от 09.05.2017 № 203 Стратегии развития информационного общества особо отмечено то, что конкурентным преимуществом на мировом рынке обладают те государства, отрасли экономики которых основываются на технологиях анализа больших объемов данных[1].

В Национальной стратегии развития ИИ, утв. Указом Президента РФ от 10.10.2019 № 490, зафиксировано: «использование технологий искусственного интеллекта в отраслях экономики носит общий ("сквозной") характер и способствует созданию условий для улучшения эффективности и формирования принципиально новых направлений деятельности хозяйствующих субъектов»[2]. В п. 5 этой же Стратегии дано официальное определение ИИ как комплекса «технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека».

Поскольку невозможно в рамках одной статьи сколь-нибудь подробно рассмотреть все области применения таких технологических решений, ниже речь пойдёт лишь об одной сфере – об использовании ИИ в автоматизации корпоративных закупок. На практике данный частный вопрос охватывает всё более масштабный сегмент хозяйственных отношений: сперва крупнейшие заказчики, а по их примеру и остальные предприятия внедряют инструменты автоматизации своих закупок. Сегодня они касаются лишь отдельных узлов закупочных бизнес-процессов, но область применения ИИ постоянно расширяется.

Цифровизация государственных и коммерческих закупок началась в России больше 20 лет назад и прошла за это время несколько этапов. Наиболее обобщённо внедрение электронных технологий в закупочные практики можно сформулировать в виде пяти цифровых трансформаций, каждая из которых означала переход на качественно новый уровень:

Закупки в электронной форме стали первым шагом на пути внедрения цифровых технологий для закупочных бизнес-процессов. Электронную форму закупки можно определить как реализацию в Интернете всего комплекса отношений между организатором и участниками при проведении конкурентной закупки – в том числе обмен информацией, юридически значимый документооборот, сбор заявок участников закупки и соревнование конкурирующих предложений в режиме реального времени. Технически для этого используются электронные торговые площадки.

Электронные закупки коммерческие заказчики тестировали ещё в 2002 году, а в 2009 году электронные аукционы были введены и для государственных заказчиков Федеральным законом № 94-ФЗ от 8.07.2005 О размещении заказов[3]. Положительные последствиях применения электронных закупок в государственном секторе примерно в то же время были отмечены в зарубежных исследованиях[4].

Цифровизация всей закупочной работы представляет собой распространение электронных технологий не только на процесс выбора поставщика, но и на все остальные закупочные бизнес-процессы – от работы с потребностью и планирования закупки до приёмки поставленной продукции. Такая трансформация требует создания для нужд заказчика специализированного портала, обеспечивающего прохождение этих бизнес-процессов в цифровой среде, в т.ч. маршрутизацию процессов, обмен необходимой информацией, формирование юридически значимых документов, фиксацию решений и т.д.

Важнейшие этапы цифровизации всей закупочной работы – это создание цифровой среды и развитие цифровой системы [2, с. 62], которые реализуются последовательно. Причём каждый из двух этапов включает в себя несколько обособленных задач.

Автоматизация подготовки документов с использованием наследования данных и библиотек предустановленных форм – это первый шаг в направлении автоматизации закупочной работы. Часто термины «цифровизация» и «автоматизация» используют как синонимы, но по сути это две качественно различные эволюционные стадии одного процесса. Автоматизация бизнес-процессов, в отличие от цифровизации, подразумевает, что часть привычной работы человека начинает выполнять программно-аппаратный комплекс, а на высоких уровнях автоматизации – ИИ.

Автоматизация закупочной работы – это реализация с использованием алгоритмов программно-аппаратного комплекса не только подготовки документов, но и всех остальных бизнес-процессов, связанных с закупками. Возможности автоматизации позволяют реализовать закупки и по принципиально новым процедурам, качественно сокращающим организационные издержки всех сторон закупочного процесса при сохранении конкурентности и прозрачности самой закупки [3, с.149]. Например, сегодня набирают популярность т.н. «динамические закупки», в рамках которых сбор предложений поставщиков и их ранжирование автоматизировано: сбор заявок и их обработка теперь требует не нескольких недель, а нескольих несколько секунд. Этот инструмент к настоящему времени предусмотрен для государственных заказчиков Федеральным законом № 44-ФЗ от 27.03.2013 О контрактной системе[5], а для государственных корпораций – Постановлением Правительства от 11.12.2014 г. № 1352 Об участии субъектов малого и среднего предпринимательства в закупках.[6]. Схожий инструмент упомянут в Директиве ЕС О публичных закупках[7], а также зафиксирован как один из основных способов выбора поставщика в Закупочном кодексе Италии[8].

5. Автоматизация решений означает использование программно-аппаратного комплекса не только для реализации процессов, но и для принятия решений на отдельных «узлах» закупочной работы. Например, ИИ на основании анализа больших данных может выбрать наиболее эффективный способ закупки, шаблон закупочной документации или даже кандидатуру поставщика.

Использование ИИ не означает устранение человека от закупочной работы. Оно означает лишь повышение экспертного уровня этой работы. Проще говоря, по мере внедрения ИИ внимание специалиста по закупкам будет всё более и боле концентрироваться на нетиповых, специфических и особо важных ситуациях [4, с. 115].

Реализация этих и подобных им подходов создаёт ситуацию, в которой ИИ превращается из инструмента принятия решения в субъекта принятия решения. А принципиальное изменение роли программно-аппаратного комплекса в хозяйственных отношениях, связанных с закупками, ставит перед нами принципиально новые вопросы юридического порядка.

Например, робот проанализировал существующие на рынке предложения и выбрал одного из поставщиков. Фактически именно программно-аппаратный комплекс в данном случае принял решение о результатах конкурентного сопоставления. И это решение имеет юридически значимые последствия в виде перспективы заключения сделки.

Другой пример: программно-аппаратный комплекс спрогнозировал потребность в сырье и отправил автоматический запрос на поставку исходя из анализа больших данных о спросе на конечную продукцию, скорости исчерпания складских запасов в ходе производства и реализации и т.п. В этой ситуации фактически робот заключает сделку.

Сегодня правосубъектность такой сделки определяется через традиционную конструкцию рамочного договора: такой договор подписывается традиционными субъектами права (как правило – физическими лицами, действующими в качестве представителей юридических лиц), и в договоре фиксируется возможность формирования заявки на поставку с использованием ИИ. Однако важно понимать: в рамках заявки на поставку уже сегодня именно ИИ фиксирует существенные условия сделки – такие, как предмет, объём, а значит и цену. Это означает, что технически ничто не мешает ИИ формировать и заключать полноценную сделку.

Механизм установления правосубъектности в рамках такой сделки, распределения ответственности, порядок судебной защиты – всё это, в сущности, и должно стать основополагающими конструкциями той самой новой отрасли права электронных отношений или «киберправа» [5, с.68], о которой пишут уже сегодня.

Принципиальный подход к регулированию таких отношений необходимо выстраивать на принципе обеспечения баланса интересов разработчиков, потребителей и иных лиц, а также определения границ их ответственности за возможные негативные последствия использования технологий ИИ. Этот принцип был официально зафиксирован в Концепции регулирования отношений в сфере технологий искусственного интеллекта, утв. Распоряжением Правительства от 19.08.2020 № 2129-р[9].

Может ли ИИ выступать в качестве субъекта сделки и субъекта права? Уже сегодня соблазнительна – а в перспективе и актуальна – идея о том, что «правосубъектность ИИ необходима для того, чтобы ИИ был ограничен в своих правах конкретным функциональным предназначением» [6, с. 27].

Однако на сегодняшний день сложно не согласиться с выводом В.К. Андреева о том, что пока ещё «искусственный интеллект не выступает в качестве цифрового субъекта права в отношениях по обороту цифровых прав в информационной системе оператора» [7, с. 17].

Как справедливо заметил в прикладном дискурсе С.Е. Чаннов, отчасти примеряя два означенных выше противоположных мнения, предоставление ИИ «статуса субъекта права не повлечет за собой в обозримом будущем каких-то явных негативных последствий. В то же время не видны и преимущества такого решения <...> введение в правовую сферу такого принципиально нового субъекта права, как робот (СИИ), является преждевременным (хотя не исключено, что такая необходимость появится)» [8, с.108]. И в самом деле, важно не забывать о том, что правосубъектность ИИ необходима в первую очередь как механизм совершенствования общественных отношений в целом и правовых отношений в частности. Без подобного полезного эффекта формирование новой правовой конструкции представляется лишённым практического значения.

Однако то, что констатация феномена правосубъетности ИИ на современном уровне развития технологий и общественных отношений не актуальна, не отменяет того факта, что существующие отношения всё чаще реализуются с использованием ИИ. А значит, необходим ответ на вопрос не только о том, кто является правовым субъектом такого отношения, но и на вопрос о том, в какой мере использование ИИ влияет на характер и суть такого отношения.

В качестве приглашения к дискуссии можно предложить несколько вариантов решения вопроса о субъектности программно-аппаратного комплекса в рамках хозяйственных отношений с высокой степенью автоматизации:

Презумпция субъетности владельца программно-аппаратного комплекса. Из этого подхода, в частности, следует ответственность физического или юридического лица, использующего программно-аппаратный комплекс на законном праве, за любые последствия реализации алгоритмов ИИ. Тот факт, что владелец не влиял и не мог повлиять на конкретное решение, в данной парадигме не отменяет его ответственности. Статус ИИ, таким образом, приближается к статусу источника повышенной опасности. По мнению А.А. Антонова, «фиксация в законе новых систем ИИ потребуют рассмотрения вопроса о признании их источником повышенной опасности, так как взыскать с владельца ИИ возмещение ущерба за причиненный вред можно лишь через суд» [9, с. 73].

А если взглянуть с другой стороны, то, по блестящему определению С.Ф. Афанасьева, «правовое положение ИИ становится тождественным или близким тому, которое было у римских антропоморфных коллективных организаций, либо еще более редуцированным - раба, домочадцев, детей, в том числе filius in potestate tua est» [10, с.21]. Однако в таком подходе игнорируется риск возникновения невиновной ответственности владельца и тот факт, что неблагоприятные последствия работы ИИ могу быть не только следствием порока его использования, но и следствием порока разработки.

Презумпция ответственности создателя. Этот подход не отменяет субъектности владельца в правоотношении с использованием ИИ, однако существенным образом модифицирует такую конструкцию. Максимально упрощая, в данной парадигме деликтоспособность отделяется от прав на ИИ. Иными словами, если добросовестный владелец ИИ не предвидел и не мог предвидеть неблагоприятные последствия реализации алгоритмов последнего, а также не мог повлиять на них, то деликтные обязательства возлагаются не на владельца, а на разработчика того алгоритма, реализация которого и стала причиной причинения ущерба. Этот подход в большей степени отвечает технологическим реалиям работы ИИ. Однако и он не учитывает в полной мере всей его сложности.

Комплексный подход позволяет учесть то, что причиной неблагоприятных последствий работы ИИ могут стать и ошибки его разработчика, и действия заказчика как владельца программно-аппаратного комплекса, и даже действия третьих лиц. Для распределения ответственности за последствия реализации механизмов ИИ в этом случае целесообразно законодательно установить презумпцию того, что субъектом обязательств, возникших в результате нормальной работы программно-аппаратного комплекса, считается его владелец. И именно он в случае возникновения деликных обязательств должен будет доказать необходимость возложения ответственности на другого субъекта. К этой мысли нас подводит, например, В.А. Лаптев, рассуждая о субсидиарной ответственности создателя, владельца и пользователя ИИ [11, с. 96]. Таким образом, не статус владения, а характер влияния на ИИ имеет решающее значение для определения вопроса об ответственности: например, если причиной порока алгоритма стали действия владельца (который мог самостоятельно модифицировать его, неверно использовать, предоставить для обработки некорректные данные и т.п.) – то ответственным за последствия работы ИИ будет именно владелец.

Такая базовая дифференциация подходов не исключает формирования и апробирования синтетических моделей. Чрезвычайно важно при этом, чтобы любая апробируемая модель отталкивалась как от практики хозяйственных отношений, так и от специфики используемых для их реализации технических средств. Однако это не умаляет, вместе с тем, важности выработки новых базовых правовых подходов к регулированию принципиально новых феноменов. И коль скоро ИИ в полной мере проявляется себя именно в качестве такого феномена, то по мере распространения практики его использования с неизбежностью будет повышаться актуальность релевантного правового регулирования.

Разумеется, вопросами правосубъектности в рамках сделки регулирование отношений с использованием ИИ отнюдь не ограничивается. Формируемое цифровое право должно охватывать широкий круг вопросов от регулирования интеллектуальной собственности до защиты персональных данных. И потому тем более важно то, чтобы новые нормы формировались на основании выверенных профессионалами правовых принципов и продуманных правовых институтов.

 

 

Список источников:

1. Calo R. Robotics and the New Cyberlaw // Californian Law Review. 2015. Vol. 103. No. 3. P. 513.

2. Казанцев Д.А. От электронных документов до Source-to-Pay. Автоматизация закупок шаг за шагом // Госзаказ: управление, размещение, обеспечение. № 67, 2022. С. 60 – 67.

3. Казанцев Д.А. Михалёва Н.М. Автоматизация закупок как будущее контрактной системы // Вестник Российского университета дружбы народов. Серия: юридические науки. № 1, 2020. С. 137 – 159.

4. Казанцев Д.А. Закупки и машинное обучение. Есть ли пространство для применения технологии? // Госзаказ: управление, размещение, обеспечение. № 65, 2021. С. 110 – 115.

5. Kenney, M., Zysman, J. (2016) The Rise of the Platform Economy. University of Texas at Dallas. Issues in Science and Technology. 32 (3), 61–69.

6. Вавилин Е.В. Трансформация гражданско-правовых и процессуальных отношений с использованием искусственного интеллекта: формирование новых правовых режимов // Вестник гражданского процесса. 2021. № 6. С. 13 - 35.

7. Андреев В.К. Приобретение и осуществление прав юридического лица с использованием искусственного интеллекта // Предпринимательское право. 2021. № 4. С. 11 - 17.

8. Чаннов С.Е. Робот (система искусственного интеллекта) как субъект (квазисубъект) права // Актуальные проблемы российского права. 2022. № 12. С. 94 - 109.

9. Антонов А.А. Искусственный интеллект как источник повышенной опасности // Юрист. 2020. № 7. С. 69 - 74. Афанасьев С.Ф. К проблеме материальной и процессуальной правосубъектности искусственного интеллекта // Вестник гражданского процесса. 2022. № 3. С. 12 - 31.

10. Лаптев В.А. Понятие искусственного интеллекта и юридическая ответственность за его работу // Право. Журнал Высшей школы экономики. 2019. № 2. C. 79 - 102.