ИИ-агенты начали совершать сделки и перемещать средства без постоянного одобрения человека, что побудило генерального директора Brickken Эдвина Мату утверждать, что ответственность должна следовать за предоставленными программному обеспечению полномочиями, а не возлагаться на сам ИИ.
Резюме
- ИИ-агенты не могут нести юридические обязанности, поскольку действующее законодательство не признает их юридическими лицами.
- Мата заявил, что принципалы обычно несут последствия, когда агенты действуют в рамках предоставленных полномочий.
- ERC-8226 предлагает временные ограничения, финансовые лимиты, контроль отзыва и проверяемые записи для ИИ-агентов.
- Правила США по ценным бумагам уже требуют от брокеров-дилеров контролировать автоматизированные системы, имеющие доступ к регулируемым рынкам.
Sandmark сообщил 6 августа, что действующее законодательство не дает однозначного ответа на вопрос об убытках, причиненных автономными финансовыми агентами, оставляя судам возможность изучать пользователя, разработчика, платформу и учреждение, участвующие в каждой сделке.
В отчете говорится, что договорное право, правила небрежности, ответственность за качество продукции и фидуциарные обязанности могут применяться в зависимости от того, кто контролировал агента и что послужило причиной убытка. Пользователь может нести последствия санкционированной сделки, в то время как разработчик или платформа могут столкнуться с претензиями, если ошибочный дизайн, слабые меры защиты или искаженная информация вывели агента за пределы его предполагаемой роли.
Комментируя этот вопрос, Эдвин Мата, юрист, генеральный директор и соучредитель платформы токенизации Brickken, рассказал crypto.news, что ответственность никогда не должна возлагаться непосредственно на программное обеспечение.
«Согласно действующему законодательству, ИИ не является юридическим лицом, способным принимать на себя обязанности или нести ответственность. Это техническая система, действующая от имени физического или юридического лица».
По словам Маты, расследование должно вместо этого установить, кто уполномочил агента, чьи интересы он представлял и какие полномочия получил. Такое расследование помогло бы отличить убыточное решение, принятое в рамках одобренной стратегии, от сделки, нарушившей ограничения агента.
Ответственность ИИ-агента следует за предоставленными полномочиями
Мата сравнил правовые отношения с доверенностью, согласно которой одна сторона получает разрешение действовать от имени другой в определенных рамках. Когда эмитент, банк или инвестор уполномочивает агента совершать сделки, принципал обычно несет последствия действий, остающихся в рамках этих полномочий.
По той же логике инвестор не может отвергнуть сделку только потому, что программное обеспечение привело к неблагоприятному результату. Потеря цены сама по себе не доказывает, что агент действовал без разрешения или что другая сторона не выполнила свои обязанности.
«Эмитент не может отказаться от неблагоприятной, но санкционированной сделки только потому, что решение было принято программным обеспечением», — сказал Мата.
Ответственность может измениться, когда агент превышает свои полномочия. Мата сказал, что разработчик, платформа или финансовое учреждение могут столкнуться с риском, если их дизайн или контроль вызвали или допустили сбой, хотя окончательная оценка будет зависеть от фактов и применимого законодательства.
Sandmark в своем отчете привел аналогичные правовые различия. Шанте Элиазаде, основатель Astraea Counsel, сообщила изданию, что ответственность обычно следует за контролем. Она сказала, что пользователи обычно являются отправной точкой, когда агенты действуют от их имени, но разработчики могут столкнуться с риском, если система, продаваемая для автономной торговли, выйдет из строя предсказуемым образом.
Этот вопрос стал более актуальным, поскольку агенты получают прямой доступ к кошелькам и платежным системам. В мае отчет Keyrock показал, что ИИ-агенты провели расчеты на сумму 73 миллиона долларов через 176 миллионов транзакций за предыдущие 12 месяцев, при этом USDC составил 98,6% от изученных платежей.
Coinbase также подключил агентов к торговле, управлению портфелем и платежам в рамках установленных пользователем лимитов. К июлю Chainalysis насчитала более 100 миллионов платежей, связанных с x402, на Base, хотя аналитическая фирма отметила, что майнинг мем-монет и автоматизированная деятельность способствовали ранним объемам транзакций. Поэтому эти цифры не отражали только независимых агентов, покупающих товары или услуги.
Одобрение человека требует четких и enforceable ограничений
Хотя человек может формально одобрить деятельность агента, Мата сказал, что одно лишь согласие не обеспечивает значимого контроля, если человек не может понять предоставляемые полномочия.
Эффективное делегирование, по его мнению, требует списка разрешенных действий и допустимых активов, а также лимитов на отдельные транзакции и общие расходы. Мандат также должен указывать его срок действия, условия, требующие проверки человеком, право принципала отозвать доступ, и запись каждого совершенного действия.
Такие меры контроля уже появляются в коммерческих продуктах. Anchorage Digital представил агентный банкинг в мае с проверенными личностями, лимитами расходов и аудиторским контролем для автономных систем, получающих доступ к крипто- и традиционным платежным рельсам.
Visa и Wirex отдельно протестировали агентные платежи в стейблкоинах для подписок на программное обеспечение, маркетинговых бюджетов и закупок. По словам Wirex, испытания были разработаны для изучения безопасности, надежности, прозрачности и контроля со стороны потребителя, когда программное обеспечение инициирует платежи от имени пользователя или бизнеса.
В июньском руководстве по агентным платежам объясняется, как x402 позволяет автономному программному обеспечению оплачивать данные, вычислительные услуги и онлайн-ресурсы с помощью стейблкоинов. Поскольку такие платежи могут происходить без одобрения каждого транзакции человеком, системы авторизации должны устанавливать, что агент может покупать, сколько он может тратить и когда заканчивается его доступ.
ERC-8226 будет записывать мандаты ИИ-агентов в блокчейн
Мата указал на ERC-8226, предлагаемый стандарт регулируемых агентских мандатов, как на одну из моделей для обеспечения проверяемости делегированных полномочий.
Поданный как проект стандарта Ethereum 12 апреля, ERC-8226 предназначен для ИИ-агентов, работающих с токенизированными регулируемыми активами. Предложение было написано участниками Brickken Людовико Росси, Дарио Ло Бульо, Тамером Дриди и Набилем Эль Алами Халифи.
Известный как RAMS, стандарт позволит проверенному принципалу дать ончейн-агенту разрешение, ограниченное активом, действием, сроком и денежной стоимостью. Контракт регулируемого токена сможет проверять мандат, когда агент пытается выполнить транзакцию.
Предложение разделяет три вопроса, которые могут возникнуть во время торговли под руководством агента. Реестр идентичности подтвердит, что агент существует, поставщик соответствия определит, имеет ли принципал право совершать сделки с активом, а реестр RAMS проверит, входит ли планируемое действие в рамки делегированного мандата.
Согласно проекту спецификации, мандат может устанавливать максимальную сумму для одной транзакции и совокупную сумму для нескольких транзакций. Он также может включать время активации и истечения, разрешенные активы, одобренные действия, функции отзыва и записи, показывающие, какой объем полномочий агент уже использовал.
Мата сказал, что RAMS не будет передавать ответственность агенту или возмещать принципалу убытки, понесенные в рамках разрешенных действий. Вместо этого предлагаемый стандарт предоставит доказательства, показывающие, кто предоставил полномочия, что агент мог делать и оставалась ли транзакция в этих пределах.
«Его цель — сделать атрибуцию проверяемой: кто предоставил полномочия, что агенту было разрешено делать, оставался ли он в этих пределах и какой человек или контроль потерпел неудачу, если это не так».
ERC-8226 остается проектом, а не принятым стандартом Ethereum или юридическим требованием. На его странице обсуждения также перечислены нерешенные вопросы, включая то, должны ли токены, купленные агентом, оставаться в кошельке агента или переводиться непосредственно в кошелек принципала.
Правила США оставляют ответственность за регулируемыми фирмами
Для рынков США существующие правила по ценным бумагам уже возлагают обязанности на фирмы, предоставляющие доступ к биржам и альтернативным торговым системам.
В соответствии с Правилом 15c3-5 SEC, брокер-дилер, предоставляющий доступ к рынку, должен поддерживать финансовые и регуляторные меры контроля риска под своим прямым и исключительным контролем, за некоторыми исключениями. Руководство SEC гласит, что брокер-дилер остается ответственным за эффективность этих мер контроля, даже если он использует технологии, предоставленные независимой третьей стороной.
Правило требует автоматических предторговых проверок, предназначенных для остановки ордеров, превышающих заранее установленные кредитные или капитальные пороги. Оно также требует контроля, ограничивающего торговые системы для авторизованных лиц, блокирующего запрещенные сделки с ценными бумагами и обеспечивающего немедленную передачу отчетов о исполнении сотрудникам наблюдения.
Для потребительских платежей Положение E требует, чтобы предварительно авторизованные электронные переводы средств сопровождались письменным или аналогичным образом аутентифицированным разрешением от владельца счета. Руководство CFPB также гласит, что процесс авторизации должен демонстрировать личность и согласие потребителя, позволяя потребителю остановить или отозвать будущие платежи в соответствии с установленными процедурами.
Текущие правила CFPB прямо не указывают, как постоянное поручение, такое как «управляйте моим портфелем», должно применяться, когда ИИ-агент самостоятельно выбирает и выполняет отдельные переводы. Sandmark сообщила, что юристы остаются разделенными во мнениях относительно того, будет ли манипулируемый платеж агента похож на несанкционированный перевод, вызванный украденными учетными данными, или на авторизованную транзакцию, осуществленную в рамках ранее предоставленного доступа.
За пределами Соединенных Штатов заместитель управляющего Банка Англии Сара Бриден заявила в июне, что системы финансового надзора не были разработаны для автономных агентов и что требование одобрения человека для каждого действия может быть нереалистичным. Она сказала, что регуляторы рассматривают более строгие меры защиты, включая автоматические выключатели или общесистемные аварийные отключения, если неисправные модели ИИ угрожают торговым системам.
