Agenci AI zaczęli wykonywać transakcje i przenosić środki bez ciągłej zgody człowieka, co skłoniło CEO Brickken, Edwina Matę, do argumentacji, że odpowiedzialność musi podążać za przyznanym oprogramowaniu uprawnieniem, a nie być przypisywana samemu AI.
Podsumowanie
- Agenci AI nie mogą przyjmować obowiązków prawnych, ponieważ obecne prawo nie uznaje ich za osoby prawne.
- Mata powiedział, że mocodawcy zwykle ponoszą konsekwencje, gdy agenci działają w ramach autoryzowanego mandatu.
- ERC-8226 proponuje limity czasowe, limity finansowe, kontrolę odwołań oraz weryfikowalne zapisy dla agentów AI.
- Amerykańskie przepisy dotyczące papierów wartościowych już wymagają, aby brokerzy-dealerzy kontrolowali systemy automatyczne, które mają dostęp do regulowanych rynków.
Sandmark poinformował 6 sierpnia, że istniejące przepisy nie dają jednoznacznej odpowiedzi na temat strat spowodowanych przez autonomicznych agentów finansowych, pozostawiając sądom zbadanie użytkownika, dewelopera, platformy i instytucji zaangażowanych w każdą transakcję.
Raport stwierdził, że prawo umów, zasady niedbalstwa, odpowiedzialność za produkt i obowiązki powiernicze mogą mieć zastosowanie, w zależności od tego, kto kontrolował agenta i co spowodowało stratę. Użytkownik może ponieść skutki autoryzowanej transakcji, podczas gdy deweloper lub platforma mogą być narażeni na roszczenia, jeśli wadliwy projekt, słabe zabezpieczenia lub zmanipulowane informacje wypchnęły agenta poza jego zamierzoną rolę.
Komentując tę kwestię, Edwin Mata, prawnik oraz CEO i współzałożyciel platformy tokenizacyjnej Brickken, powiedział crypto.news, że odpowiedzialność nigdy nie powinna być przypisywana bezpośrednio oprogramowaniu.
„Zgodnie z obecnym prawem AI nie jest osobą prawną zdolną do przyjmowania obowiązków lub ponoszenia odpowiedzialności. Jest to system techniczny działający w imieniu osoby fizycznej lub prawnej.”
Według Maty, dochodzenie powinno zamiast tego ustalić, kto autoryzował agenta, czyje interesy reprezentował i jakie uprawnienia otrzymał. Takie badanie pomogłoby odróżnić przegraną decyzję podjętą w ramach zatwierdzonej strategii od transakcji, która przekroczyła limity agenta.
Odpowiedzialność agenta AI podąża za przyznanym uprawnieniem
Mata porównał relację prawną do pełnomocnictwa, na mocy którego jedna strona otrzymuje pozwolenie na działanie w imieniu drugiej w określonym zakresie. Gdy emitent, bank lub inwestor autoryzuje agenta do przeprowadzania transakcji, powiedział, mocodawca zwykle ponosi konsekwencje działań mieszczących się w tym uprawnieniu.
Zgodnie z tym samym rozumowaniem, inwestor nie może odrzucić transakcji tylko dlatego, że oprogramowanie przyniosło niekorzystny wynik. Strata cenowa sama w sobie nie dowodzi, że agent działał bez pozwolenia lub że inna strona uchybiła swoim obowiązkom.
„Emitent nie może wyprzeć się niekorzystnej, ale autoryzowanej transakcji tylko dlatego, że decyzja została podjęta przez oprogramowanie” – powiedział Mata.
Odpowiedzialność może się zmienić, gdy agent przekroczy swój mandat. Mata powiedział, że deweloper, platforma lub instytucja finansowa mogą być narażone na odpowiedzialność, jeśli ich projekt lub kontrole spowodowały lub umożliwiły awarię, chociaż ostateczna ocena zależałaby od faktów i obowiązującego prawa.
Sandmark przytoczył podobne rozróżnienia prawne w swoim raporcie. Chanté Eliaszadeh, założycielka Astraea Counsel, powiedziała publikacji, że odpowiedzialność zazwyczaj podąża za kontrolą. Powiedziała, że użytkownicy są zwykle punktem wyjścia, gdy agenci działają w ich imieniu, ale deweloperzy mogą być narażeni na ryzyko, jeśli system sprzedawany do autonomicznego handlu zawiedzie w przewidywalny sposób.
Kwestia ta stała się pilniejsza, gdy agenci uzyskują bezpośredni dostęp do portfeli i systemów płatności. W maju raport Keyrock wykazał, że agenci AI rozliczyli 73 miliony dolarów w 176 milionach transakcji w ciągu ostatnich 12 miesięcy, przy czym USDC stanowiło 98,6% zbadanych płatności.
Coinbase również podłączył agentów do handlu, zarządzania portfelem i płatności w ramach limitów ustawionych przez użytkownika. Do lipca Chainalysis naliczyło ponad 100 milionów płatności powiązanych z x402 na Base, chociaż firma analityczna stwierdziła, że farming memecoinów i zautomatyzowana aktywność przyczyniły się do wczesnych sum transakcji. Liczby te nie reprezentowały zatem wyłącznie niezależnych agentów kupujących towary lub usługi.
Zgoda człowieka wymaga jasnych i egzekwowalnych ograniczeń
Chociaż osoba może formalnie zatwierdzić działanie agenta, Mata powiedział, że sama zgoda nie zapewnia znaczącej kontroli, jeśli osoba nie może zrozumieć przyznanej władzy.
Skuteczne delegowanie, jego zdaniem, wymaga listy dozwolonych działań i kwalifikujących się aktywów, wraz z limitami dla poszczególnych transakcji i całkowitych wydatków. Mandat powinien również określać czas jego trwania, warunki wymagające przeglądu przez człowieka, prawo zleceniodawcy do odwołania dostępu oraz rejestr każdego podjętego działania.
Takie kontrole pojawiają się już w produktach komercyjnych. Anchorage Digital wprowadziło bankowość agentową w maju z zweryfikowanymi tożsamościami, limitami wydatków i kontrolami audytowymi dla autonomicznych systemów uzyskujących dostęp do kryptowalut i tradycyjnych torów płatniczych.
Visa i Wirex oddzielnie przetestowały płatności stablecoinami prowadzone przez agentów dla subskrypcji oprogramowania, budżetów marketingowych i zaopatrzenia. Według Wirex, próby miały na celu zbadanie bezpieczeństwa, niezawodności, przejrzystości i kontroli konsumenta, gdy oprogramowanie inicjuje płatności dla użytkownika lub firmy.
Przewodnik po płatnościach agentowych z czerwca wyjaśnił, jak x402 pozwala autonomicznemu oprogramowaniu płacić za dane, usługi obliczeniowe i zasoby online za pomocą stablecoinów. Ponieważ te płatności mogą odbywać się bez zatwierdzania każdej transakcji przez osobę, systemy autoryzacji muszą określać, co agent może kupić, ile może wydać i kiedy kończy się jego dostęp.
ERC-8226 rejestrowałby mandaty agentów AI w łańcuchu
Mata wskazał na ERC-8226, proponowany Standard Mandatu Regulowanego Agenta, jako jeden z modeli umożliwiających weryfikację delegowanej władzy.
Złożony jako projekt standardu Ethereum 12 kwietnia, ERC-8226 jest przeznaczony dla agentów AI działających z tokenizowanymi regulowanymi aktywami. Propozycja została napisana przez współpracowników Brickken: Ludovico Rossiego, Dario Lo Buglio, Thamera Dridiego i Nabila El Alami Khalifiego.
Znany jako RAMS, standard pozwoliłby zweryfikowanemu zleceniodawcy udzielić agentowi w łańcuchu uprawnień ograniczonych przez aktywa, działania, czas trwania i wartość pieniężną. Regulowany kontrakt tokena mógłby sprawdzać mandat, gdy agent próbuje wykonać transakcję.
Propozycja rozdziela trzy pytania, które mogą pojawić się podczas transakcji prowadzonej przez agenta. Rejestr tożsamości potwierdzałby, że agent istnieje, dostawca zgodności określałby, czy zleceniodawca kwalifikuje się do transakcji danym aktywem, a rejestr RAMS weryfikowałby, czy planowane działanie mieści się w delegowanym mandacie.
Zgodnie z projektem specyfikacji, mandat mógłby ustawić maksymalną kwotę dla jednej transakcji i łączną kwotę dla wielu transakcji. Mógłby również zawierać czasy aktywacji i wygaśnięcia, dozwolone aktywa, zatwierdzone działania, funkcje odwołania oraz zapisy pokazujące, ile władzy agent już wykorzystał.
Mata powiedział, że RAMS nie przenosiłby odpowiedzialności na agenta ani nie zwracałby zleceniodawcy strat za autoryzowane straty. Zamiast tego, proponowany standard dostarczałby dowodów pokazujących, kto przyznał władzę, co agent mógł zrobić i czy transakcja pozostała w tych granicach.
„Jego celem jest uczynienie atrybucji weryfikowalną: kto przyznał władzę, co agentowi wolno było zrobić, czy pozostał w tych granicach i która osoba lub kontrola zawiodła, gdy nie pozostał.”
ERC-8226 pozostaje projektem, a nie przyjętym standardem Ethereum ani wymogiem prawnym. Jego strona dyskusyjna wymienia również nierozwiązane pytania, w tym czy tokeny zakupione przez agenta powinny pozostać w portfelu agenta, czy też trafiać bezpośrednio do portfela zleceniodawcy.
Przepisy USA pozostawiają odpowiedzialność regulowanym firmom
Dla rynków amerykańskich istniejące przepisy dotyczące papierów wartościowych już nakładają obowiązki na firmy zapewniające dostęp do giełd i alternatywnych systemów obrotu.
Zgodnie z zasadą SEC 15c3-5, broker-dealer zapewniający dostęp do rynku musi utrzymywać finansowe i regulacyjne kontrole ryzyka pod swoją bezpośrednią i wyłączną kontrolą, z zastrzeżeniem ograniczonych wyjątków. Wytyczne SEC mówią, że broker-dealer pozostaje odpowiedzialny za skuteczność tych kontroli, nawet gdy korzysta z technologii dostarczonej przez niezależną stronę trzecią.
Zasada wymaga zautomatyzowanych kontroli przedtransakcyjnych zaprojektowanych w celu zatrzymania zleceń przekraczających wcześniej ustalone progi kredytowe lub kapitałowe. Wymaga również kontroli ograniczających systemy transakcyjne do upoważnionych osób, blokujących zabronione transakcje papierami wartościowymi oraz dostarczających natychmiastowe raporty z wykonania personelowi nadzorczemu.
W przypadku płatności konsumenckich, Rozporządzenie E wymaga, aby wcześniej autoryzowane elektroniczne transfery środków posiadały pisemną lub podobnie uwierzytelnioną autoryzację od posiadacza rachunku. Wytyczne CFPB mówią również, że proces autoryzacji powinien wykazywać tożsamość i zgodę konsumenta, jednocześnie umożliwiając konsumentowi zatrzymanie lub odwołanie przyszłych płatności zgodnie z określonymi procedurami.
Obecne zasady CFPB nie określają bezpośrednio, jak stała dyspozycja, taka jak „zarządzaj moim portfelem”, powinna być stosowana, gdy agent AI samodzielnie wybiera i wykonuje poszczególne transfery. Sandmark poinformował, że prawnicy są podzieleni co do tego, czy zmanipulowana płatność agenta przypominałaby nieautoryzowany transfer spowodowany skradzionymi danymi uwierzytelniającymi, czy autoryzowaną transakcję przeprowadzoną na podstawie wcześniej udzielonego dostępu.
Poza Stanami Zjednoczonymi, zastępczyni gubernatora Banku Anglii, Sarah Breeden, powiedziała w czerwcu, że ramy nadzoru finansowego nie zostały zaprojektowane dla autonomicznych agentów i że wymaganie ludzkiej zgody na każde działanie może być nierealistyczne. Powiedziała, że organy regulacyjne rozważają silniejsze zabezpieczenia, w tym wyłączniki obwodowe lub ogólnorynkowe wyłączniki awaryjne, jeśli wadliwe modele AI zagroziłyby systemom transakcyjnym.
