KI-Agenten haben begonnen, Trades auszuführen und Gelder zu bewegen, ohne dass eine ständige menschliche Genehmigung erforderlich ist. Dies veranlasst Edwin Mata, CEO von Brickken, zu der Argumentation, dass die Haftung der dem Software gewährten Autorität folgen muss und nicht der KI selbst zugeschrieben werden sollte.
Zusammenfassung
- KI-Agenten können keine rechtlichen Pflichten übernehmen, da das geltende Recht sie nicht als juristische Personen anerkennt.
- Mata sagte, dass Auftraggeber normalerweise das Ergebnis tragen, wenn Agenten innerhalb eines autorisierten Auftrags handeln.
- ERC-8226 schlägt Zeitlimits, finanzielle Obergrenzen, Widerrufskontrollen und überprüfbare Aufzeichnungen für KI-Agenten vor.
- Die US-Wertpapierregeln verlangen bereits von Broker-Dealern, automatisierte Systeme zu kontrollieren, die Zugang zu regulierten Märkten haben.
Sandmark berichtete am 6. August, dass bestehende Gesetze keine einheitliche Antwort auf Verluste bieten, die durch autonome Finanzagenten verursacht werden, sodass Gerichte den Nutzer, Entwickler, die Plattform und das Institut untersuchen müssen, die an jeder Transaktion beteiligt sind.
Der Bericht besagte, dass Vertragsrecht, Fahrlässigkeitsregeln, Produkthaftung und treuhänderische Pflichten alle anwendbar sein könnten, je nachdem, wer den Agenten kontrollierte und was den Verlust verursachte. Ein Nutzer könnte das Ergebnis eines autorisierten Handels tragen, während ein Entwickler oder eine Plattform mit Ansprüchen konfrontiert sein könnte, wenn fehlerhaftes Design, schwache Sicherheitsvorkehrungen oder manipulierte Informationen den Agenten über seine beabsichtigte Rolle hinausgetrieben haben.
Zu diesem Thema sagte Edwin Mata, Anwalt und CEO sowie Mitbegründer der Tokenisierungsplattform Brickken, gegenüber crypto.news, dass die Verantwortung niemals direkt der Software zugewiesen werden sollte.
„Nach geltendem Recht ist KI keine juristische Person, die Pflichten übernehmen oder haften kann. Es ist ein technisches System, das im Namen einer natürlichen oder juristischen Person handelt.“
Laut Mata sollte eine Untersuchung stattdessen feststellen, wer den Agenten autorisiert hat, wessen Interessen er vertreten hat und welche Befugnisse er erhalten hat. Eine solche Untersuchung würde helfen, eine Verlustentscheidung innerhalb einer genehmigten Strategie von einer Transaktion zu unterscheiden, die die Grenzen des Agenten überschritten hat.
Die Haftung von KI-Agenten folgt der erteilten Autorität
Mata verglich das Rechtsverhältnis mit einer Vollmacht, bei der eine Partei die Erlaubnis erhält, für eine andere innerhalb eines definierten Rahmens zu handeln. Wenn ein Emittent, eine Bank oder ein Investor einen Agenten autorisiert, Transaktionen durchzuführen, sagte er, würde der Auftraggeber normalerweise die Konsequenzen für Handlungen tragen, die innerhalb dieser Autorität bleiben.
Nach derselben Logik könnte ein Investor einen Handel nicht einfach ablehnen, weil die Software ein ungünstiges Ergebnis erzielt hat. Ein Preisverlust zeigt nicht von selbst, dass der Agent ohne Erlaubnis gehandelt hat oder dass eine andere Partei ihre Pflichten verletzt hat.
„Ein Emittent kann eine ungünstige, aber autorisierte Transaktion nicht allein deshalb ablehnen, weil die Entscheidung von Software generiert wurde“, sagte Mata.
Die Verantwortung kann sich ändern, wenn ein Agent sein Mandat überschreitet. Mata sagte, ein Entwickler, eine Plattform oder ein Finanzinstitut könnte haftbar gemacht werden, wenn sein Design oder seine Kontrollen das Versagen verursacht oder ermöglicht haben, obwohl die endgültige Bewertung von den Fakten und dem anwendbaren Recht abhängen würde.
Sandmark zitierte in seinem Bericht ähnliche rechtliche Unterscheidungen. Chanté Eliaszadeh, Gründerin von Astraea Counsel, sagte der Publikation, dass die Haftung im Allgemeinen der Kontrolle folge. Sie sagte, dass Nutzer normalerweise der Ausgangspunkt sind, wenn Agenten in ihrem Namen handeln, aber Entwickler könnten Risiken ausgesetzt sein, wenn ein für autonomen Handel vermarktetes System auf vorhersehbare Weise versagt.
Die Frage wird dringlicher, da Agenten direkten Zugang zu Wallets und Zahlungssystemen erhalten. Im Mai stellte ein Keyrock-Bericht fest, dass KI-Agenten in den letzten 12 Monaten 73 Millionen US-Dollar über 176 Millionen Transaktionen abgewickelt hatten, wobei USDC 98,6 % der untersuchten Zahlungen ausmachte.
Coinbase hat auch Agenten mit Handel, Portfoliomanagement und Zahlungen unter benutzerdefinierten Limits verbunden. Bis Juli hatte Chainalysis mehr als 100 Millionen x402-verknüpfte Zahlungen auf Base gezählt, obwohl das Analyseunternehmen erklärte, dass Meme-Coin-Farming und automatisierte Aktivitäten zu den frühen Transaktionszahlen beigetragen haben. Die Zahlen repräsentierten daher nicht nur unabhängige Agenten, die Waren oder Dienstleistungen kauften.
Menschliche Genehmigung benötigt klare und durchsetzbare Grenzen
Während eine Person die Aktivität eines Agenten formell genehmigen kann, sagte Mata, dass die Zustimmung allein keine sinnvolle Kontrolle bietet, wenn die Person die erteilte Autorität nicht verstehen kann.
Eine effektive Delegation erfordert seiner Ansicht nach eine Liste erlaubter Aktionen und berechtigter Vermögenswerte sowie Grenzen für einzelne Transaktionen und Gesamtausgaben. Ein Mandat sollte auch seine Dauer, die Bedingungen, die eine menschliche Überprüfung erfordern, das Recht des Auftraggebers, den Zugriff zu widerrufen, und eine Aufzeichnung jeder ergriffenen Maßnahme festlegen.
Solche Kontrollen erscheinen bereits in kommerziellen Produkten. Anchorage Digital führte im Mai agentisches Banking ein, mit verifizierten Identitäten, Ausgabelimits und Prüfkontrollen für autonome Systeme, die auf Krypto- und traditionelle Zahlungsschienen zugreifen.
Visa und Wirex haben separat agentengeführte Stablecoin-Zahlungen für Software-Abonnements, Marketingbudgets und Beschaffung getestet. Laut Wirex wurden die Tests durchgeführt, um Sicherheit, Zuverlässigkeit, Transparenz und Verbraucherkontrolle zu untersuchen, wenn Software Zahlungen für einen Benutzer oder ein Unternehmen initiiert.
Ein Leitfaden zu agentischen Zahlungen vom Juni erklärte, wie x402 es autonomer Software ermöglicht, für Daten, Computerdienste und Online-Ressourcen mit Stablecoins zu bezahlen. Da diese Zahlungen ohne eine Person erfolgen können, die jede Transaktion genehmigt, müssen Autorisierungssysteme festlegen, was der Agent kaufen kann, wie viel er ausgeben kann und wann sein Zugriff endet.
ERC-8226 würde KI-Agenten-Mandate onchain aufzeichnen
Mata wies auf ERC-8226, den vorgeschlagenen Standard für regulierte Agentenmandate, als ein Modell hin, um delegierte Autorität überprüfbar zu machen.
Als Entwurf eines Ethereum-Standards am 12. April eingereicht, ist ERC-8226 für KI-Agenten konzipiert, die mit tokenisierten regulierten Vermögenswerten arbeiten. Der Vorschlag wurde von den Brickken-Mitarbeitern Ludovico Rossi, Dario Lo Buglio, Thamer Dridi und Nabil El Alami Khalifi verfasst.
Bekannt als RAMS, würde der Standard einem verifizierten Auftraggeber erlauben, einem Onchain-Agenten eine Berechtigung zu erteilen, die durch Vermögenswert, Aktion, Dauer und Geldwert begrenzt ist. Ein regulierter Token-Vertrag könnte das Mandat überprüfen, wenn der Agent versucht, eine Transaktion auszuführen.
Der Vorschlag trennt drei Fragen, die während eines agentengeführten Handels auftreten können. Ein Identitätsregister würde bestätigen, dass der Agent existiert, ein Compliance-Anbieter würde feststellen, ob der Auftraggeber berechtigt ist, mit dem Vermögenswert zu handeln, und das RAMS-Register würde überprüfen, ob die geplante Aktion innerhalb des delegierten Mandats liegt.
Unter der Entwurfsspezifikation könnte ein Mandat einen Höchstbetrag für eine einzelne Transaktion und einen kumulativen Betrag über mehrere Transaktionen festlegen. Es könnte auch Aktivierungs- und Ablaufzeiten, erlaubte Vermögenswerte, genehmigte Aktionen, Widerrufsfunktionen und Aufzeichnungen enthalten, die zeigen, wie viel Autorität der Agent bereits genutzt hat.
Mata sagte, RAMS würde keine Haftung auf den Agenten übertragen oder einen Auftraggeber für einen autorisierten Verlust entschädigen. Stattdessen würde der vorgeschlagene Standard Beweise liefern, die zeigen, wer die Autorität erteilt hat, was der Agent tun konnte und ob die Transaktion innerhalb dieser Grenzen blieb.
„Sein Zweck ist es, die Zuordnung überprüfbar zu machen: wer die Autorität erteilt hat, was dem Agenten erlaubt war, ob er innerhalb dieser Grenzen blieb und welche Person oder Kontrolle versagte, wenn dies nicht der Fall war.“
ERC-8226 bleibt ein Entwurf und kein angenommener Ethereum-Standard oder eine rechtliche Anforderung. Seine Diskussionsseite listet auch ungelöste Fragen auf, einschließlich, ob von einem Agenten gekaufte Token im Wallet des Agenten verbleiben oder direkt im Wallet des Auftraggebers abgewickelt werden sollten.
US-Regeln halten die Verantwortung bei regulierten Firmen
Für US-Märkte legen bestehende Wertpapierregeln bereits Pflichten für die Firmen fest, die Zugang zu Börsen und alternativen Handelssystemen bieten.
Gemäß SEC-Regel 15c3-5 muss ein Broker-Dealer, der Marktzugang gewährt, finanzielle und regulatorische Risikokontrollen unter seiner direkten und ausschließlichen Kontrolle aufrechterhalten, vorbehaltlich begrenzter Ausnahmen. Die SEC-Leitlinien besagen, dass der Broker-Dealer für die Wirksamkeit dieser Kontrollen verantwortlich bleibt, auch wenn er Technologie verwendet, die von einem unabhängigen Dritten bereitgestellt wird.
Die Regel verlangt automatisierte Vorhandelsprüfungen, die darauf ausgelegt sind, Aufträge zu stoppen, die voreingestellte Kredit- oder Kapitalschwellen überschreiten. Sie verlangt außerdem Kontrollen, die Handelssysteme auf autorisierte Personen beschränken, verbotene Wertpapiertransaktionen blockieren und sofortige Ausführungsberichte an Überwachungspersonal liefern.
Für Verbraucherzahlungen verlangt Regulation E, dass vorautorisierte elektronische Geldtransfers eine schriftliche oder ähnlich authentifizierte Autorisierung des Kontoinhabers enthalten. Die CFPB-Leitlinien besagen auch, dass der Autorisierungsprozess die Identität und Zustimmung des Verbrauchers nachweisen sollte, während der Verbraucher zukünftige Zahlungen unter bestimmten Verfahren stoppen oder widerrufen kann.
Die aktuellen CFPB-Regeln legen nicht direkt fest, wie eine Daueranweisung wie "Verwalte mein Portfolio" anzuwenden ist, wenn ein KI-Agent einzelne Überweisungen unabhängig auswählt und ausführt. Sandmark berichtete, dass Anwälte weiterhin uneins sind, ob eine manipulierte Agentenzahlung einem unbefugten Transfer durch gestohlene Zugangsdaten oder einer autorisierten Transaktion unter zuvor gewährtem Zugriff ähneln würde.
Außerhalb der USA sagte Sarah Breeden, stellvertretende Gouverneurin der Bank of England, im Juni, dass Finanzaufsichtsrahmen nicht für autonome Agenten konzipiert seien und dass die Forderung nach menschlicher Genehmigung für jede Aktion unrealistisch sein könnte. Sie sagte, die Regulierungsbehörden erwägen stärkere Schutzmaßnahmen, einschließlich Leistungsschalter oder marktweite Notabschaltungen, falls fehlerhafte KI-Modelle Handelssysteme bedrohen.
