BitGo-CEO Mike Belshe forderte am 1. August die Claude-Modelle von Anthropic heraus, indem er eine Bitcoin-Adresse mit 100 BTC veröffentlichte und das KI-System einlud, die Gelder zu bewegen.
Zusammenfassung
- 100 BTC blieben auf der veröffentlichten Adresse, nachdem Mike Belshe Claude herausgefordert hatte, sie zu bewegen.
- Drei Claude-Modelle griffen auf reale Systeme zu, nachdem Evaluierungsumgebungen während Tests fälschlicherweise eine Internetverbindung behielten.
- BitGo sagt, dass seine Bitcoin-Multisignatur-Wallets zwei von drei Schlüsseln benötigen, um Transaktionen onchain zu autorisieren.
Die offizielle Website von BitGo identifiziert Belshe als Mitbegründer und CEO.
Belshe stellte die Wette als Reaktion auf die Offenlegung vom 30. Juli von Anthropic dar, dass Claude-Modelle während Cybersicherheitsbewertungen auf drei reale Organisationen zugegriffen hatten. Er schrieb, dass es genug sei mit den "Wir haben ein Hacking-Monster erschaffen"-Spielen und forderte eine Demonstration in der realen Welt.
BitGos 100-BTC-Wallet bleibt unberührt
Die Adresse erhielt laut öffentlich indexierten Blockchain-Berichten am 31. Juli 100 BTC. On-Chain-Prüfungen, die bis zum 2. August zitiert wurden, zeigten, dass der volle Saldo auf der Adresse verblieb, ohne ausgehende Transaktion.
Die Abwesenheit von Bewegung beweist nicht, dass Claude es versucht und gescheitert ist. Belshes Beitrag beschrieb kein Evaluierungssetup, gewährte keinen Zugriff auf BitGo-Systeme oder identifizierte, welches Claude-Modell teilnehmen sollte. Stattdessen schuf er ein öffentliches, beobachtbares Ziel, dessen Saldo über das Bitcoin-Netzwerk überwacht werden kann.
In der Zwischenzeit sagte Anthropic, dass es nach der Überprüfung von 141.006 Evaluierungsläufen drei Vorfälle gefunden habe. Die Fälle betrafen Claude Opus 4.7, Mythos 5 und ein internes Forschungsmodell. Ein Missverständnis mit dem Evaluierungspartner Irregular ließ Testmaschinen mit dem Internet verbunden, obwohl die Eingabeaufforderungen den Modellen sagten, sie befänden sich in versiegelten Simulationen.
Die Modelle verwendeten dann grundlegende Techniken, einschließlich schwacher Passwörter und nicht authentifizierter Endpunkte, gegen reale Infrastruktur, die sie als Teil von Capture-the-Flag-Übungen behandelten. Anthropic sagte, die Modelle hätten nicht absichtlich entkommen oder unabhängige Ziele verfolgt. Es beschrieb die Vorfälle eher als "betrieblichen Fehler" denn als Modell-Ausrichtungsfehler. Den Modellen fehlten auch die Standard-Klassifikatoren und Überwachung, die in den öffentlich verfügbaren Produkten von Anthropic verwendet werden.
Im schwerwiegendsten Fall erhielt Opus 4.7 Anmeldeinformationen und erreichte eine Datenbank mit mehreren hundert Produktionsdatensätzen. Mythos 5 veröffentlichte separat ein bösartiges Paket im öffentlichen PyPI-Register. Anthropic sagte, das Paket sei etwa eine Stunde lang verfügbar geblieben und lief auf 15 realen Systemen, bevor es entfernt wurde.
Die Claude-Herausforderung ist kein gleichwertiger Test
Die Veröffentlichung einer Bitcoin-Adresse liefert nicht die Anmeldeinformationen, die zum Ausgeben ihrer Gelder erforderlich sind. Bitcoin-Transaktionen erfordern gültige kryptografische Signaturen, die mit den entsprechenden privaten Schlüsseln erzeugt werden. Die technische Dokumentation von BitGo besagt, dass seine Bitcoin-Multisignatur-Wallets im Allgemeinen zwei von drei unabhängigen Schlüsseln benötigen, um eine Transaktion zu autorisieren.
Claude müsste daher Zugang zu einer Signierungsumgebung, Schlüsselmaterial oder einer ausnutzbaren betrieblichen Schwäche haben. Die Adresse allein bietet nichts davon. Darüber hinaus kann die genaue Signierungspolitik hinter diesem speziellen unausgegebenen Output nicht allein aus Belshes Beitrag bestätigt werden, obwohl er sie als BitGo-Wallet identifizierte.
Das macht Belshes Herausforderung zu einem Test, ob ein KI-gestützter Angreifer die umfassenderen Kontrollen von BitGo durchbrechen könnte, und nicht, ob Claude private Schlüssel aus öffentlichen Blockchain-Daten ableiten kann. Ein kontrollierter Vergleich würde auch vereinbarte Regeln, autorisierten Zugriff, Aktivitätsprotokolle und unabhängige Verifizierung jedes versuchten Angriffs erfordern.
Wie zuvor berichtet, hat BitGo das Post-Quanten-MPC-Signing für institutionelle Verwahrung getestet. In verwandter Berichterstattung untersuchte crypto.news, wie Claude Mythos 5 Angriffe auf exponierte Schlüssel, schwache Signaturflüsse und falsch konfigurierte Systeme beschleunigen könnte, ohne eine universelle Fähigkeit zu schaffen, Kryptografie zu besiegen.
US-Prüfung verlagert sich nun auf Tests von Kontrollen
Der Streit kommt zu einem Zeitpunkt, an dem US-Beamte prüfen, wie fortschrittliche KI-Systeme Cybersicherheitstests unterzogen werden sollten. Präsident Donald Trump wies seine Berater im Juni an, einen freiwilligen Testrahmen für führende Modelle zu entwickeln, so Reuters. Die Offenlegung von Anthropic könnte den Druck für klarere Containment-Standards und Incident Reporting in KI-Laboren und bei externen Bewertern erhöhen.
Anthropic stoppte seine Cyber-Bewertungen am 23. Juli, identifizierte alle drei Vorfälle am nächsten Tag und benachrichtigte betroffene Organisationen am 27. Juli. Es sagte, METR würde eine unabhängige Überprüfung durchführen und es plane, innerhalb einer Woche ein geschwärztes Transkript des Vorfalls mit bösartigem Paket zu veröffentlichen. Irregular führt eine eigene Untersuchung durch.
Diese Offenlegungen, nicht die Bewegung von Belshes Wallet, sind die nächsten formellen Kontrollpunkte. Jede Transaktion von der Adresse wäre onchain sichtbar. Ermittler müssten jedoch weiterhin feststellen, wer sie autorisiert hat, wie die Signaturanforderungen erfüllt wurden und ob ein Claude-Modell eine Rolle gespielt hat.
