Apples KI-Schlamassel: 200.000-Dollar-macOS-Exploit blieb ungemeldet

Apple hat begrenzt, wie viele Schwachstellenberichte ein Forscher gleichzeitig einreichen kann, nachdem sein Sicherheitsteam von KI-generierten Einreichungen überflutet wurde, die Fehler erfinden, die nicht existieren, wie die Financial Timesberichtete.

Die Begrenzung hat bereits einen echten Fehler gekostet. Das in Mailand ansässige Cybersicherheits-Startup Bynario teilte der Zeitung mit, dass es mit OpenAI's ChatGPT in drei Wochen mehr als 50 Fehler in der neuesten Version von macOS aufgespürt hat. Darunter war eine Privilege-Escalation-Exploit-Kette, eine Klasse von Schwachstellen, die einem Angreifer uneingeschränkte Kontrolle über eine Maschine gibt.

Bynario konnte sie nicht melden, weil Apple weitere Einreichungen bereits abgelehnt hatte. Geschäftsführer Alfredo Pesoli schätzte den Wert des Exploits auf dem kriminellen Markt auf zwischen 100.000 und 200.000 US-Dollar und sagte, "Maintainer und Anbieter wurden von der schieren Menge an Fehlern überflutet", die aufgedeckt werden. Apple teilte der FT mit, dass es nun mit dem Unternehmen in Kontakt steht und seine Arbeit prüft.

Apple handelte im Juni und fügte eine Begrenzung und eine 30-tägige Abkühlungsphase auf seinem Sicherheitsportal hinzu, wobei Forscher eine größere Quote beantragen müssen. Jeder angebliche Fehler muss immer noch von einem Menschen bestätigt werden, obwohl Apple intern KI zur Sortierung des Stapels einsetzt. Apple sagte, es habe "kürzlich die Anzahl neuer Berichte angepasst, die ein Forscher gleichzeitig offen haben kann", und dass Forscher jederzeit eine höhere Grenze beantragen können.

Dieselben Werkzeuge arbeiten für Apple. In Sicherheitsupdates letzte Woche schrieb es Anthropic- und OpenAI-Software das Aufspüren von Fehlern zu und enthielt laut FT etwa fünfmal so viele Korrekturen wie ein normaler Zyklus.

Eine "Einreichungsflut"

Das Problem des KI-bedingten Meldeaufkommens ist in den letzten Monaten gewachsen. Im Mai sagte das Sicherheitsunternehmen Bugcrowd, zu dessen Kunden OpenAI gehört, dass die Einreichungen über seine Plattform im März innerhalb von drei Wochen um mehr als das Vierfache gestiegen seien und die meisten davon gefälscht waren. HackerOne und Nextcloud setzten ihre bezahlten Programme im April aus, wobei Nextcloud sagte, dass keine Belohnungen gezahlt würden, "unabhängig von der Schwere", bis es einen Weg gefunden habe, die wenig aufwendigen Berichte zu filtern.

Das Volumen wird durch die angebotenen Belohnungen angetrieben, wobei Meta, Microsoft, Apple und Crypto.com im Jahr 2025 zusammen mindestens 58 Millionen US-Dollar auszahlen, während Apples eigene Spitzenkategorie für einen einzelnen Fund 5 Millionen US-Dollar erreicht.

Gleichzeitig werden LLMs immer besser darin, Fehler zu finden. Im März stellte Anthropic Mythos vor, ein auf Cybersicherheit ausgerichtetes Modell, das es zunächst nur ausgewählten Technologieunternehmen, Banken und Forschern im Rahmen von Project Glasswing zur Verfügung stellte. Mozilla gab an, dass es bei internen Tests 271 Schwachstellen in Firefox aufgedeckt habe.

Im Mai gab das in Vietnam ansässige Sicherheitsunternehmen Calif an, eine Vorschauversion verwendet zu haben, um den ersten öffentlichen macOS-Kernel-Speicherkorruptions-Exploit zu entwickeln, der die Memory Integrity Enforcement überstehen kann, die Verteidigung, die Apple letzten September als das größte Speichersicherheits-Upgrade in der Geschichte der Betriebssysteme für Verbraucher ankündigte. Calif fand die Fehler am 25. April und hatte bis zum 1. Mai einen funktionierenden Exploit.

Statt einen Bericht einzureichen, brachte Calif den Exploit persönlich zum Hauptquartier von Apple in Kalifornien und sagte, man wolle vermeiden, "in der Flut von Einreichungen unterzugehen", in der Teilnehmer des Hacking-Wettbewerbs Pwn2Own gefangen waren. Bynario versuchte es drei Monate später über das Portal und kam nicht hinein.

KI-Bedrohungen für Krypto

Neben der Jagd nach Bedrohungen wird KI auch eingesetzt, um Exploits im Krypto-Bereich zu entwickeln. Der Coldcard-Wallet-Hersteller Coinkite hat vermutet, dass KI wahrscheinlich verwendet wurde, um einen Fehler in seiner Open-Source-Firmware zu entdecken, der fünf Jahre lang unbemerkt blieb und es Angreifern ermöglichte, mehr als 100 Millionen US-Dollar von seinen Hardware-Wallets zu stehlen.

Dies geschieht zwei Monate, nachdem Zcash offengelegt hat, dass der Forscher Taylor Hornby, der mit Claude Opus 4.8 arbeitete, zwei Codezeilen in seinem Orchard-Shielded-Pool gefunden hatte, die vier Jahre lang ein unentdeckbares Fälschen von ZEC ermöglichten – was die Privacy-Münze dazu veranlasste, letzten Monat das Ironwood-Upgrade einzuführen, um die Schwachstelle zu beheben.