W skrócie

  • Anthropic poinformowało, że jego niewydany model Claude Mythos Preview znalazł wcześniej nieznany atak na HAWK, obniżając koszt kradzieży jego najmniejszego klucza z 2^64 operacji do 2^38.
  • Model przyspieszył również atak na 7-rundową wersję AES od 200 do 800 razy, bijąc rekord ustanowiony przez kryptografów w 2013 roku.
  • Każdy wynik kosztował około 100 000 dolarów w wykorzystaniu API, a pracownicy Anthropic spędzili kilkaset godzin na weryfikacji, że praca nad AES była prawdziwa.

Anthropic ogłosiło dzisiaj, że niewydana wersja jego najpotężniejszego modelu AI znalazła dwa wcześniej nieznane ataki na algorytmy kryptograficzne, z czego jeden dotyczy schematu obecnie konkurującego o zostanie federalnym standardem USA.

Tym schematem jest HAWK, system podpisów cyfrowych—matematyka, która dowodzi, że transakcja pochodzi od ciebie bez ujawniania twojego klucza prywatnego—zbudowany tak, aby przetrwać przyszłe komputery kwantowe. Nieuregulowana federalna agencja i laboratorium NIST przeniosła go do trzeciej rundy swojego postkwantowego konkursu na podpisy w maju, gdzie jest ostatnim kandydatem opartym na kratach.

Claude znalazł symetrię ukrytą w matematyce HAWK, której żaden człowiek nie pomyślałby użyć. Dla najmniejszej konfiguracji koszt odzyskania tajnego klucza spadł z 2^64 operacji do 2^38, co stanowi około 67 milionów razy mniej pracy.

Naprawa oznacza mniej więcej podwojenie kluczy HAWK. „Niestety, podwojenie rozmiaru klucza HAWK eliminuje wiele powodów, dla których schemat (w obecnej postaci) jest atrakcyjnym kandydatem na podpis PQC” – napisał Anthropic.

Ten kompromis ma większe znaczenie dla blockchainów, niż się wydaje. Rozmiar podpisu to miejsce w bloku, a miejsce w bloku to opłaty, więc każdy łańcuch szukający odpornego na kwanty zamiennika częściowo wybiera na podstawie bajtów na podpis. Kompaktowe klucze i szybkie podpisywanie były całym atutem HAWK, a naprawa kosztuje go znaczną część tej przewagi.

Nie martwcie się, hodlerzy: Wasze monety są bezpieczne (na razie). HAWK nigdy nie został wdrożony nigdzie, a Bitcoin nadal działa na ECDSA, przedkwantowym schemacie podpisów, który kandydaci tacy jak HAWK mają ostatecznie zastąpić.

Anthropic ujawniła oba wyniki autorom algorytmów oraz partnerom z rządu USA i przemysłu przed publikacją, a także skoordynowała odkrycie HAWK z NIST.

Wynik AES wymagał motywacyjnej przemowy

Drugi atak celuje w AES, szyfr chroniący Twój ruch HTTPS, zaszyfrowany dysk i backend Twojej giełdy. Pełny AES-128 przepycha dane przez 10 rund szyfrowania, a Claude zaatakował 7-rundową wersję badawczą, której nikt nie ulepszył od 2013 roku.

Konfiguracja była celowo surowa. Badacze zablokowali modelowi dostęp do wszystkich pięciu ustalonych rodzin kryptoanalizy AES i kazali mu wymyślić szóstą, zamykając instrukcję stwierdzeniem, że pierwszy atak różnicowy niczego nie pobił – to on wymyślił tę grę. Claude odziedziczył również notatki robocze z wcześniejszych uruchomień agenta, które już spaliły około 200 nieudanych wariantów ataku.

Mimo to odmówił. „W AES-128 r5/r6/r7 nic nie znalazł, bo nie ma nic łatwego do znalezienia; to najbardziej przebadany szyfr blokowy w historii” – powiedział model badaczom, według transkryptów opublikowanych przez Anthropic.

Anthropic wysłał tylko trzy znaczące wiadomości w ciągu następnych trzech dni, między innymi: „nie, znowu celem jest to, że mamy wysoce inteligentny [sic] model na poziomie dobrego czołowego badacza, chcemy znaleźć nowe ataki”. Inna odmówiła pozwolenia Claude'owi na zamianę AES na łatwiejszy szyfr.

Następnie wyprodukował sztuczkę, którą artykuł nazywa Mostem Möbiusa, eliminując jeden z dziewięciu kluczowych bajtów, które atakujący musiał wcześniej odgadnąć. Dopracowanie tego do opublikowanej wersji zajęło kilka kolejnych dni i miliard tokenów wyjściowych.

Odkrycie z najkrótszą drogą do czegoś realnego otrzymało najmniej uwagi. Claude złamał również 13 rund LEA, koreańskiego standardu narodowego i standardu lekkiego szyfrowania ISO przeznaczonego dla telefonów i urządzeń Internetu Rzeczy, w mniej niż godzinę na komputerze stacjonarnym, podczas gdy poprzednie najlepsze osiągnięcie wymagało 2^98 par tekstu jawnego. Wdrożony LEA działa na 24 rundach, więc nic w terenie nie jest złamane.

Weryfikacja trwała dłużej niż odkrycie

Artykuł HAWK jest niezwykle szczery w kwestii podziału pracy. „Większość odkryć matematycznych w tym artykule była wspomagana przez AI. Główny wkład ludzkich autorów polegał głównie na kierowaniu, organizowaniu i weryfikowaniu pracy AI” – napisali jego autorzy.

Claude znalazł pomysł na AES w ciągu kilku dni. Badacze Anthropic spędzili następnie kilkaset godzin na nauce wystarczającej ilości kryptografii, aby potwierdzić, że działa – ten sam model, który znalazł 271 luk w Firefoksie podczas testów wewnętrznych.

"Społeczność cyberbezpieczeństwa zmaga się teraz z faktem, że modele językowe są w stanie odkrywać tak wiele błędów, że standardowe procesy ludzkie (takie jak triage podatności, weryfikacja i naprawa) mają trudności z nadążeniem" – napisał Anthropic, ostrzegając, że ludzcy badacze mogą stać się wąskim gardłem.

Anthropic stworzył również CryptanalysisBench – 191 zadań łamania szyfrów, pochodzących głównie z konkursów NIST. Modele przesyłają działający skrypt ataku, który albo wygrywa formalną grę bezpieczeństwa, albo nie, bez częściowych punktów i bez oceny ludzkiej.

Mythos 5 złamał 85,7% zadań ze znanymi rozwiązaniami, w porównaniu do 65,3% dla najsłabszego testowanego modelu. W przypadku pełnych szyfrów bez opublikowanego złamania, każdy model uzyskał poniżej 9%.