W skrócie
- Firma macierzysta Kraken, Payward, dołączyła do projektu Glasswing firmy Anthropic i używa Claude Mythos 5 do cyberbezpieczeństwa.
- Firma poinformowała, że Mythos 5 będzie skanować jej systemy w poszukiwaniu luk, a wyniki będą przeglądane i łatane w ramach istniejącego programu bezpieczeństwa.
- Projekt Glasswing daje zweryfikowanym organizacjom dostęp do modeli AI o zdolnościach cybernetycznych firmy Anthropic do prac obronnych w zakresie bezpieczeństwa.
Firma macierzysta Kraken, Payward, dołączyła do projektu Glasswing firmy Anthropic i używa Claude Mythos do poszukiwania luk w zabezpieczeniach.
Ruch ten następuje po liście otwartym od ponad 40 firm bitcoinowych i kryptowalutowych, w tym Kraken, wysłanym w zeszłym tygodniu do Anthropic, OpenAI i innych czołowych laboratoriów AI, żądającym, aby laboratoria graniczne otworzyły programy dostępu zaufanego dla wykwalifikowanych obrońców, aby pomóc w ochronie przed zagrożeniami.
Payward poinformował w poniedziałek, że firma użyje Mythos 5 do skanowania swoich systemów w poszukiwaniu podatności, a wyniki zostaną przesłane do zespołów ds. bezpieczeństwa w celu przeglądu. Jest to pierwsza odnotowana firma kryptowalutowa, która dołączyła do projektu i uzyskała dostęp do Claude Mythos 5.
„Wybór daje działowi bezpieczeństwa Payward wczesny dostęp do tej samej klasy modelu, zwiększając jego zdolność do zwalczania zaawansowanych podatności oprogramowania i ochrony milionów klientów na całym świecie” – napisał Payward.
Błędy znalezione w oprogramowaniu open-source innych firm będą zgłaszane opiekunom projektów, poinformowała firma, dodając, że takie podejście może pomóc w ochronie jej infrastruktury finansowej i wzmocnieniu oprogramowania open-source używanego w całej branży kryptowalut.
Project Glasswing to program cyberbezpieczeństwa Anthropica, który daje zweryfikowanym organizacjom dostęp do jego najbardziej zaawansowanych modeli cybernetycznych. Uruchomiony w kwietniu i rozszerzony w czerwcu, partnerzy programu odkryli od tego czasu tysiące podatności o wysokim lub krytycznym stopniu zagrożenia.
Anthropic nie odpowiedział natychmiast na prośbę o komentarz ze strony Decrypt.
Ta wiadomość pojawia się w obliczu rosnących dowodów na to, że modele AI mogą być potężnymi narzędziami zarówno do znajdowania, jak i wykorzystywania luk w oprogramowaniu. W kwietniu Mozilla poinformowała, że Claude Mythos od Anthropic zidentyfikował 271 luk w Firefoksie podczas testów.
W zeszłym tygodniu ponad 40 firm z branży Bitcoin i kryptowalut, w tym Ark Invest, Coinbase, Block i BitGo, wezwało główne laboratoria AI do udostępnienia wykwalifikowanym badaczom bezpieczeństwa dostępu do ich najbardziej zaawansowanych modeli. Zorganizowany przez Bitcoin Policy Institute list argumentował, że deweloperzy chroniący infrastrukturę finansową opartą na otwartym kodzie źródłowym potrzebują dostępu do najnowocześniejszej AI, aby znaleźć i naprawić luki, zanim wykorzystają je atakujący.
„Bezpieczeństwo zawsze było nieuczciwą grą. Atakujący musi znaleźć jedną lukę. Obrońca musi znaleźć je wszystkie, jako pierwszy, każdego dnia” – powiedział Arjun Sethi, współdyrektor generalny Payward. „Najnowocześniejsza AI to pierwsza rzecz, która odwraca tę asymetrię. Model może przeczytać każdą linię kodu tak, jak zrobiłby to atakujący, na masową skalę, więc znajdujemy lukę, zanim ktokolwiek będzie mógł opracować exploit.”
