OpenAI i Anthropic współpracują w Waszyngtonie nad kształtowaniem federalnego systemu przeglądu zaawansowanych modeli AI, mimo że konkurują o klientów, finansowanie i przywództwo technologiczne.
Podsumowanie
- OpenAI i Anthropic popierają do 30 dni federalnego dostępu przed niektórymi premierami modeli granicznych.
- Proponowany proces miałby zastosowanie w całej branży, w tym do rywali takich jak Meta i xAI.
- Agencje federalne muszą opracować ramy do 1 sierpnia na mocy czerwcowego rozporządzenia wykonawczego.
- Nvidia, Meta i Microsoft osobno ostrzegły przed szerokimi kontrolami modeli AI o otwartej wadze.
OpenAI i Anthropic dążą do wspólnych standardów przeglądu
OpenAI i Anthropic naciskają na administrację Trumpa, aby przyjęła spójny proces przeglądu modeli AI o zaawansowanych możliwościach cyberbezpieczeństwa lub bezpieczeństwa narodowego, według The Information.
Ich współpraca następuje przed terminem 1 sierpnia, do którego agencje federalne muszą zdefiniować, które systemy powinny kwalifikować się jako „objęte modele graniczne”. Modele te mogłyby być udostępniane rządowi do oceny na okres do 30 dni przed udostępnieniem innym zaufanym partnerom.
Obie firmy podobno chcą, aby standardy były stosowane w całej branży AI, a nie ograniczały się do deweloperów już współpracujących z Waszyngtonem. Mogłoby to objąć konkurencyjne firmy, w tym Meta i xAI Elona Muska, tym samym ramom przeglądu, jeśli ich modele przekroczą ostateczny próg możliwości.
Rozmowy te oznaczają rzadkie porozumienie polityczne między OpenAI a Anthropic. Obie firmy sprzedają systemy AI ogólnego przeznaczenia i konkurują o kontrakty korporacyjne, badaczy, moc obliczeniową i inwestycje.
Żadna z firm nie ujawniła publicznie pełnych warunków, które chce zawrzeć w ostatecznych ramach.
Rozporządzenie Trumpa ustanawia dobrowolny 30-dniowy proces
Prezydent Donald Trump nakazał agencjom federalnym ustanowienie sklasyfikowanego procesu benchmarkingu poprzez Rozporządzenie Wykonawcze 14409 z 2 czerwca.
Rozporządzenie nakazuje Agencji Bezpieczeństwa Narodowego, Agencji Bezpieczeństwa Cybernetycznego i Infrastruktury, Departamentowi Skarbu oraz innym organom federalnym określenie, kiedy model AI ma wystarczająco silne możliwości, aby uzasadnić dodatkowy przegląd.
Deweloperzy uczestniczący w ramach mogliby zapytać rząd, czy model spełnia próg objętego modelu granicznego. Mogliby następnie zapewnić federalnym oceniającym dostęp na okres do 30 dni przed udostępnieniem systemu innym zatwierdzonym partnerom.
Rozporządzenie wymaga zabezpieczeń własności intelektualnej, informacji poufnych, cyberbezpieczeństwa i zagrożeń wewnętrznych podczas oceny.
Jednak wyraźnie stwierdza, że proces nie może tworzyć obowiązkowych federalnych licencji, wstępnych zezwoleń ani zasad pozwoleń na opracowywanie lub udostępnianie modeli AI. Firmy uczestniczyłyby zatem dobrowolnie, chyba że zastosowanie mają odrębne przepisy lub uprawnienia rządowe.
Amerykańscy deweloperzy AI szukają jasności przed premierami
Wspólne ramy mogłyby dać amerykańskim deweloperom jaśniejsze standardy dotyczące decydowania, kiedy oczekiwane są testy rządowe. Pozostają pytania, które benchmarki techniczne wywołają przegląd, które agencje będą testować każdy system i jak urzędnicy zatwierdzą partnerów wczesnego dostępu.
Te niepewności już wpłynęły na ostatnie premiery. OpenAI i Anthropic zapewniły urzędnikom rządowym wczesny dostęp do zaawansowanych modeli przed szerszą dystrybucją, ale zewnętrzni badacze mieli ograniczoną widoczność ocen.
Raport z lipca wykazał, że agencje, testy i wymagania zatwierdzeń związane z tymi przeglądami pozostały niejasne. Brak opublikowanego procesu może utrudnić deweloperom planowanie premier i pozostawić mniejsze firmy AI niepewne, czy te same standardy mają do nich zastosowanie.
Zastosowanie jednego progu opartego na możliwościach do OpenAI, Anthropic, Meta, xAI i innych deweloperów mogłoby zmniejszyć część tej niepewności. Mogłoby również ograniczyć obawy, że Waszyngton traktuje wybrane firmy w różny sposób.
Debata o modelach open-weight dzieli branżę
Wezwanie OpenAI i Anthropic do wspólnego procesu przeglądu pojawia się w momencie, gdy inne firmy technologiczne ostrzegają Waszyngton przed nakładaniem szerokich ograniczeń na modele AI open-weight.
Jak poinformował w zeszłym tygodniu crypto.news, Nvidia, Meta i Microsoft dołączyły do 22 innych organizacji w liście otwartym, argumentując, że szerokie restrykcje mogą osłabić przywództwo USA w obliczu zaostrzającej się konkurencji z Chinami. List podpisały również IBM, Palantir, Mistral, Hugging Face, Mozilla, Andreessen Horowitz oraz Linux Foundation.
Grupa wezwała do ukierunkowanych środków prawnych i handlowych przeciwko nadużyciom, zamiast ograniczeń obejmujących technologie o uzasadnionych zastosowaniach badawczych i biznesowych.
Modele open-weight pozwalają firmom, badaczom i rządom pobierać oprogramowanie, modyfikować je i uruchamiać na własnej infrastrukturze. Zwolennicy twierdzą, że daje to użytkownikom większą kontrolę nad danymi, bezpieczeństwem i systemami obliczeniowymi, jednocześnie obniżając koszty wdrożenia.
Sygnatariusze nie przedstawili modeli otwartych i zamkniętych jako wzajemnie wykluczających się. Zamiast tego argumentowali, że oba podejścia są potrzebne, aby wspierać konkurencję i dawać programistom różne sposoby budowania i wdrażania systemów AI.
Dyrektor generalny Nvidii, Jensen Huang, udostępnił list w swoim pierwszym poście na X i bronił roli obu modeli rozwoju.
„Świat potrzebuje zarówno zamkniętych modeli granicznych, jak i otwartych modeli granicznych.”
Elon Musk również poparł list w odpowiedzi na Huang, chociaż jego firma AI, xAI, nie została wymieniona wśród 25 zgłoszonych sygnatariuszy.
Te dwa działania dotyczą różnych części debaty politycznej. OpenAI i Anthropic dążą do spójnych federalnych ocen modeli, które przekraczają próg zdolności w zakresie bezpieczeństwa narodowego, podczas gdy list otwarty sprzeciwia się ograniczeniom opartym głównie na tym, czy model udostępnia swoje wagi.
Agencje federalne mają teraz czas do 1 sierpnia na zdefiniowanie progu modelu granicznego i nakreślenie dobrowolnego procesu przeglądu. Ostateczne ramy pokażą, czy Waszyngton skupi się na mierzalnych zdolnościach, czy zastosuje szersze warunki w oparciu o to, w jaki sposób dystrybuowane są modele AI.
