OpenAI und Anthropic arbeiten in Washington gemeinsam daran, ein föderales Überprüfungssystem für fortschrittliche KI-Modelle zu gestalten, obwohl sie um Kunden, Finanzierung und technologische Führung konkurrieren.
Zusammenfassung
- OpenAI und Anthropic unterstützen bis zu 30 Tage föderalen Zugang vor der Veröffentlichung einiger Grenzmodelle.
- Der vorgeschlagene Prozess würde branchenweit gelten, einschließlich Konkurrenten wie Meta und xAI.
- Bundesbehörden müssen den Rahmen bis zum 1. August gemäß einer Exekutivanordnung vom Juni entwickeln.
- Nvidia, Meta und Microsoft warnten separat vor umfassenden Kontrollen von Open-Weight-KI-Modellen.
OpenAI und Anthropic suchen gemeinsame Überprüfungsstandards
OpenAI und Anthropic drängen die Trump-Administration, einen einheitlichen Überprüfungsprozess für KI-Modelle mit fortgeschrittenen Cybersicherheits- oder nationalen Sicherheitsfähigkeiten zu verabschieden, so The Information.
Ihre Zusammenarbeit erfolgt vor der Frist zum 1. August, bis zu der Bundesbehörden festlegen müssen, welche Systeme als „abgedeckte Grenzmodelle“ gelten sollen. Diese Modelle könnten der Regierung bis zu 30 Tage vor der Veröffentlichung für andere vertrauenswürdige Partner zur Bewertung zur Verfügung gestellt werden.
Beide Unternehmen wollen Berichten zufolge, dass die Standards branchenweit angewendet werden und nicht nur auf Entwickler beschränkt sind, die bereits mit Washington zusammenarbeiten. Das könnte konkurrierende Unternehmen, darunter Meta und Elon Musks xAI, unter denselben Überprüfungsrahmen bringen, wenn ihre Modelle die letztendliche Fähigkeitsschwelle überschreiten.
Die Gespräche markieren eine seltene politische Übereinstimmung zwischen OpenAI und Anthropic. Beide Unternehmen verkaufen allgemeine KI-Systeme und konkurrieren um Unternehmensverträge, Forscher, Rechenkapazität und Investitionen.
Keines der Unternehmen hat die vollständigen Bedingungen, die es in den endgültigen Rahmen aufgenommen haben möchte, öffentlich gemacht.
Trumps Anordnung legt freiwilligen 30-Tage-Prozess fest
Präsident Donald Trump wies die Bundesbehörden an, einen klassifizierten Benchmarking-Prozess durch Executive Order 14409 am 2. Juni einzurichten.
Die Anordnung weist die National Security Agency, die Cybersecurity and Infrastructure Security Agency, das Finanzministerium und andere Bundesbehörden an, zu bestimmen, wann ein KI-Modell über ausreichende Fähigkeiten verfügt, um eine zusätzliche Überprüfung zu rechtfertigen.
Entwickler, die an dem Rahmen teilnehmen, könnten die Regierung fragen, ob ein Modell die Schwelle für abgedeckte Grenzmodelle erreicht. Sie könnten dann Bundesprüfern bis zu 30 Tage Zugang gewähren, bevor sie das System anderen genehmigten Partnern zur Verfügung stellen.
Die Anordnung verlangt Schutzmaßnahmen für geistiges Eigentum, vertrauliche Informationen, Cybersicherheit und Insider-Bedrohungen während der Bewertung.
Sie stellt jedoch ausdrücklich fest, dass der Prozess keine verbindlichen föderalen Lizenzierungs-, Vorabgenehmigungs- oder Genehmigungsregeln für die Entwicklung oder Veröffentlichung von KI-Modellen schaffen darf. Unternehmen würden daher freiwillig teilnehmen, es sei denn, separate Gesetze oder Regierungsbefugnisse gelten.
US-KI-Entwickler suchen Klarheit vor Veröffentlichungen
Ein gemeinsamer Rahmen könnte US-Entwicklern klarere Standards geben, um zu entscheiden, wann staatliche Tests erwartet werden. Es bleiben Fragen offen, welche technischen Benchmarks eine Überprüfung auslösen, welche Behörden jedes System testen und wie Beamte Partner für den Frühzugang genehmigen.
Diese Unsicherheiten haben bereits aktuelle Veröffentlichungen beeinflusst. OpenAI und Anthropic gewährten Regierungsbeamten Frühzugang zu fortschrittlichen Modellen vor der breiteren Verteilung, aber externe Forscher hatten nur begrenzte Einblicke in die Bewertungen.
Ein Bericht vom Juli ergab, dass die Behörden, Tests und Genehmigungsanforderungen, die bei diesen Überprüfungen beteiligt waren, unklar blieben. Das Fehlen eines veröffentlichten Prozesses könnte die Planung von Veröffentlichungen für Entwickler erschweren und kleinere KI-Unternehmen im Unklaren lassen, ob dieselben Standards für sie gelten.
Die Anwendung einer einheitlichen fähigkeitsbasierten Schwelle auf OpenAI, Anthropic, Meta, xAI und andere Entwickler könnte einen Teil dieser Unsicherheit verringern. Es könnte auch Bedenken einschränken, dass Washington ausgewählten Unternehmen eine unterschiedliche Behandlung zukommen lässt.
Open-Weight-KI-Debatte spaltet die Branche
Der Aufruf von OpenAI und Anthropic für einen gemeinsamen Überprüfungsprozess erfolgt zu einem Zeitpunkt, an dem andere Technologieunternehmen Washington davor warnen, weitreichende Kontrollen für Open-Weight-KI-Modelle zu verhängen.
Wie crypto.news letzte Woche berichtete, schlossen sich Nvidia, Meta und Microsoft 22 weiteren Organisationen in einem offenen Brief an, in dem argumentiert wird, dass pauschale Beschränkungen die US-Führungsrolle schwächen könnten, während der Wettbewerb mit China intensiver wird. IBM, Palantir, Mistral, Hugging Face, Mozilla, Andreessen Horowitz und die Linux Foundation unterzeichneten den Brief ebenfalls.
Die Gruppe forderte gezielte rechtliche und kommerzielle Maßnahmen gegen Missbrauch anstelle von Beschränkungen, die Technologien mit legitimen Forschungs- und Geschäftsanwendungen betreffen.
Open-Weight-Modelle ermöglichen es Unternehmen, Forschern und Regierungen, Software herunterzuladen, zu modifizieren und auf ihrer eigenen Infrastruktur auszuführen. Befürworter sagen, dass dies den Nutzern mehr Kontrolle über ihre Daten, Sicherheit und Computersysteme gibt und gleichzeitig die Bereitstellungskosten senkt.
Die Unterzeichner stellten offene und geschlossene Modelle nicht als gegensätzlich dar. Stattdessen argumentierten sie, dass beide Ansätze notwendig seien, um den Wettbewerb zu unterstützen und Entwicklern verschiedene Wege zum Aufbau und zur Bereitstellung von KI-Systemen zu bieten.
Nvidia-CEO Jensen Huang teilte den Brief in seinem ersten Beitrag auf X und verteidigte die Rolle beider Entwicklungsmodelle.
„Die Welt braucht sowohl geschlossene Spitzenmodelle als auch offene Spitzenmodelle.“
Elon Musk unterstützte den Brief ebenfalls in einer Antwort an Huang, obwohl sein KI-Unternehmen xAI nicht unter den 25 gemeldeten Unterzeichnern aufgeführt war.
Die beiden Bemühungen adressieren unterschiedliche Teile der politischen Debatte. OpenAI und Anthropic streben einheitliche bundesstaatliche Bewertungen für Modelle an, die eine nationale Sicherheitsschwelle überschreiten, während der offene Brief gegen Beschränkungen argumentiert, die hauptsächlich darauf basieren, ob ein Modell seine Gewichte verfügbar macht.
Bundesbehörden haben nun bis zum 1. August Zeit, die Schwelle für Spitzenmodelle zu definieren und den freiwilligen Überprüfungsprozess zu skizzieren. Der endgültige Rahmen wird zeigen, ob Washington sich auf messbare Fähigkeiten konzentriert oder breitere Bedingungen anwendet, die darauf basieren, wie KI-Modelle verteilt werden.
