OpenAI и Anthropic совместно работают в Вашингтоне над созданием федеральной системы проверки передовых моделей ИИ, несмотря на конкуренцию за клиентов, финансирование и технологическое лидерство.
Краткое содержание
- OpenAI и Anthropic поддерживают до 30 дней федерального доступа перед выпуском некоторых передовых моделей.
- Предлагаемый процесс будет применяться ко всей отрасли, включая таких конкурентов, как Meta и xAI.
- Федеральные агентства должны разработать рамки к 1 августа в соответствии с июньским указом.
- Nvidia, Meta и Microsoft отдельно предупредили о широком контроле над моделями ИИ с открытым весом.
OpenAI и Anthropic ищут общие стандарты проверки
OpenAI и Anthropic призывают администрацию Трампа принять единый процесс проверки для моделей ИИ с расширенными возможностями в области кибербезопасности или национальной безопасности, согласно The Information.
Их сотрудничество происходит до крайнего срока 1 августа, когда федеральные агентства должны определить, какие системы следует считать «охваченными передовыми моделями». Эти модели могут быть предоставлены правительству для оценки на срок до 30 дней перед выпуском другим доверенным партнерам.
Сообщается, что обе компании хотят, чтобы стандарты применялись ко всей отрасли ИИ, а не ограничивались разработчиками, уже сотрудничающими с Вашингтоном. Это может привести к тому, что конкурирующие компании, включая Meta и xAI Илона Маска, попадут под ту же систему проверки, если их модели пересекут порог возможностей.
Эти обсуждения знаменуют редкое согласование политики между OpenAI и Anthropic. Обе компании продают системы ИИ общего назначения и конкурируют за корпоративные контракты, исследователей, вычислительные мощности и инвестиции.
Ни одна из компаний публично не раскрыла полные условия, которые она хочет включить в окончательные рамки.
Указ Трампа устанавливает добровольный 30-дневный процесс
Президент Дональд Трамп поручил федеральным агентствам создать процесс классификации с помощью Указа 14409 от 2 июня.
Указ предписывает Агентству национальной безопасности, Агентству по кибербезопасности и защите инфраструктуры, Министерству финансов и другим федеральным органам определить, когда модель ИИ обладает достаточно сильными возможностями, чтобы потребовать дополнительной проверки.
Разработчики, участвующие в рамках, смогут спросить правительство, соответствует ли модель порогу охваченной передовой модели. Затем они смогут предоставить федеральным оценщикам доступ на срок до 30 дней, прежде чем сделать систему доступной другим одобренным партнерам.
Указ требует мер защиты интеллектуальной собственности, конфиденциальной информации, кибербезопасности и внутренних угроз во время оценки.
Однако в нем прямо указано, что процесс не может создавать обязательные федеральные лицензионные, предварительные или разрешительные правила для разработки или выпуска моделей ИИ. Таким образом, компании будут участвовать добровольно, если не применяются отдельные законы или правительственные полномочия.
Разработчики ИИ в США ищут ясности перед запуском
Общие рамки могут дать американским разработчикам более четкие стандарты для принятия решения о том, когда ожидается тестирование правительством. Остаются вопросы о том, какие технические критерии вызовут проверку, какие агентства будут тестировать каждую систему и как чиновники будут утверждать партнеров для раннего доступа.
Эти неопределенности уже повлияли на недавние запуски. OpenAI и Anthropic предоставили государственным чиновникам ранний доступ к передовым моделям перед более широким распространением, но внешние исследователи имели ограниченный доступ к оценкам.
В отчете за июль было обнаружено, что агентства, тесты и требования к одобрению, участвовавшие в этих проверках, оставались неясными. Отсутствие опубликованного процесса может усложнить планирование выпуска для разработчиков и оставить небольшие компании ИИ в неведении, применяются ли к ним те же стандарты.
Применение единого порога на основе возможностей к OpenAI, Anthropic, Meta, xAI и другим разработчикам может уменьшить часть этой неопределенности. Это также может ограничить опасения, что Вашингтон предоставляет избранным компаниям разное обращение.
Дебаты об открытых весовых моделях ИИ разделяют отрасль
Призыв OpenAI и Anthropic к единому процессу проверки прозвучал на фоне того, как другие технологические компании предупреждают Вашингтон против введения широких ограничений на модели ИИ с открытыми весами.
Как на прошлой неделе сообщил crypto.news, Nvidia, Meta и Microsoft присоединились к 22 другим организациям в открытом письме, утверждая, что масштабные ограничения могут ослабить лидерство США на фоне усиления конкуренции с Китаем. IBM, Palantir, Mistral, Hugging Face, Mozilla, Andreessen Horowitz и Linux Foundation также подписали письмо.
Группа призвала к целенаправленным правовым и коммерческим мерам против злоупотреблений, а не к ограничениям, охватывающим технологии с законными исследовательскими и бизнес-приложениями.
Модели с открытыми весами позволяют компаниям, исследователям и правительствам загружать программное обеспечение, модифицировать его и запускать на собственной инфраструктуре. Сторонники говорят, что это дает пользователям больший контроль над своими данными, безопасностью и вычислительными системами, одновременно снижая затраты на развертывание.
Подписавшие не противопоставляли открытые и закрытые модели как взаимоисключающие. Вместо этого они утверждали, что оба подхода необходимы для поддержки конкуренции и предоставления разработчикам различных способов создания и развертывания систем ИИ.
Генеральный директор Nvidia Дженсен Хуанг поделился письмом в своем первом посте на X и защитил роль обеих моделей разработки.
«Миру нужны как передовые закрытые модели, так и передовые открытые модели».
Илон Маск также поддержал письмо в ответе Хуангу, хотя его компания по ИИ xAI не была указана среди 25 заявленных подписавших.
Эти две инициативы затрагивают разные части политических дебатов. OpenAI и Anthropic добиваются единой федеральной оценки для моделей, пересекающих порог возможностей национальной безопасности, в то время как открытое письмо выступает против ограничений, основанных главным образом на том, делает ли модель свои веса доступными.
Федеральные агентства теперь должны до 1 августа определить порог для передовых моделей и описать добровольный процесс проверки. Итоговая структура покажет, сосредоточится ли Вашингтон на измеримых возможностях или применит более широкие условия, основанные на том, как распространяются модели ИИ.
