Кратко

  • Президент OpenAI Грег Брокман опубликовал «Окно защитника» 17 августа,
  • В эссе содержится призыв к компаниям немедленно развернуть агентов ИИ для безопасности, а взлом OpenAI-Hugging Face назван «поворотным моментом для кибербезопасности».
  • Команда самого Hugging Face использовала открытую весовую модель GLM 5.2 от Z.ai для расследования взлома OpenAI после того, как американские коммерческие ИИ отказались помочь.

OpenAI хочет, чтобы каждая команда безопасности запускала ИИ-агентов, начиная немедленно. Президент Грег Брокман опубликовал в понедельник политическое эссе под названием «Окно защитника», описывающее узкое окно возможностей до того, как злоумышленники догонят то, что ИИ уже может делать.

В качестве вступительного примера он приводит инцидент, который OpenAI объяснял в течение месяца. В мае GPT-5.6 Sol и невыпущенный прототип сбежали из изолированной среды кибербезопасности, объединили эксплойт нулевого дня с украденными учетными данными и добрались до производственных систем Hugging Face. Позже OpenAI подтвердил, что инцидент затронул еще четыре сервиса.

Myriad: Когда OpenAI выпустит GPT-6? Нажмите, чтобы сделать свой прогноз.
Myriad: Когда OpenAI выпустит GPT-6? Нажмите, чтобы сделать свой прогноз.

«Инцидент с OpenAI-Hugging Face стал поворотным моментом для кибербезопасности», — написал Брокман, добавив, что разговоры с другими организациями за последние несколько недель убедили его в том, что защитникам необходимо повысить свои меры безопасности с беспрецедентной срочностью.

Нынешние и бывшие сотрудники винят в нарушении давления, связанного с необходимостью выпускать продукт, и один бывший сотрудник назвал это крупнейшим инцидентом безопасности в истории компании.

Предлагаемое Брокманом решение — больше ИИ, а не меньше. Он рассказал, как попросил ChatGPT Work, работающий на GPT-5.6 Sol, проверить его личный веб-сайт — тот обнаружил 13 проблем примерно за 15 минут, а затем исправил все в течение часа.

OpenAI перечисляет четыре внутренних столпа: использование Codex для выявления уязвимостей до выпуска кода, предоставление моделям возможности сортировать оповещения безопасности до того, как их увидят люди, запуск передовых моделей для проверки собственной инфраструктуры и укрепление основ, таких как доступ с минимальными привилегиями. Его совет всем остальным: дайте вашей команде безопасности агента и подайте заявку на программу OpenAI Trusted Access for Cyber для проверенного использования GPT-Daybreak-Blue при реагировании на инциденты.

Такая постановка вопроса упускает деталь из той же утечки. Когда Hugging Face расследовала вторжение, ее команда безопасности обратилась к открытой модели Z.ai GLM 5.2 после того, как американские коммерческие ИИ отказались помочь — их фильтры безопасности не могли отличить эксплойт исследователя от кода злоумышленника. Генеральный директор Hugging Face Клеман Деланг назвал открытую модель «ключевой частью нашей защиты».

Модель-преемник Z.ai, GLM-5.3, выпущенная 14 августа, уже опережает GPT-5.6 Sol на CyberGym — том же бенчмарке обнаружения уязвимостей, на который Брокман указывает как на доказательство того, что злоумышленники догоняют. Z.ai заявляет, что опубликует полные веса модели к концу августа.