Кратко

  • Apple ограничила количество открытых отчетов об ошибках, которые исследователь может иметь одновременно, после всплеска ИИ-сгенерированных заявок.
  • Bynario сообщает, что за три недели нашла более 50 ошибок в macOS, включая цепочку, которая могла бы дать злоумышленнику полный контроль над Mac.
  • Обновления безопасности Apple на этой неделе содержали примерно в пять раз больше исправлений, чем в предыдущих циклах.

Apple ограничила количество отчетов об уязвимостях, которые исследователь может подать одновременно, после того как ее команда безопасности была перегружена ИИ-сгенерированными заявками, выдумывающими несуществующие ошибки, сообщает Financial Times.

Этот лимит уже стоил компании реальной ошибки. Миланский стартап по кибербезопасности Bynario сообщил газете, что использовал OpenAI ChatGPT для выявления более 50 ошибок в последней версии macOS за три недели. Среди них была цепочка эксплуатации повышения привилегий — класс ошибок, который дает злоумышленнику неограниченный контроль над машиной.

Bynario не смогла сообщить о ней, потому что Apple уже отказала в дальнейших заявках. Генеральный директор Альфредо Пезоли оценил стоимость этой эксплойт-цепочки на криминальном рынке в 100 000–200 000 долларов и заявил, что «поддерживающие и поставщики были затоплены огромным количеством ошибок», которые обнаруживаются. Apple сообщила FT, что сейчас связалась с компанией и изучает ее работу.

Apple ввела изменения в июне, добавив лимит и 30-дневный период охлаждения на своем портале безопасности, при этом исследователи должны подавать заявку на увеличение квоты. Каждое предполагаемое нарушение все еще требует подтверждения человеком, хотя Apple использует ИИ внутри компании для сортировки потока. Apple заявила, что «недавно скорректировала количество новых отчетов, которые исследователь может иметь открытыми одновременно», и что исследователи могут запросить более высокий лимит в любое время.

Те же инструменты работают на Apple. В обновлениях безопасности на прошлой неделе она приписала программному обеспечению Anthropic и OpenAI обнаружение ошибок, и выпустила примерно в пять раз больше исправлений, чем в обычном цикле, по данным FT.

«Поток заявок»

Проблема объема ИИ-отчетов об ошибках выросла в последние месяцы. В мае компания Bugcrowd, клиенты которой включают OpenAI, сообщила, что количество заявок через ее платформу увеличилось более чем в четыре раза за три недели в марте, и большинство из них были поддельными. HackerOne и Nextcloud приостановили свои платные программы в апреле, при этом Nextcloud заявил, что никакие вознаграждения не будут выплачиваться «независимо от серьезности», пока не будет найден способ фильтровать низкокачественные отчеты.

Объем обусловлен предлагаемыми наградами: Meta, Microsoft, Apple и Crypto.com выплачивают в 2025 году в общей сложности не менее 58 миллионов долларов, при этом высший уровень Apple достигает 5 миллионов долларов за одну находку.

В то же время LLM становятся все более искусными в обнаружении ошибок. В марте Anthropic представила Mythos, киберориентированную модель, которую она изначально ограничила для избранных технологических компаний, банков и исследователей в рамках Project Glasswing. Mozilla сообщила, что она выявила 271 уязвимость в Firefox во время внутреннего тестирования.

В мае вьетнамский стартап по безопасности Calif заявил, что использовал предварительную версию для создания первого публичного эксплойта повреждения памяти ядра macOS, способного обойти Memory Integrity Enforcement, защиту, которую Apple анонсировала в сентябре прошлого года как самое большое обновление безопасности памяти в истории потребительских операционных систем. Calif обнаружил ошибки 25 апреля и имел работающий эксплойт к 1 мая.

Вместо подачи отчета Calif лично доставил эксплойт в штаб-квартиру Apple в Калифорнии, заявив, что хочет избежать «похорон в потоке заявок», в котором оказались участники хакерского конкурса Pwn2Own. Bynario попробовал портал три месяца спустя и не смог войти.

AI-угрозы для криптовалют

Помимо поиска угроз, ИИ также используется для создания эксплойтов в криптопространстве. Производитель кошельков Coldcard компания Coinkite предположила, что ИИ, вероятно, использовался для обнаружения ошибки в ее прошивке с открытым исходным кодом, которая оставалась незамеченной в течение пяти лет, что позволило злоумышленникам украсть более 100 миллионов долларов из ее аппаратных кошельков.

Это произошло через два месяца после того, как Zcash раскрыла, что исследователь Тейлор Хорнби, работая с Claude Opus 4.8, обнаружил две строки кода в своем защищенном пуле Orchard, которые позволяли незаметно подделывать ZEC в течение четырех лет, что побудило конфиденциальную монету выпустить обновление Ironwood в прошлом месяце для устранения уязвимости.