Кратко
- Coinbase, Block, BitGo и более 40 компаний подписали открытое письмо с требованием, чтобы ведущие лаборатории открыли программы доверенного доступа для квалифицированных защитников.
- Его организовал Институт биткоин-политики; среди подписавших — Blockstream, ARK Invest и другие.
- Разрыв практический: люди, исправляющие кошельки и программное обеспечение узлов, не могут получить доступ к лучшим моделям, в то время как атакующие уже могут.
Более 40 биткоин- и криптофирм на этой неделе попросили крупнейшие ИИ-лаборатории разрешить независимым исследователям безопасности использовать их самые сильные модели до публичного выпуска.
Письмо, опубликованное 10 августа, основано на простой асимметрии. Сеть биткоина обеспечивает безопасность активов на сумму более триллиона долларов, а более широкий стек — кошельки, устройства для подписи, библиотеки, системы хранения — хранит еще триллионы. Этот код написан открыто, и одна ошибка может стереть чьи-то сбережения.
Однако сопровождающие, поддерживающие его работу, не могут попасть в проверенные исследовательские программы, которые проводят лаборатории ИИ. Когда они обращаются к публичной модели, защитные механизмы блокируют легитимный поиск уязвимостей. Поэтому они полагаются на системы с открытым весом, которые могут запускать сами, что полезно, но отстаёт от передовых разработок — и от хакеров, атакующих криптовалютные сети.
«Очевидно, что ранний доступ и разумные вычислительные бюджеты помогли бы основным разработчикам создавать более безопасный код и выявлять и устранять уязвимости до возникновения потерь», — говорится в письме. «Поэтому мы просим передовые лаборатории ИИ создать или расширить постоянные программы доверенного доступа для квалифицированных защитников открытой финансовой инфраструктуры».
В письме отмечается, что лаборатории и несколько партнёров получают многомесячный доступ к новым возможностям атак раньше остального мира, и эти возможности всё равно утекают через публичные релизы и скомпрометированные системы.
Лаборатории не взяли на себя обязательства
В конце прошлого месяца Консорциум по безопасности биткоина — BlackRock, Coinbase, Strategy, Anchorage, ARK, Block, Blockstream, Fidelity Digital Assets и Galaxy — выделил 15 миллионов долларов на долгосрочную безопасность сети. Письмо касается другого пробела: не денег на угрозы завтрашнего дня, а сегодняшних моделей для сопровождающих, которые их устраняют.
На сегодняшний день крупные ИИ-лаборатории не высказали никакой публичной позиции по этой конкретной теме, однако компании работают над улучшением мер защиты, которые предотвратили бы использование возможностей их моделей в злонамеренных целях, независимо от того, идет ли речь о кодировании блокчейна или любом другом использовании.
Anthropic показала, как те же модели обеспечивают «виб-хакерство» — преступники проводят живые атаки с выкупом в биткоинах с помощью ИИ — и утверждает, что эти инструменты делают нападение дешевле. Предоставление защитникам более сильных моделей означает выбор тех, кто соответствует требованиям, и доверие им в том, что они не допустят утечки.
Письмо просит лаборатории все же пойти на этот риск.
