Билл Гейтс выступает за создание новой международной структуры для регулирования наиболее рискованных видов использования ИИ, утверждая, что отдельные правительства и ИИ-компании не могут эффективно справляться со все более сложными моделями самостоятельно.
Когда соучредитель Microsoft отправится в Китай в ноябре, он надеется встретиться с председателем КНР Си Цзиньпином, чтобы обсудить совместную работу над безопасностью ИИ. Гейтс сообщил Reuters, что если США возьмут на себя инициативу, он думает, что Китай может согласиться на ограничения на выпуск особенно опасных моделей ИИ.
Введение государственного контроля
Предложение Гейтса выходит за рамки традиционного технологического регулирования. Он хочет, чтобы правительства следили за тем, могут ли сложные модели создавать молекулы или предлагать функции, которые могли бы облегчить биологические атаки. По мере того как системы ИИ становятся все более искусными в выявлении и использовании недостатков программного обеспечения, кибербезопасность становится серьезной проблемой.
Это утверждение было подкреплено недавними событиями. В этом месяце OpenAI объявила, что оценки будущей модели продемонстрировали достаточный прогресс в области кибербезопасности и агентного программирования, чтобы организация больше не могла исключать «критические» кибервозможности в рамках своей структуры готовности.
Введение международного надзора
Гейтс считает, что методы, уже применяемые для других технологий, представляющих трансграничные риски, могут быть использованы для международного надзора. Среди его концепций — международный регулирующий орган, который включает аспекты авиационной безопасности и ядерной инспекции. Целью было бы отслеживание высокорисковых возможностей, а не строгое ограничение обычного развития ИИ.
Но его опасения выходят за рамки безопасности. Кроме того, Гейтс предупредил, что ИИ может заменить многие рабочие места «белых воротничков» и «синих воротничков» быстрее, чем более ранние технологические достижения. Более сильные экономические системы безопасности, налоги на замену рабочей силы, вызванную ИИ, и резервирование некоторых рабочих мест для людей — вот лишь некоторые из предложенных им мер.
В то время, когда искусственный интеллект приобрел стратегическое значение, это предложение потребовало бы сотрудничества между геополитическими соперниками. Китай уже открыто поддержал разработку глобальной структуры управления ИИ, которая включает тестирование на основе рисков, более строгие правила кибербезопасности и международное сотрудничество против использования вредоносного ИИ.
В результате Гейтс считает координацию между США и Китаем необходимой для любой успешной системы. Ограничения, введенные одной юрисдикцией, могут легко вытеснить опасную разработку ИИ в другие места, если страны, создающие самые мощные модели, не будут придерживаться общих правил.
