Кратко
- OpenAI заблокировала аккаунты ChatGPT, которые, по её оценке, с высокой вероятностью происходили из России.
- Эти аккаунты продвигали якобы израильский институт, публиковавший скопированные исследования под именами учёных.
- Большинство постов получили мало просмотров, хотя связанные с ними Telegram-каналы имели до 20 000 подписчиков каждый.
Сеть, происходящая из России, использовала ChatGPT для продвижения организации, представлявшей себя как академический институт, согласно отчёту OpenAI, опубликованному в среду.
OpenAI сообщила, что заблокировала группу аккаунтов, операторы которых использовали русскоязычные запросы для генерации постов и комментариев в социальных сетях, в основном на английском языке. Они также поручали ChatGPT скрывать признаки того, что контент происходит из России.
«Хотя кампания, по-видимому, охватила относительно небольшую аудиторию, её сложная конструкция отличает её от других связанных с Россией операций влияния, которые мы пресекли с начала войны в Украине», — написала компания.
Поскольку ChatGPT недоступен в России, OpenAI заявила, что группа использовала виртуальные частные сети (VPN), чтобы скрыть свое местоположение и получить доступ к сервису.
Группа использовала ChatGPT для продвижения Международного института Берка, который утверждал, что является израильской экспертной группой, через официально выглядящие профили и аккаунты, выдававшие себя за обычных пользователей. OpenAI обнаружила, что 34 из 36 статей, которые она проверила на сайте института, были скопированы, а некоторые были приписаны ученым, которые их не писали.
«Некоторые из этих статей были старыми; другие были приписаны неправильным авторам», — написала OpenAI. «Например, одна статья о Китайско-пакистанском экономическом коридоре, по-видимому, была скопирована с оригинала издательства Кембриджского университета, но ошибочно приписана профессору Ноттингемского университета, чья специализация — южноазиатская политика».
Аналогичные кампании политического влияния также использовали генеративный ИИ.
В 2024 году OpenAI выявила отдельную связанную с Россией кампанию под названием Doppelganger. Сеть использовала ChatGPT для создания статей, постов в социальных сетях и комментариев, которые хвалили Россию и критиковали Украину, НАТО и Соединенные Штаты.
Связанные с Россией группы также использовали ChatGPT для киберопераций. OpenAI заявила, что Forest Blizzard, группа, связанная с российской военной разведкой, использовала чат-бота для исследования целей, написания скриптов и поддержки фишинговых атак.
Хотя группа, возможно, использовала подсказки на русском языке, OpenAI не приписала кампанию IBI российскому правительству.
По данным OpenAI, некоторые люди в Израиле могли представлять институт на конференциях или через подачу статей. Тем не менее, их отношение к кампании остаётся неясным.
«Мы не в состоянии определить отношения между этими лицами, IBI и операторами в России», — написали в OpenAI.
