Коротко
- OpenAI заблокував акаунти ChatGPT, які, за оцінками, дуже ймовірно походять з Росії.
- Ці акаунти просували нібито ізраїльський інститут, який публікував скопійовані дослідження під іменами науковців.
- Більшість дописів отримали мало переглядів, хоча пов'язані Telegram-канали мали до 20 000 підписників кожен.
Мережа, що походить з Росії, використовувала ChatGPT для просування організації, яка представляла себе як академічний інститут, згідно з звітом OpenAI, опублікованим у середу.
OpenAI повідомив, що заблокував групу акаунтів, оператори яких використовували російськомовні запити для створення дописів і коментарів у соціальних мережах, переважно англійською. Вони також інструктували ChatGPT приховувати ознаки того, що контент походить з Росії.
«Хоча кампанія, схоже, охопила відносно невелику аудиторію, її складна структура відрізняє її від інших пов'язаних з Росією операцій впливу, які ми порушили з початку війни в Україні», — написала компанія.
Оскільки ChatGPT недоступний у Росії, OpenAI заявило, що група використовувала віртуальні приватні мережі (VPN), щоб приховати своє місцезнаходження та отримати доступ до сервісу.
Група використовувала ChatGPT для просування Міжнародного інституту Берка, який стверджував, що є ізраїльською експертною групою, через офіційні профілі та акаунти, що видавали себе за звичайних користувачів. OpenAI виявило, що 34 з 36 статей, які він переглянув на веб-сайті інституту, були скопійовані, а деякі були приписані науковцям, які їх не писали.
«Деякі з цих статей були застарілими; інші були приписані неправильним авторам», — написало OpenAI. «Наприклад, одна стаття про Китайсько-пакистанський економічний коридор, схоже, була скопійована з оригіналу Cambridge University Press, але помилково приписана професору Ноттінгемського університету, чия спеціалізація — південноазійська політика».
Подібні кампанії політичного впливу також використовували генеративний ШІ.
У 2024 році OpenAI виявило окрему кампанію, пов'язану з Росією, під назвою Doppelganger. Мережа використовувала ChatGPT для створення статей, дописів у соціальних мережах і коментарів, які хвалили Росію та атакували Україну, НАТО і Сполучені Штати.
Пов'язані з Росією групи також використовували ChatGPT для кібероперацій. OpenAI заявило, що Forest Blizzard, група, пов'язана з російською військовою розвідкою, використовувала чат-бота для дослідження цілей, написання скриптів і підтримки фішингових атак.
Хоча група могла використовувати підказки російською мовою, OpenAI не приписувало кампанію IBI російському уряду.
За даними OpenAI, деякі люди в Ізраїлі могли представляти інститут на конференціях або через подання статей. Тим не менш, їхній зв'язок з кампанією залишається незрозумілим.
«Ми не в змозі визначити стосунки між цими особами, IBI та операторами в Росії», — написав OpenAI.
