W skrócie
- OpenAI zbanowało konta ChatGPT, które oceniło jako bardzo prawdopodobnie pochodzące z Rosji.
- Konta promowały rzekomy izraelski instytut, który publikował skopiowane badania pod nazwiskami naukowców.
- Większość postów uzyskała niewiele wyświetleń, chociaż powiązane kanały Telegram miały do 20 000 obserwujących każdy.
Sieć pochodząca z Rosji użyła ChatGPT do promowania organizacji, która przedstawiała się jako instytut akademicki, według raportu OpenAI opublikowanego w środę.
OpenAI poinformowało, że zbanowało grupę kont, których operatorzy używali rosyjskojęzycznych promptów do generowania postów i komentarzy w mediach społecznościowych, głównie w języku angielskim. Instruowali również ChatGPT, aby ukrywał oznaki, że treść pochodzi z Rosji.
„Chociaż kampania wydaje się dotrzeć do stosunkowo niewielkiej publiczności, jej skomplikowana konstrukcja odróżnia ją od innych operacji wpływu powiązanych z Rosją, które zakłóciliśmy od początku wojny na Ukrainie” – napisała firma.
Ponieważ ChatGPT jest niedostępny w Rosji, OpenAI poinformowało, że grupa używała wirtualnych sieci prywatnych (VPN), aby ukryć swoją lokalizację i uzyskać dostęp do usługi.
Grupa wykorzystała ChatGPT do promowania Międzynarodowego Instytutu Burke'a, który twierdził, że jest izraelską grupą ekspercką, poprzez oficjalnie wyglądające profile i konta udające zwykłych użytkowników. OpenAI odkryło, że 34 z 36 artykułów, które przejrzało na stronie instytutu, było skopiowanych, a niektóre przypisano naukowcom, którzy ich nie napisali.
„Niektóre z tych artykułów miały kilka lat; inne przypisano niewłaściwym autorom” – napisało OpenAI. „Na przykład jeden artykuł o Korytarzu Ekonomicznym Chiny–Pakistan wydaje się być skopiowany z oryginału Cambridge University Press, ale błędnie przypisany profesorowi z University of Nottingham, którego specjalnością jest polityka Azji Południowej”.
Podobne kampanie wpływu politycznego również wykorzystywały generatywną sztuczną inteligencję.
W 2024 roku OpenAI zidentyfikowało osobną kampanię powiązaną z Rosją o nazwie Doppelganger. Sieć wykorzystywała ChatGPT do tworzenia artykułów, postów w mediach społecznościowych i komentarzy, które chwaliły Rosję i atakowały Ukrainę, NATO oraz Stany Zjednoczone.
Grupy powiązane z Rosją wykorzystywały również ChatGPT do operacji cybernetycznych. OpenAI poinformowało, że Forest Blizzard, grupa powiązana z rosyjskim wywiadem wojskowym, używała czatbota do badania celów, pisania skryptów i wspierania ataków phishingowych.
Chociaż grupa mogła używać rosyjskich promptów, OpenAI nie przypisało kampanii IBI rządowi rosyjskiemu.
Według OpenAI, niektórzy ludzie w Izraelu mogli reprezentować instytut na konferencjach lub poprzez zgłaszanie artykułów. Mimo to ich związek z kampanią pozostaje niejasny.
„Nie jesteśmy w stanie określić związku między tymi osobami, IBI a operatorami w Rosji” – napisało OpenAI.
