En bref

  • OpenAI a interdit les comptes ChatGPT qu'elle jugeait très probablement originaires de Russie.
  • Les comptes promouvaient un prétendu institut israélien qui publiait des recherches copiées sous les noms d'universitaires.
  • La plupart des publications ont reçu peu de vues, bien que les chaînes Telegram associées aient eu jusqu'à 20 000 abonnés chacune.

Un réseau originaire de Russie a utilisé ChatGPT pour promouvoir une organisation qui se présentait comme un institut académique, selon un rapport d'OpenAI publié mercredi.

OpenAI a déclaré avoir interdit un groupe de comptes dont les opérateurs utilisaient des invites en russe pour générer des publications et des commentaires sur les réseaux sociaux, principalement en anglais. Ils ont également demandé à ChatGPT de dissimuler les signes indiquant que le contenu provenait de Russie.

Myriad : Quand OpenAI sortira GPT-6 ? Cliquez pour faire votre prédiction.
Myriad : Quand OpenAI sortira GPT-6 ? Cliquez pour faire votre prédiction.

« Bien que la campagne semble avoir atteint des audiences relativement restreintes, sa construction élaborée la distingue des autres opérations d'influence liées à la Russie que nous avons perturbées depuis le début de la guerre en Ukraine », a écrit l'entreprise.

Parce que ChatGPT n'est pas disponible en Russie, OpenAI a déclaré que le groupe utilisait des réseaux privés virtuels (VPN) pour dissimuler leur localisation et accéder au service.

Le groupe a utilisé ChatGPT pour promouvoir l'Institut international Burke, qui prétendait être un groupe d'experts basé en Israël, à travers des profils et des comptes à l'apparence officielle se faisant passer pour des utilisateurs ordinaires. OpenAI a constaté que 34 des 36 articles qu'il a examinés sur le site de l'institut étaient copiés, et certains étaient attribués à des universitaires qui ne les avaient pas écrits.

« Certains de ces articles dataient de plusieurs années ; d'autres étaient attribués à de mauvais auteurs », a écrit OpenAI. « Par exemple, un article sur le corridor économique Chine-Pakistan semble avoir été copié d'un original de Cambridge University Press, mais incorrectement attribué à un professeur de l'Université de Nottingham dont l'expertise porte sur la politique sud-asiatique. »

Des campagnes d'influence politique similaires ont également utilisé l'IA générative.

En 2024, OpenAI a identifié une campagne distincte liée à la Russie appelée Doppelganger. Le réseau utilisait ChatGPT pour créer des articles, des publications sur les réseaux sociaux et des commentaires qui louaient la Russie et attaquaient l'Ukraine, l'OTAN et les États-Unis.

Des groupes liés à la Russie ont également utilisé ChatGPT pour des opérations cybernétiques. OpenAI a déclaré que Forest Blizzard, un groupe lié au renseignement militaire russe, a utilisé le chatbot pour rechercher des cibles, écrire des scripts et soutenir des attaques de phishing.

Bien que le groupe ait pu utiliser des invites en langue russe, OpenAI n'a pas attribué la campagne IBI au gouvernement russe.

Myriad : Combien de jours Claude sera-t-il hors ligne ? Cliquez pour faire votre prédiction.
Myriad : Combien de jours Claude sera-t-il hors ligne ? Cliquez pour faire votre prédiction.

Selon OpenAI, certaines personnes en Israël ont peut-être représenté l'institut lors de conférences ou par le biais de soumissions d'articles. Néanmoins, leur relation avec la campagne reste floue.

« Nous ne sommes pas en mesure de déterminer la relation entre ces individus, l'IBI et les opérateurs en Russie », a écrit OpenAI.