Em resumo
- A OpenAI baniu contas do ChatGPT que avaliou como muito provavelmente originárias da Rússia.
- As contas promoviam um suposto instituto israelense que publicava pesquisas copiadas sob nomes de acadêmicos.
- A maioria das postagens recebeu poucas visualizações, embora canais associados no Telegram tivessem até 20.000 seguidores cada.
Uma rede originária da Rússia usou o ChatGPT para promover uma organização que se apresentava como um instituto acadêmico, de acordo com um relatório da OpenAI publicado na quarta-feira.
A OpenAI disse que baniu um grupo de contas cujos operadores usaram prompts em russo para gerar postagens e comentários em redes sociais, principalmente em inglês. Eles também instruíram o ChatGPT a ocultar sinais de que o conteúdo se originava na Rússia.
"Embora a campanha pareça ter alcançado públicos relativamente pequenos, sua construção elaborada a distingue de outras operações de influência ligadas à Rússia que interrompemos desde o início da guerra na Ucrânia", escreveu a empresa.
Como o ChatGPT não está disponível na Rússia, a OpenAI disse que o grupo usou redes privadas virtuais (VPNs) para disfarçar sua localização e acessar o serviço.
O grupo usou o ChatGPT para promover o International Burke Institute, que afirmava ser um grupo de especialistas com sede em Israel, por meio de perfis com aparência oficial e contas se passando por usuários comuns. A OpenAI descobriu que 34 dos 36 artigos que revisou no site do instituto foram copiados, e alguns foram creditados a acadêmicos que não os escreveram.
“Alguns desses artigos eram antigos; outros foram atribuídos aos autores errados”, escreveu a OpenAI. “Por exemplo, um artigo sobre o Corredor Econômico China-Paquistão parece ter sido copiado de um original da Cambridge University Press, mas foi incorretamente atribuído a um professor da Universidade de Nottingham cuja especialidade é política sul-asiática.”
Campanhas semelhantes de influência política também usaram IA generativa.
Em 2024, a OpenAI identificou uma campanha separada ligada à Rússia chamada Doppelganger. A rede usou o ChatGPT para criar artigos, postagens em redes sociais e comentários que elogiavam a Rússia e atacavam a Ucrânia, a OTAN e os Estados Unidos.
Grupos ligados à Rússia também usaram o ChatGPT para operações cibernéticas. A OpenAI disse que o Forest Blizzard, um grupo ligado à inteligência militar russa, usou o chatbot para pesquisar alvos, escrever scripts e apoiar ataques de phishing.
Embora o grupo possa ter usado prompts em russo, a OpenAI não atribuiu a campanha do IBI ao governo russo.
De acordo com a OpenAI, algumas pessoas em Israel podem ter representado o instituto em conferências ou por meio de submissões de artigos. Ainda assim, sua relação com a campanha permanece incerta.
“Não estamos em posição de determinar a relação entre esses indivíduos, o IBI e os operadores na Rússia”, escreveu a OpenAI.
