En resumen
- OpenAI prohibió cuentas de ChatGPT que evaluó como muy probablemente originarias de Rusia.
- Las cuentas promovían un supuesto instituto israelí que publicaba investigaciones copiadas bajo nombres de académicos.
- La mayoría de las publicaciones recibieron pocas vistas, aunque los canales de Telegram asociados tenían hasta 20,000 seguidores cada uno.
Una red originada en Rusia utilizó ChatGPT para promover una organización que se presentaba como un instituto académico, según un informe de OpenAI publicado el miércoles.
OpenAI dijo que prohibió un grupo de cuentas cuyos operadores utilizaron indicaciones en ruso para generar publicaciones y comentarios en redes sociales, principalmente en inglés. También instruyeron a ChatGPT para ocultar señales de que el contenido se originaba en Rusia.
"Aunque la campaña parece haber alcanzado audiencias relativamente pequeñas, su elaborada construcción la distingue de otras operaciones de influencia vinculadas a Rusia que hemos interrumpido desde el inicio de la guerra en Ucrania", escribió la compañía.
Debido a que ChatGPT no está disponible en Rusia, OpenAI dijo que el grupo utilizó redes privadas virtuales (VPN) para ocultar su ubicación y acceder al servicio.
El grupo utilizó ChatGPT para promover el Instituto Internacional Burke, que afirmaba ser un grupo de expertos con sede en Israel, a través de perfiles y cuentas de aspecto oficial que se hacían pasar por usuarios comunes. OpenAI encontró que 34 de los 36 artículos que revisó en el sitio web del instituto fueron copiados, y algunos fueron atribuidos a académicos que no los escribieron.
"Algunos de estos artículos tenían años de antigüedad; otros fueron atribuidos a los autores equivocados", escribió OpenAI. "Por ejemplo, un artículo sobre el Corredor Económico China-Pakistán parece haber sido copiado de un original de Cambridge University Press, pero incorrectamente atribuido a un profesor de la Universidad de Nottingham cuya especialidad es la política del sur de Asia".
Campañas similares de influencia política también han utilizado IA generativa.
En 2024, OpenAI identificó una campaña separada vinculada a Rusia llamada Doppelganger. La red utilizó ChatGPT para crear artículos, publicaciones en redes sociales y comentarios que elogiaban a Rusia y atacaban a Ucrania, la OTAN y los Estados Unidos.
Grupos vinculados a Rusia también han utilizado ChatGPT para operaciones cibernéticas. OpenAI dijo que Forest Blizzard, un grupo vinculado a la inteligencia militar rusa, utilizó el chatbot para investigar objetivos, escribir guiones y apoyar ataques de phishing.
Aunque el grupo pudo haber utilizado indicaciones en ruso, OpenAI no atribuyó la campaña IBI al gobierno ruso.
Según OpenAI, algunas personas en Israel pueden haber representado al instituto en conferencias o mediante el envío de artículos. Aún así, su relación con la campaña sigue sin estar clara.
"No estamos en condiciones de determinar la relación entre estos individuos, el IBI y los operadores en Rusia", escribió OpenAI.
