Este jueves OpenAI ha anunciado que ha desarmado varias operaciones de desinformación vinculadas a Rusia, China e Irán.
Durante los últimos tres meses la compañía le ha dado fin a un total de 10 campañas en las que se utilizaban sus herramientas de inteligencia artificial con fines maliciosos. Las cuentas relacionadas con estas actividades han sido eliminadas. De las 10 operaciones 4 tenían su origen en China. Los objetivos eran variados y afectaban a varios países. También abarcaban un numero importante de plataformas y sitios web. El trabajo realizado combinaba elementos de influencia, ingeniería social y vigilancia.
ChatGPT y la propaganda
Los propagandistas chinos utilizan ChatGPT para escribir posts y comentarios en redes sociales. En una de la campañas, conocida como Sneer Review, se empleó ChatGPT para crear comentarios para TikTok, Reddit, Facebook y otros tantos sitios web. Los comentarios aparecían en chino (mandarín), inglés y urdu. Entre los temas aparecía Donald Trump y el desmantelamiento de la agencia de desarrollo en EEUU. Algunos textos elogiaban al mandatario y otros lo criticaban. Como han señalado muchos analistas, el objetivo de los propagandistas no es que triunfe una posición, sino crear conflicto social.
En varios casos se creaban las publicaciones y los comentarios que las seguían. El objetivo, señala OpenAI, es producir la sensación de una participación orgánica.
Un juego de Taiwan en el que el objetivo es derrotar al partido comunista chino también fue el blanco de la campaña. En este caso la IA fue utilizada para generar comentarios críticos. Luego se produjo un artículo extenso señalando como el juego había sido mal recibido.
Como dato curioso, los operadores también utilizaban ChatGPT para elaborar informes para sus jefes. OpenAI pudo comprobar que los textos de estos informes se correspondían con la actividad realizada.
Uso general
OpenAI advierte que Rusia e Irán han realizado operaciones de influencia encubiertas. También han aparecido empresas de Filipinas y Camboya realizando trabajos de spam. Corea del Norte también ha sido descubierta empleando ChatGPT. OpenAI destaca que todas las campañas fueron descubiertas en periodos tempranos de su desarrollo. También apuntan que no han advertido que las IA produjeran mejores resultados que las campañas realizadas con otros recursos.
Una pequeña pregunta
Dejamos a nuestros lectores con una pregunta: ¿Por que los operarios chinos no utilizaron DeepSeek? ¿O algún otro modelo generativo local? Es posible que sea por cuestiones de acceso y por el entrenamiento en inglés. Pero también puede que hayan previsto que en caso de ser descubiertos era mejor que la noticia no dañara el prestigio de la compañías nacional. También es posible que también estén utilizando DeepSeek y simplemente la empresa no va a denunciarlos.
