El Instituto Australiano de Política Estratégica ha presentado un reporte en el que evalúa el uso de los sistemas de inteligencia artificial en China. En el mismo advierte como se está aprovechando esta tecnología para establecer un control mas efectivo de la población y nuevos mecanismos de censura. El informe lleva por título “La IA del partido: Como los nuevos sistemas de IA están reformulando los derechos humanos”.
Según apunta el instituto, en China las IA deben estar al servicio de los valores del partido.
Método y resultados en general
Entre los modelos evaluados para el informe estuvieron: Ernie Bot, Qwen, GLM y DeepSeek VL2. Los sistemas fueron expuestos a temáticas tales como las protestas en Hong Kong, los líderes del partido comunista y los incidentes en Tiananmen. Una base de datos con un total de 200 imágenes relacionadas a estos tópicos fue empleada para evaluar las respuestas. Los modelos demostraron fuertes tendencias a la censura cuando aparecían imágenes políticamente sensibles. Mucho más que sus pares estadounidenses.
La amenaza
ASPI advierte que el mayor peligro es que las IA producidas en China se están volviendo muy populares en el resto del mundo. Difundiendo así una versión recortada y a menudo falsa de la historia.
Uso cada vez más extenso
Las plataformas en China han sido forzadas a utilizar IA como método de control de contenido. Los sistemas automatizados realizan la mayoría de las tareas de censura, pero los seres humanos todavía son empleados para emitir juicios políticos. La censura es un gran negocio. Empresas tales como Baidu y ByteDanace han desarrollado sistemas de censuras que venden a otras plataformas.
El gobierno está impulsando su adopción en las cortes para el papeleo diario, pero también para realizar recomendaciones para las sentencias.
Modelos reducidos dedicados específicamente a analizar las expresiones de minorías étnicas dentro del país están siendo desarrollados. Pero también existe la intención de extender estas iniciativas a los lenguajes de los países vinculados a China a través del programa de desarrollo Franja y Ruta.
