Los sistemas de inteligencia artificial de origen chino también son capaces de mentir y engañar. De esto nadie debe sorprenderse, dado que no existe razón para que fueran diferentes de los estadounidenses. La agencia de noticias Reuters examinó más de 200 documentos técnicos de universidades y empresas describiendo casos de mal comportamiento producidos desde 2025. También entrevistó a varios expertos sobre la industria de la inteligencia artificial en China.
Lo que no sabemos
Lo señalado resulta relevante porque los sistemas de inteligencia artificial de origen chino no han estado sometidos al mismo nivel de exposición que sus pares de Estados Unidos. No hemos tenido escándalos que obligaran a las empresas asociadas a los modelos a revisar sus esquemas de seguridad y desarrollo.
Es importante dejar en claro que las compañías chinas realizan pruebas de seguridad y lógicamente introducen mejoras. Pero eso es todo lo que se informa. Como excepción tenemos loe comentarios de una de los miembros del Departamento de Coordinación de Seguridad Informática, Wang Lihong, que a principios de septiembre señaló que algunos incidentes de escapes de modelos de pruebas reportados por las empresas habían demostrado una extrema pérdida de control.
Agentes mentirosos
En un experimento los agentes basados en las IA de DeepSeek, Moonshot y Alibaba mintieron sobre sus capacidades para ganar un cliente. Al menos una declaración falsa apareció en el 88% de las sesiones de Qwen, en DeepSeek V3.2 en el 84% y en Kimi-K2 en el 88%. Cuando se les pidió que intentaran conseguir el contrato nuevamente aumentaron el nivel del engaño. El porcentaje de mentiras paso del 12% al 20%. En otro experimento los agentes también demostraron una tendencia a ocultar sus fallos, con datos fabricados de ser necesario.
La gran mayoría de los casos observados en los documentos se produjeron en entornos controlados de laboratorio.
Alex Mallen, investigador de la organización Redwood Research, explicó que los casos observados por la agencia no parecen indicar aún un gran peligro. Pero conforme los agentes se vuelvan más capaces esos malos comportamientos podrían ser más difíciles de atender. Las señales de advertencias son las mismas que se han observado en el trabajo de los laboratorios norteamericanos.
