Por debajo de los grandes mandatarios a menudo hay funcionarios de menor calibre haciendo cálculos y llegando a conclusiones diferentes, a menudo más acertadas. Un grupo conformado por expertos de Estados Unidos y China lleva tiempo discutiendo como enfrentar una serie de conflictos involucrando sistemas de inteligencia artificial. La conclusión a la que han llegado es que es urgente que ambos países establezcan límites y protocolos que eviten algún malentendido de graves consecuencias.
Los expertos han advertido que las IA son cada ve más poderosas y están cada vez más involucradas en los procesos de decisión. Por tanto las naciones necesitan estar mejor preparadas para ciertos escenarios. No hablamos del futuro. China ha apuntado al rol que ha tomado la tecnología durante la guerra de Estados Unidos con Irán.
Trump quiere deshacerse de Anthropic, pero EEUU utiliza a Claude para atacar a Irán
La tensión generada por las IA
Los expertos señalaron que la rivalidad entre Estados Unidos y China por los chips y los modelos de IA está extendiéndose a aspectos tales como el control de armas. Las propuestas presentadas no esperan cambiar la realidad, pero sí establecer algunos límites.
Las naciones acordarían que los sistemas nucleares son intocables. Es decir, nada de incursiones con IA en esos espacios.
Cualquier ataque informático debería ser controlado por seres humanos.
Debe establecerse una línea directa entre ambos países para resolver casos en los que estén involucradas IA autónomas. Esta vía de comunicación es fundamental debido a la velocidad a la que actúan los modelos. Una preocupación fuerte es que los sistemas puedan generar falsas alarmas.
Buenas intenciones
Las recomendaciones fueron publicadas la semana pasada, pero los expertos de ambos países han estado trabajando en conjunto desde 2019.
Aunque el diálogo es bienvenido algunos críticos temen que las vías de comunicación no sean efectivas. Explican que en el pasado Estados Unidos ha intentado comunicarse con China por varios incidentes y los funcionarios chinos han elegido no responder.
