Según un reporte del medio The Intercept el ejercito de Estados unidos está desarrollando un programa para el despliegue de agentes autónomos de inteligencia artificial. Estos agentes deben ser capaces de moverse en entornos complejos, identificar objetivos y neutralizarlos. El proyecto es conocido como Echotribble y está mayormente enfocado en misiones ofensivas.
The Intercept cita como fuentes una serie de documentos filtrados del Comando Cibernético del Ejército, conocido como ARCYBAR.
Características
El ejercito tiene altas expectativas para los agentes de Echotribble. El diseño debe ser modular y ofrecer un comportamiento autónomo. A fines prácticos deben funcionar como gusanos y ser capaces de moverse de una red a otra y de un dispositivo a otro. Deben también poder auto duplicarse aún cuando enfrenten diferentes sistemas operativos.
Resulta curioso enterarnos ahora del plan del ejercito para crear gusanos de IA luego de que Anthropic advirtiera sobre ellos.
Un elemento fundamental es el sigilo. Los reportes de la actividad deben ser mínimos y transmitirse de forma encubierta. Luego, una vez que el agente cumple con su misión y elimina el objetivo, debe autodestruirse. En el mejor de los casos no debe dejar rastro alguno de su actividad o su existencia.
Independencia
Uno de los problemas a resolver es el nivel de autonomía que se espera de los agentes. La idea es que necesiten el menor nivel de supervisión humana posible. Deben por tanto superar obstáculos por su cuenta, pero además tomar decisiones importantes. Una pregunta obligada es ¿qué hará el agente con tal de conseguir su objetivo? Ya los que tienen misiones benignas han causado estragos, imaginemos los que están pensados para producir daño a un país enemigo.
¿Y qué impide que en un futuro el agente decida que para ejecutar mejor su misión no debe hacer otros trabajos en contra de sus dueños?
