El Pentágono ha revisado su doctrina de guerra y abierto la puerta a que en un futuro los sistemas de inteligencia artificial tomen decisiones críticas. Sin embargo, sostiene que en todo caso se mantendrá la supervisión humana..
Toma de decisiones
La publicación de la que surge este detalle establece los criterios utilizados por Estados Unidos y sus aliados para elegir a los objetivos de combate. Lo dicho supone no solo identificar blancos, sino también evaluar las circunstancias en las que estos se presentan y establecer un curso de acción. En todo este cálculo se incluyen cuestiones tales como la posibilidad de producir víctimas civiles.
En un segmento se hace referencia al desarrollo de los sistemas de inteligencia artificial.
“La velocidad del combate en el futuro, así como los avances de nuestros adversarios en los sistemas de IA, pueden exigir que las fuerzas conjuntas adopten sistemas completamente autónomos”. El documento también considera que las IA reducirán el tiempo entre la detección de un blanco y el ataque y como consecuencia la duración de las operaciones.
Por otro lado se reconoce que el uso de las IA supone un serio dilema moral y legal y exige por tanto una serie de guías claras para evitar cualquier preocupación sobre las decisiones en las que interviene esta tecnología. También se advierte que las fuerzas militares deben evitar confiar por demás en la información suministrada por las IA cuando esta no tiene una supervisión humana.
Finalmente, se apunta, “la automatización no es un reemplazo para el pensamiento humano y las comunicaciones proactivas”.
O sea: puede que automaticemos, sería beneficioso, pero peligroso, tengamos mucho cuidado.
La versión oficial
El Departamento de Defensa, o de Guerra según a quién se le pregunte, asegura que la doctrina actual exige que los seres humanos se mantengan a cargo de cada decisión. Las IA no pueden seleccionar o dictar ataques.
Cabe recordar que Estados Unidos utilizó sistemas de inteligencia artificial en el reciente conflicto con Irán. Uno de los episodios más lamentables se produjo cuando un misil terminó con la vida de cientos de niños en una escuela cercana a una base militar. Las críticas apuntaron que el edificio era fácilmente distinguible simplemente utilizando Google Earth. No es posible determinar si un sistema de IA es responsable en particular de este incidente, pero aún como coincidencia -a falta de mejor información- ha supuesto una alarma.
El documento no especifica si este u otro incidente similar han sido tenidos en cuenta al establecer los nuevos procedimientos.
