Lunes, 16 de Septiembre de 2019

Ex ingeniera de Google advierte contra robots de guerra sin supervisión humana

Laura Nolan ha sumado su voz a un movimiento internacional que pide que se prohiba la implementación de esta tecnología en los conflictos bélicos. El principal temor es la incapacidad de las IA actuales para ejercer cualquier tipo de juicio confiable para distinguir objetivos millitares y civiles.

Laura Nolan renunció a su puesto en la compañía el año pasado luego de haber sido asignada a un proyecto vinculado con la tecnología de drones de uso militar.

La participación de Google en proyectos militares no es un secreto. El desarrollo al que Nolan Había sido asignada era un programa de desarrollo de IA para la identificación de objetivos del Departamento de Defensa de los Estados Unidos.

La ingeniera ha hecho un llamado público para la prohibición de las armas operadas por inteligencia artificial sin intervención humana. También ha  advertido que los robots podrían generar situaciones terribles para las que originalmente no fueron programados.

Advertencia

Nolan ha compartido su preocupación con varios diplomáticos de las Naciones Unidas. “La posibilidad de que se produzca un desastre es proporcional a la cantidad de estos robots en un área determinada. Lo que enfrentamos es la posibilidad de que se produzcan atrocidades y asesinatos sin control aún en relación a las leyes de la guerra, especialmente si cientos o miles de estas máquinas son puestas en operación”.

Nolan señala que los accidentes podrían ocurrir en gran escala porque los robots podrian comenzar a comportarse de formas inesperadas. Por dicha razón la supervisión humana es clave.

Problemas

Nolan ha advertido que las armas autónomas podrían enfrentar zonas de operación con señales de radar no previstas, o condiciones atmosféricas no consideradas en su software. Personas cazando por comida podrían ser catalogadas como una amenaza. Las máquinas, explica la ingeniera, no tienen el sentido común de un ser humano.

Lo peor de la situación es que la única manera de comprobar realmente la eficacia de los sistemas de automatización es por su implementación en las zonas de conflicto.

Rusia también está interesada

Estados Unidos no es el único país interesado en la implementación de armas automatizadas. El tanque ruso T-14 ha sido diseñado para poder operar sin intervención humana. Aunque sus sistemas todavía están en desarrollo el objetivo es crear un arma independiente de la dirección humana.

Detengan a los robots

El temor a que este tipo de ingenios se utilicen en conflictos bélicos y las consecuencias que esto podría traer han hecho que muchas personas se unieran a la campaña para prohibir esta práctica. Organizaciones dedicadas a tal fin existen desde hace ya algunos años, como es el caso de Stop Killer Robots.

Galería de Imágenes

Últimos lanzamientos Ver más