Según el jefe de tecnología de la organización gubernamental, Emil Michael, las autoridades comptetentes realizaron varias concesiones a la empresa. El Departamento de Guerra se habría ofrecido a poner por escrito que se reconocen todas las leyes que impiden a los militares realizar tareas de vigilancia masiva sobre los ciudadanos. También se reconocerían las políticas que ha mantenido el Pentágono a lo largo de los años sobre el uso de armas autónomas. Finalmente, a la compañía se le ofreció un puesto en la mesa de ética e inteligencia artificial.
No lo hacemos, no planeamos hacerlo, pero…
Sin embargo, las autoridades del departamento de defensa no accedieron a señalar de forma específica que la tecnología de Anthropic no podría utilizarse para los fines mencionados (vigilancia masiva y armas autónomas). En cierto punto, apuntó Michael, debes confiar en que tu ejercito haga lo correcto. “Pero tenemos que estar preparados para el futuro. Tenemos que prepararnos para lo que está haciendo china. Así que nunca vamos a decir que no vamos a defendernos en un texto dedicado a una empresa”.
La queja de Anthropic
Anthropic ha apuntado precisamente al escenario que plantean los militares. Aunque se presenta la situación como si se hubiera llegado a un compromiso entre partes, lo cierto es que el Pentagono se reserva un amplio margen de acción.
En una reciente publicación el director de la empresa habla sobre el tema. Señala que es importante que las IA sean utilizadas por EEUU y otros países democráticos para derrotar a sus rivales autócratas. Y que por eso se trabajó de forma proactiva para llevar los modelos de Anthropic al ahora Departamento de Guerra.
Dario Amodei reconoce que las decisiones militares están en manos del Departamento de Guerra, no de las empresas. Sin embargo, sostiene, en algunos casos la inteligencia artificial puede ir en contra de los valores democráticos. En otros es un problema de maduración y seguridad. En un caso se refiere a los sistemas de vigilancia masivos. En el otro a las armas completamente automatizadas. Amodei hace la distinción respecto de las parcialmente automatizadas, como las que se usa Ucrania actualmente.
A pesar de las amenazas
El Departamento de Guerra ha señalado que podría remover a los sistemas de Anthropic si no quita las restricciones de sus modelos. Incluso podría calificar a la empresa como un riesgo a la cadena de suministros. Una etiqueta que solo se aplica a empresas extranjeras sospechadas de espionaje o sabotaje.
A pesar de todo Anthropic ha elegido no cambiar su posición.
