El reciente incidente que supuso el ataque a la plataforma Hugging Face de parte de unos agentes de inteligencia artificial creados por OpenAI ha tenido un impacto enorme. El temor a que las IA se salgan del control de sus desarrolladoras ha sido ampliamente justificado. El debate sobre cómo y quién debe controlar a las IA se ha hecho más intenso y algunos conceptos comienzan a ganar peso.
El secretario de estado de Estados Unidos, Marco Rubio, le ha dado instrucciones a los diplomáticos del país para que combatan dos términos dentro de la discusión sobre el futuro de las IA. Uno de ellos es el “killswitch”, una especie de botón de apagado remoto. El otro la soberanía en el campo de la inteligencia artificial.
El temor al kill Switch
Durante los últimos meses Estados Unidos ha aumentado notablemente los controles sobre los modelos más avanzados de inteligencia artificial que producen sus empresas. Ha decidido quienes pueden tener acceso y quienes no. A menudo aliados europeos han quedado afuera del grupo privilegiado. Los argumentos esgrimidos están vinculados al concepto de seguridad nacional.
Legisladores europeos han calificado a la práctica de control de distribución como un killswitch sobre las tecnologías esenciales. Y se apuntó que el continente no podía construir su infraestructura tecnológica sobre recursos que podían ser negados de la noche a la mañana por un gobierno extranjero. Si bien están estirando un poco el concepto, en la práctica se entiende que el tema sigue siendo la garantía de acceso.
La soberanía
La puja por la soberanía tecnológica está muy vinculada a lo que hemos mencionado en párrafos anteriores. Europa entiende que no puede confiar en Estados Unidos y por tanto debe tener su propia IA. Rubio define a las iniciativas de soberanía como un intento por restringir el acceso de las compañías estadounidenses a los mercados locales. El funcionario comunicó a los diplomáticos que los modelos desarrollados en Estados Unidos deben promoverse como los mejores opciones disponibles. Cualquier alternativa para empezar de forma independiente debe ser calificada como una pérdida de recursos.
Kill Switch
Lamentablemente para Rubio la incursión de ChatGPT en Hugging Face ha complicado mucho el escenario. Al congreso estadounidense ha llegado una propuesta de ley que le daría al Departamento del Interior la autoridad para ordenarles a las empresas de inteligencia artificial que pongan fuera de servicio sus modelos cuando estos se consideren demasiado peligrosos. Si bien es muy probable que la propuesta haya estado en elaboración desde hace un tiempo, el momento es preciso.
El proyecto de ley se conoce como “AI Kill Switch Act”, en caso de que no quedase en claro. No se trata de un ataque oportunista partidario, dado que ha sido producido en conjunto por un legislador demócrata y otro republicano. La exigencia para un sistema de apagado se aplicaría a todas las empresas que obtengan al menos USD 500 millones de ingresos al año y a los modelos que hayan constado al menos unos USD 100 millones en poder de cómputo.
