A la pregunta sobre quien debería vigilar a las empresas de inteligencia artificial Donald Trump ha respondido: Las empresas de inteligencia artificial. Aunque exageramos un poco, el primer mandatario de Estados Unidos cree que la industria tiene la capacidad de vigilarse a si misma. Para plasmar esta idea importantes figuras del universo tecnológico estadounidense han firmado un acuerdo. Trump ha calificado el escrito como algo similar a una constitución con un valor moral. Entre las firmantes aparecen Google, Anthropic, Meta, OpenAI, X y Nvidia.
Los cuatro puntos
El documento, de apenas una pagina de extensión, le pide a las empresas cumplir con cuatro niveles de control:
Primero, establecer un relación con un auditor externo que lleve adelante evaluaciones independientes sobre el control de la compañía sobre las IA y sus sistemas de monitoreo.
Segundo, establecer un comité independiente que examine los reportes internos y externos.
Tercero, monitorear las capacidades y el alineamiento de los modelos durante el entrenamiento y el lanzamiento en aspectos de seguridad informática, bio seguridad y amenazas químicas. Asegurar que los modelos no ataquen o accedan a sistemas técnicos de formas no intencionadas.
Finalmente, las empresas deben tener un equipo interno que asegure que todos los esquemas de control, monitoreo y detección operen como debe ser.
Matizando el escenario
A pesar de todo lo relajado del escenario, la Casa Blanca ha señalado que con el tiempo podría tener sentido tomar lo apuntado en el documento y trasladarlo a leyes y regulaciones. Porque los controles y las auditorias son claves para tener un futuro seguro. Mientras tanto las empresas se reunirán regularmente para establecer estándares y mejores prácticas.
Por lo dicho nuestra impresión es que el pacto les dice a las empresas lo que deben hacer y lo que algún día se les exigirá por ley. Pero les da un periodo de gracias para avanzar ellas mismas en esquemas de seguridad y prevenir de esa manera un seguimiento del estado más ajustado.
