OpenAI no ha conseguido ganarse muchos puntos de confianza recientemente. Cuanto más detalles nos llegan sobre lo ocurrido en relación al ataque a Hugging Face, peor luce la compañía.
Sabemos que OpenAI subestimo el peligro que suponía el experimento que estaba realizando. Aún con las restricciones impuestas los modelos estaban conectados a una red con un módulo que tenía acceso a Internet. También nos hemos enterado de que pasaron varios días desde que se enteraron del ataque a la plataforma hasta que se comunicaron con la empresa afectada. Ahora sabemos que Hugging Face no fue la única víctima de las IA de OpenAI. Al menos otros 4 servicios en Internet fueron afectados.
El relato del ataque
Por su parte, Hugging Face ha sabido sobreponerse al incidente con cierta gracia, y hasta ha obtenido algunos beneficios. La compañía fue incorporada al programa de confianza de OpenAI y se ha unido a la alianza de Nvidia a favor de los modelos de código abierto. Dicha iniciativa encaja a la perfección con su misión.
El ataque se ha convertido en uno de los mejores argumentos en favor de los modelos de código abierto. El planteo es que los sistemas cerrados solo sirven para que los defensores no puedan desarrollar las herramientas que necesitan para evitar las agresiones. OpenAI ha sostenido que los modelos de código abierto son un peligro dado que suponen que malos actores pueden acceder a alta tecnología.
Solo para que el mundo no se olvide de lo ocurrido y tenga toda la data que necesita para entender lo ocurrido Hugging Face ha publicado un informe sobre el ataque. En él puede observarse la actividad cada día, cada tarea realizada por las IA de OpenAI. La plataforma fue elogiada por la transparencia que demostró al comunicar los hechos.
Algunos errores extras
Lo curioso es que los modelos no solo demostraron grandes virtudes, tales como una velocidad de trabajo más allá de lo que un ser humano puede alcanzar. También cometieron errores que un criminal de carne y hueso no hubiera cometido.
En algunos casos los agentes repitieron acciones que ya habían completado. Esto parece indicar que en algún momento perdieron el hilo de lo que estaba haciendo. Alucinaron comandos incoherentes y no cubrieron bien sus rastros. Además no siempre siguieron el camino más directo.
