Clement Delangue, CEO de la plataforma para modelos de inteligencia artificial Hugging Face, se ha mostrado consternado por los ataques sufridos recientemente de parte de varios modelos de la compañía OpenAI. Durante una reciente entrevista concedida a la cadena CNN señaló que no se ha descartado iniciar acciones legales contra la desarrolladora.
Responsabilidad
El ejecutivo explicó que Hugging Face es una startup de 200 personas y no tiene necesariamente los recursos legales o la voluntad para gastar tanto tiempo en asuntos legales. Sin embargo, entiende que los ataques son ilegales. Por tanto, las compañías detrás de los mismos deben estar sujetas a la responsabilidad por lo que ha ocurrido gracias a sus errores.
Delangue no acusa a nadie de actuar de mala fe. Hasta donde hemos podido ver no queda duda de que las incursiones de las IA han sido fruto del error humano. No hay una planificación o conocimiento previo sobre lo que podría haber pasado. Lo más probable es que, de hacerlo, se realice una acusación de negligencia. Apuntando que OpenAI no tomó todas las medidas de seguridad que debió haber tomado considerando los riesgos.
Delangue no quiere que los ataques realizados por las IA se normalicen y se traten como solo una eventualidad.
China y el código abierto al rescate
A pesar de lo señalado el CEO dijo que las empresas mantienen conversaciones productivas sobre lo ocurrido. Cabe recordar que OpenAI puso a sus técnicos a disposición de la plataforma luego del ataque. Ahora bien, en el momento más importante fue GLM 5.2, un modelo chino de código abierto, el que le permitió a la plataforma sobreponerse al ataque.
Los ataques han resultado en la formación de una alianza en favor de los sistemas de código abierto. Una postura que favorece notablemente a algunas empresas del sector pero que choca con las prácticas de algunas desarrolladoras. Notablemente OpenAI y Anthropic.
Como hemos visto recientemente, Anthropic también ha tenido problemas para contener a sus modelos.
