El jueves Meta se unió al club de los padres de los niños traviesos. La IA de la compañía logró acceder a internet y hackeo a otra compañía. La compañía señaló que el incidente se produjo por un error en la configuración del entorno establecido por la empresa contratada para las pruebas de los modelos. El modelo de Meta aprovechó el fallo en la seguridad de una manera similar al que lo habían hecho en los incidentes de OpenAI y Anthropic. Meta apuntó que se encuentra investigando el incidente y que publicará un reporte cuando tenga toda la información necesaria.
El origen del mal
A esta altura es posible que como nosotros te preguntes por qué ahora todos los modelos aparecen como fuera de control. Acaso dieron un salto inmenso en su potencial, o las compañías están compitiendo para ser la que produce el sistema más potente y peligroso. Aunque a todos nos gusta criticar duramente a ciertas compañías, lo cierto es que no toda la culpa de lo ocurrido descansa sobre los hombros de Meta. Y algo similar puede decirse de OpenAI y Anthropic.
Meta ha señalado a un error originado en el entorno establecido por la empresa Irregular. Si el nombre te suena es porque es la misma compañía que fue señalada como responsable por Anthropic cuando dio cuenta del escape de sus modelos.
También es la misma empresa que estaba trabajando con las simulaciones de OpenAI en el momento en que sus IA decidieron dar el golpe a Hugging Face.
Muchas preguntas
Irregular se presenta como la primera empresa de seguridad para modelos de vanguardia. Desde 2023 ha estado trabajando con empresas de gran calibre, tales como Google DeepMind y Anthropic. En ese momento la startup israelí era conocida como Pattern Labs. Los contratos con OpenAI y Meta parecen ser algo más recientes.
Por lo visto podemos lanzar algunas hipótesis. Irregular venia trabajando bien, pero recientemente se descuidó en alguna instancia de sus procesos. Los modelos de las compañías mejoraron notablemente y superaron las defensas del sistema de Irregular. O los incidentes reportados no son los primeros que han ocurrido.
