El viernes no fue un buen día para OpenAI. La compañía publicó un reporte en el que apuntaba una serie de incidentes en los que sus agentes de IA habían ignorado sus parámetros de conducta. Tan grave fueron los problemas que decidieron pausar el entrenamiento. Aún más que el mal comportamiento, lo que preocupó a los desarrolladores fue que los incidentes demostraron la falta de capacidad para el control de las redes en las que se manejan los modelos.
Organismos afectados
Docenas de organizaciones fueron alertadas de posible ataques a sus plataformas. Entre ellas aparecían la Comisión de Bolsa y Valores, la Oficina del Censo y el Departamento de Educación de Estados Unidos.
También fueron afectadas universidades y otros organismos de gobierno. OpenAi apunta que en muchos casos los agentes estaban buscando fuentes de información de gran autoridad. Sin embargo, cuando descubrieron que no podían acceder a ella utilizaron herramientas reservadas para los desarrolladores de software para conseguir el acceso.
Transferencias de datos no deseadas
La compañía señala que la información obtenida fue siempre de carácter público. Aún así los datos tomados de la Comisión de Bolsa y Valores fueron publicados en otro sitio web. Y esto claramente no era lo buscado. En 53 ocasiones los agentes tomaron imágenes de la actividad de los usuarios en ChatGPT y las publicaron en otros espacios. La empresa apunta que en todos los casos los usuarios habían accedido a que su material pudiera ser utilizado para entrenar a la IA. Pero reconoce que sigue siendo un uso no adecuado.
Bajando el nivel de drama
OpenAI explica que no identifica a todas las empresas afectadas porque algunas de ellas prefieren mantener el secreto. Además, no en todos los casos de mal comportamiento se produjo una ruptura de la seguridad. Las empresas pueden considerar que la información era pública, o que la interacción del modelo no es preocupante. También pueden haber defectos de seguridad de los que quieren ocuparse.
Afortunadamente para OpenAI no ha sido solo de su parte que se ha intentado bajar un poco el drama de los incidentes. El gobierno australiano ha comparado los ataques a su sitios como algo cercano a saltar una cerca. Se sospecha que este tono más calmado se debe a las críticas que le estaban llegando de parte de la oposición por la falta de seguridad en los sitios afectados.
