OpenAI ha despedido a tres empleados por violar sus políticas de manejo de información sensible. La compañía asegura que luego de una investigación descubrió que esas personas habían ignorado los procedimientos de la organización y de esa manera quebrado un elemento de confianza esencial para seguir en sus puestos. No se trata de un hecho aislado sino de un patrón de conducta. The Wall Street Journal señala que los empleados compartieron información confidencial con una organización dedicada a evaluar los sistemas de seguridad en los programas de inteligencia artificial.
El caso Hugging Face
Sobre que tipo de información fue filtrada no tenemos ninguna indicación por parte de OpenAI. Lo único que sabemos es que uno sus empleados, Tomek Korbak, trabajó en el departamento de seguridad de la empresa.
Cuando la compañía comenzó a investigar lo ocurrido con Hugging Face invitó a investigadores externos para colaborar en la tarea. Dos investigadores de METR y uno de Reddwood estuvieron 6 días en las oficinas de OpenAI y publicaron un reporte independiente en agosto describiendo el accionar de los agentes. Esto incluía no solo las técnicas, sino también las tareas que se les habían asignado originalmente. Korbak, que trabajaba en el caso, fue el vínculo técnico con estos investigadores independientes.
Los otros dos empleados despedidos eran del área de alineamiento, que tiene como tarea asegurar que los sistemas se comporten como lo quieren lo usuarios. Y evitar por supuesto comportamientos extraños y ataques a otras organizaciones.
Descontento
No podemos saber que es exactamente lo que ocurrió. Es probable que en el caso de Korbak los datos que aportó a los investigadores externos hayan sido más de lo que la empresa quería dar a conocer. Muchos profesionales se han marchado de OpenAI y otras empresas de IA por un profundo desacuerdo con sus políticas de seguridad. Otros han sido despedidos por, argumentan los ex empleados, esas mismas razones.
Los profesionales de IA son muy valiosos y no suelen tardar mucho en encontrar un nuevo trabajo. Muchos pueden considerar que si se produce un delito, aun involuntario, debe informarse con mayor profundidad.
