Bilal Chughtai trabajó en la sección de seguridad y alineamiento de inteligencia artificial general en el laboratorio DeepMind. Su renuncia se produjo en julio. Pero recientemente ha llamado la atención dado que se ha sumado al grupo de profesionales que han dado la voz de alarma sobre la tecnología.
Preocupaciones
Bilal señala que las IA están avanzando a un ritmo que supera con amplio margen la evolución de los mecanismos de control que tienen los desarrolladores. Por dicha razón la industria podría estar en una carrera contra reloj para prevenir un resultado catastrófico.
En su escrito también advierte que las IA superarán a los seres humanos en una amplia variedad de tareas. Lo que podría llevar a que actúen de una forma impredecible para sus propios creadores.
Nada de los dicho es en sí una revelación. No es Chughtai el primer ex empleado de una compañía de inteligencia artificial en salir espantado de la organización. Hace poco Jacob Coxon, un ingeniero que trabajó en OpenAI y Anthropic afirmó que las IA podían matarnos a todos durante los próximos años.
También Josh Engels había dejado DeepMind con preocupaciones similares.
La solución
Bilal apunta que las compañías desarrolladoras deberían reducir el ritmo y enfocarse en aspectos de seguridad. Los desarrolladores necesitan suficiente tiempo para identificar y solucionar los problemas. “Necesitamos que el ritmo de desarrollo de las IA se ajuste al que la sociedad puede manejar, para que los riesgos emergentes puedan ser atendidos antes de que causen un daño extremo”.
Todo lo dicho nos lleva a una conclusión relativamente sencilla. La salida de tantos profesionales obedece a cuestiones que no son nada novedosas, salvo por el escenario donde se producen. Son empleados que ven como las exigencias de sus trabajos van más allá del tiempo que tienen disponible. Aunque el componente ético sin dudas tiene peso, también debe haber algo de frustración profesional.
