Algo más de 1000 empleados de varias de las más importantes desarrolladoras de inteligencia artificial de Estados Unidos han firmado una petición para el gobierno federal. En el documento le piden a las autoridades que apoyen la iniciativa internacional Pacing the Frontier que tiene como objetivo la producción de herramientas para controlar el desarrollo automatizado de las IA.
“Las empresas de IA líderes a nivel mundial creen que están cerca de automatizar el desarrollo de la inteligencia artificial. Es difícil predecir cuanto podría acelerar el progreso, pero existe un riesgo real de que esta capacidad de desarrollo se acelere rápidamente más allá de nuestra capacidad de comprensión o de los controles que podamos utilizar sobre estos sistemas”.
Entre los firmantes hay profesionales de OpenAI, Google, Meta, Anthropic, Mistral y Microsoft.
El problema
Los empleados sostienen que el peligro exige que los desarrolladores se tomen un tiempo para prepararse. Pero la competencia en la industria hace que para muchas empresas y países la idea de desacelerar por su propia cuenta sea inaceptable. Laura Weidinger, investigadora de Google, señala: “Si es cierto que la IA será tan transformadora como la electricidad, lo mejor será que tengamos en claro como queremos que llegue al mundo. Una carrera inconsciente sin medios de gobierno, seguridad o tecnología que sirva al interés público es un obstáculo para esa aspiración”.
Apoyo en altos mandos
La petición cuenta con el respaldo de varios ejecutivos de alto nivel. Entre ellos están Dario Amodei, CEO de Anthropic, Dawn Song, vicepresidente de desarrollo de IA en Meta y el jefe de ciencia de OpenAI, Jakub Pachocki. OpenAI ha señalado públicamente en su cuenta de X que en algún punto en el futuro el desarrollo de las IA irá tan rápido que el mundo tendrá que imponer un ritmo. Explica que su investigación sobre desarrollo recursivo apunta a la necesidad de herramientas que impongan un límite para que la sociedad tenga tiempo para prepararse.
Anthropic ha sido una de las compañías más alarmistas en lo que se refiere a la capacidad de las IA de escapar del control humano. Por su lado, OpenAI ha demostrado con su incompetencia que las IA pueden escapar al control humano.
Aunque algunas firmas se repiten y una iniciativa no es incompatible con la otra, esta propuesta puede en parte verse como una respuesta a la alianza propuesta por Nvidia hace unos días.
Nos gustaría decir que el compromiso de las empresas con esta iniciativa es real, pero no vemos a China firmando el acuerdo. Y no vemos a Estados Unidos limitando el desarrollo de una tecnología que tiene aplicaciones militares y comerciales. O a las empresas bajando el ritmo sabiendo que quizás la competencia no lo haga. Ojala sea algo más que una manera de mostrarse preocupados por un problema que ellas mismas están creando. Es difícil creerlo.
