Sam Altman le habría comunicado a los empleados de OpenAI que la compañía tiene la intención de reducir la velocidad de desarrollo de sus modelos de frontera. Es decir, las versiones más avanzadas de sus sistemas de inteligencia artificial. El CEO de la compañía espera que otras empresas adopten una actitud similar. El reporte llega a través de Bloomberg.
Jakub Pachocki, jefe del departamento de ciencia de OenAI, había señalado recientemente que las empresas del sector deberían coordinar una reducción en el ritmo de desarrollo. Incluso había sugerido que estos periodos de menor intensidad deberían ser algo común hasta que tuvieran parámetros de seguridad compartidos.
OpenAI ya ha frenado el desarrollo en varias ocasiones, pero las razones son varias.
La presión por la seguridad
Es cierto que la empresa tiene una preocupación genuina por la seguridad. Pero como hemos visto por algunos ataques producidos por sus agentes, no parece que se estuvieran esforzando tanto como deberían. Por otro lado sus propios desarrolladores son conscientes de los peligros y saben que su trabajo puede comprometerse si los incidentes se multiplican.
Pero uno de los factores que parece que está ejerciendo mayor presión es la cantidad de ex empleados que advierten sobre la falta de medidas de seguridad en las empresas del sector. Uno de los más recientes ha sido Jacob Coxon, que había trabajado en Anthropic y luego fue contratado por OpenAI. Coxon apuntó contra ambas empresas acusándolas de empujar el desarrollo hacia un modelo de super inteligencia sin las debidas precauciones.
El desarrollador entiende que la IA podría matarnos a todos antes de que termine la década. Aunque suene alarmista este tipo de declaraciones es bastante común, aún entre los ejecutivos de más alto nivel.
