Sam Altman, CEO de OpenAI, ha señalado durante una reciente entrevista en el podcast Relentless que ya hemos llegado a la era de la singularidad. “He estado esperando toda mi vida por esto, y creo que va a ser increible, muy positivo y maravilloso para el mundo”. Los dichos del ejecutivo pueden considerarse aventurados, pero son un síntoma del presente tecnológico.
Definición
El término singularidad fue originalmente utilizado por Vernor Vinge para describir un punto dentro del desarrollo de la inteligencia artificial en el cuál la máquina se vuelve más inteligente que el ser humano y gana la capacidad de mejorarse a si misma. Luego, como consecuencia, su cada vez más rápido desarrollo escapa del control humano.
El fenómeno de la singularidad es desde hace unos años casi un fetiche en Silycon Valley. A menudo despierta ideas que pertenecen más a la fantasía que a la realidad. Es parte de una tradición que ve a la tecnología como una solución mágica a los problemas de la humanidad, aunque también tiene un lado distópico. Altman cree que será muy beneficiosa, aunque en la definición original la singularidad tiene un tono de amenaza.
El momento
No es coincidencia que la afirmación de Altman se produzca luego del ataque a Hugging Face. Las IA de OpenAI se salieron de control. Pero en vez de enfocarnos en la responsabilidad de la empresa parece sugerir que llegamos al punto en que las IA son incontrolables.
Sin embargo, es cierto que entre quienes no hablan de la singularidad podemos encontrar la idea de que el desarrollo va a una velocidad demasiado grande y el entrenamiento automatizado puede ser peligroso. Por tanto, señalan, sería bueno imponer un ritmo más lento.
Empleados de empresas de IA piden bajar el ritmo de desarrollo
Algún límite
Ahora bien, los modelos de IA de la actualidad tienen la capacidad de entrenar a otros modelos. Este es el proceso que conocemos como destilado. Sin embargo, no son en sí capaces de hacerse más inteligentes por si mismos. De hecho en un círculo cerrado sin la participación humana la actividad de la IA tiende a degradarse.
Un factor aún más fundamental es que los modelos no son capaces de establecer objetivos por si mismos.
Por otro lado las IA tampoco piensan como los seres humanos, solo calculan. Lo hacen de una forma compleja que ofrece resultados similares a los de una persona, pero no es lo mismo. Algunos desarrollos, sin embargo, parecen llevarnos a una posición un poco más cercana.
Nuevo modelo de aprendizaje para IA imita el desarrollo de los niños
Así pues. ¿Estamos en la era de la sigularidad? No. Y hay que hacerse cargo de los desastres que al final tienen seres humanos como responsables.
