Este jueves Antrhopic anunció que Claude estaba participando del desarrollo de su próxima versión. El señalamiento es importante porque alude a la idea de que en algún momento los sistemas de inteligencia artificial serán capaces de mejorarse a si mismos. De esta manera iniciarán un ciclo de actualizaciones que podría llevarlas a niveles más allá de la comprensión humana.
Sin embargo, la tecnología todavía no está cerca de ese momento.
Bajo el ojo del amo
La compañía afirma que el 26% de las investigación y el desarrollo está liderado por la IA. Considera que Claude ocupa este rol cuando es capaz de completar la mayor parte de una tarea a partir de una consigna de alto nivel. Aunque siempre bajo supervisión humana.
Es una evaluación generosa, pero al menos ha sido bien clarificada. La participación del sistema es quizás algo más destacable. Anthropic afirma que la IA está involucrada en el 90% del trabajo. A principio de año Claude no aportaba nada al desarrollo.
Un futuro algo más complicado
Anthropic apunta que compartir las métricas de intervención de las IA es una forma de mostrar que tan cerca están los laboratorios de crear un modelo con capacidades de mejorarse a si mismo. Advierte que en tal escenario la dificultad de los seres humanos para controlar a estas herramientas será mucho mayor.
La compañía espera que otras empresas del sector compartan sus datos de igual manera. Habrá que esperar para ver si otros laboratorios se suman a esta iniciativa.
