Anthropic ha publicado un extenso artículo en el que habla sobre los avances que ha tenido en el desarrollo de las capacidades de sus modelos para mejorarse a si mismos. Esto es producir código de calidad para el desarrollo de sus sucesores. La compañía señala que el 80% del código que utiliza es producido por Claude. Sus modelos más avanzados permiten que, ante un problema determinado, los empleados establezcan el objetivo, sin la necesidad de especificar el método de resolución. Sin embargo, las IA siguen siendo bastante deficientes en la elección de los objetivos.
Anthropic aventura que en un futuro las IA podrían ser recursivas.
Según la compañía, una IA capaz de mejorarse a si misma podría traer grandes beneficios al mundo, en el ámbito de la ciencia, la salud y otros tantos espacios. Pero también podría ampliar el riesgo de que la humanidad pierda el control sobre los sistemas de inteligencia artificial. Por eso es importante mejorar los métodos de control y monitoreo.
El genio fuera de la botella
Resulta algo extraño que una empresa esté tan entusiasmada y orgullosa por un trabajo que reconoce puede resultar en un gran peligro. Pero la lógica que sigue Anthropic es relativamente sencilla: De nada sirve que una empresa por su cuenta detenga su trabajo.
Una pausa significativa necesitaría del acuerdo entre muchos laboratorios de vanguardia, estableciendo condiciones similares y mecanismos para que cada uno pueda verificar que los demás han puesto un freno. Este sistema de control sería prácticamente imposible.
Una pausa individual solo cambiaría el liderazgo en el desarrollo. Y lo peor que puede ocurrir es que otros desarrolladores con menos cuidado o control obtengan una ventaja. Lo dicho resulta más significativo cuando consideramos que los dos grandes competidores en este campo son Estados Unidos y China. Países que desde hace años se han enfrentado en el terreno del espionaje y las redes.
Vaticinios relativos
En la parte final de su informe la compañía señala que si bien las tendencias son claras, y las capacidades de los modelos se han incrementado durante estos años, no está claro que forma tomará la curva de desarrollo. Es posible que en algún momento los rendimientos disminuyan. Si esto sucediera los desarrolladores necesitarían pensar una nueva arquitectura para los modelos de vanguardia. También podría haber dificultades por las necesidades de energía, o la fabricación de chips.
Pero aún en estas circunstancias, si los modelos se quedaran en su actual estado, Anthropic espera un gran impacto a nivel mundial.
En cierto punto el modelo de negocios de Anthropic parece ser afirmar que las IA son un gran peligro para la humanidad, lo que puede ser cierto. Luego afirmar que la única manera de enfrentar la situación es tener la mejor IA posible. Y luego vender esa IA.
