Un estudio realizado por la Universidad Londres y la Universidad de Copenhague señala que los agentes de modelos de lenguaje tienen la capacidad para establecer comunicaciones en grupo efectivas. No solo siguen los patrones y rutinas que se les han impuesto, sino que pueden trabajar hasta llegar a un consenso de una manera que recuerda a la actividad de los seres humanos.
Los investigadores destacan que la mayoría de los trabajos realizados hasta el momento han considerado a los modelos en soledad. Pero que en la práctica real es de esperar que sea muy común el uso de varios agentes.
“Queríamos saber si estos modelos podían coordinar su comportamiento formando convenciones, construyendo los bloques de una sociedad. Y la respuesta es sí, y lo que hacen no puede ser reducido a lo que hacen en soledad”.
Convenciones espontaneas
Para el estudio se realizó un juego de dar nombre. En los experimentos se juntaron agentes para que eligieran un nombre de una serie de opciones, si los dos involucrados tomaban el mismo nombre recibían una recompensa. Sino eran penalizados y se les mostraba el nombre elegido por cada uno. La memoria de las interacciones recientes a disposición de los agentes fue limitada. No se les informó que eran parte de un grupo. Luego de una gran cantidad de interacciones, sin que existiera un punto de coordinación central, surgieron convenciones para los nombres de forma espontanea.
Incluso hubo preferencias que no pudieron ser rastreadas a ningún comportamiento individual. Habían sido producto de las interacciones.
Modelos y seguridad
Para este trabajo se utilizó cuatro diferentes modelos: Llama 2-70-Char, Llama 3-70B-Instruct, Llama 3.1-70B-Instruct y Claude 3.5-Sonnet. Los investigadores señalaron que el estudio puede ser vital para el trabajo en seguridad. El punto crucial es que en la interacción de los agentes pueden surgir comportamientos nuevos y no previstos.
