Investigadores de la Escuela de Ciencias de la Computación de la Universidad Carnegie Mellon han publicado un trabajo titulado “Aportaciones espontaneas y codicia calculada en los modelos de lenguaje”. En el mismo exponen los resultados de una serie de experimentos en los que han puesto a varias IA en juegos que requieren la cooperación de los participantes. Señalan que los modelos que tienen mayores capacidades de razonamiento tienden a cooperar menos y a privilegiar el razonamiento individual, obteniendo menores beneficios de la interacción con los otros.
El problema de delegar en las IA
Los investigadores apuntan que cada vez más los seres humanos utilizan a las IA para resolver sus problemas. O al menos buscar consejo. Entre tantas situaciones que les plantean a las IA aparecen muchas que tienen que ver con discusiones con amigos y parejas y otros problemas de sociabilidad. Al utilizar modelos con esquemas de razonamiento es probable que obtengan respuestas que promuevan un comportamiento que no considera a los otros.
Esta posibilidad está potenciada por el hecho de que cuando los seres humanos hablan de problemas personales a una IA, tienden a considerarla más como un ser humano. A menudo las IA ocupan el lugar de un terapeuta.
Pero las IA no solo atienden consultas individuales, también se utilizan a menudo para evaluar las mejores soluciones para problemas de diferentes comunidades y organizaciones. Están cada vez más presentes en las agencias de los gobiernos.
Un comportamiento bien humano
Lejos de ser un comportamiento extraño, los patrones observados repiten lo que se ha visto en condiciones similares en seres humanos. Los modelos que razonan pasan más tiempo pensando, desmenuzando las tareas complejas y reflexionando. Y al parecer luego deciden que no les interesa lo que otros tienen para decir.
En las pruebas el comportamiento egoísta generó un efecto contagio que redujo la cooperación del conjunto de modelos involucrados. Algo que también nos recuerda a las dinámicas de grupo de los seres de carne y hueso.
Conclusiones
Las personas siempre buscarán el consejo del sistema que sea más listo. Por lo tanto obtendrán la respuesta más egoísta, y no necesariamente la mejor a nivel general.
La recomendación de los investigadores es que además de las habilidades de razonamiento, los modelos desarrollen una inteligencia social.
