Investigadores de las Universidad de Oxford y el Instituto Hasso Plattner de la Universidad de Potsdam han realizado un estudio sobre como los modelos de lenguaje manipular el contenido de los mensajes en las redes sociales. Apuntan que, con el tiempo, una serie de pequeños cambios puede ejercer una poderosa influencia sobre la opinión pública.
Un detalle de suma importancia es que la manipulación que ejercen las IA no es necesariamente el resultado de un plan o la intención de sus desarrolladores. Puede ocurrir sin una instrucción específica y aún cuando se le pida al modelo que conserve el significado original de un texto.
Método
Los investigadores le pidieron a varios modelos de lenguaje que convirtieran textos producidos por seres humanos sobre temas polémicos en mensajes mejor adaptados para las redes sociales. Luego analizaron los mensajes producidos para evaluar si se había producido un cambio de posición en ellos.
Posteriormente analizaron los modelos para ver que decisiones de implementación podrían ser las causantes de un cambio de punto de vista. En el caso de Grok advirtieron muchas modificaciones en la temática del aborto. Pero cuando se rastreó la causa se encontró que la instrucción original que estaba alterando los mensajes no eran una dirección específica sobre el tema, sino la idea de que tenía que desafiar la posición de los medios dominantes cuando fuera necesario. La premisa suena bien, pero la IA no tiene el sentido común de un ser humano.
Conclusiones generales
Los prejuicios que alteraban los mensajes fueron observados en diversos modelos de inteligencia artificial. Muchos de ellos alteraban los mensajes en direcciones similares.
El origen de las alteraciones no son solo los modelos, las implementaciones en cada plataforma también tienen gran peso.
Pequeños cambios en distintos mensajes pueden ejercer una influencia poderosa a lo largo del tiempo. Los efectos son acumulativos.
Como consecuencia de lo anteriormente señalado, sistemas de inteligencia artificial pueden convertirse en una nueva herramienta para influir en la opinión pública.
Es necesario que las redes sociales y otros medios que utilizan sistemas de IA sean transparentes y que se establezcan regulaciones sobre su accionar.
