Un grupo de investigadores de la Universidad de Michigan ha estudiado el modo en que las personas se comportan al comparar las respuestas que brindan las IA con sus propias opiniones. El trabajo ha revelado que a pesar de los avances tecnológicos las personas siguen actuando como lo han hecho siempre, valorando las ideas que coinciden con las suyas y desestimando las que no.
La sinceridad y las IA
Los investigadores señalan que las IA frecuentemente son diseñadas para complacer a los usuarios. Esto ha llevado a que en muchas ocasiones apoyen las ideas y afirmaciones de las personas aún cuando sean muy cuestionables y tengan fallos de razonamiento. Algunos desarrolladores han intentado producir modelos que estuvieran más inclinados a contradecir a los usuarios cuando esto fuera necesario.
El trabajo presentado apunta que la reacción de los usuarios a un comportamiento más sincero puede no ser tan positiva como podríamos desear.
Dilemas
Unos 482 participantes tuvieron que resolver una serie de dilemas sociales. Ninguna de las situaciones planteadas tenían una respuesta objetiva correcta o incorrecta. Había conflictos familiares, de pareja, problemas de grupos y amigos.
Los participantes elegían una opción de entre las presentadas para cada dilema. Luego señalaban que tan convencidos estaban de lo que habían elegido. En el siguiente paso recibían la respuesta de la IA, que podía coincidir o no con la de ellos. Finalmente se les preguntaba como había afectado la IA su confianza en la respuesta que habían elegido y que pensaban del modelo.
Resultados
Cuando las IA coincidían con lo que habían elegido los participantes estos se sentían más confiados en sus elecciones. También se registró una mayor predisposición ha trabajar con sistemas de inteligencia artificial. Cuando las IA ofrecían respuestas diferentes la confianza de los participantes no disminuía. Cambiaba la percepción de los modelos, que eran vistos como menos capaces de entender las emociones humanas, más como simples máquinas.
Los investigadores apuntan que tener modelos más sinceros no solucionará plenamente el problema de las conversaciones peligrosas.
