Un grupo de investigadores italianos ha presentado un estudio que señala que las personas que reciben consejos de una IA tienden a ser más reticentes a la hora de admitir la falta de conocimiento sobre un tema.
Los investigadores realizaron 5 experimentos con dos grupos. En ellos los participantes enfrentaban preguntas difíciles para las que tenían siempre la posibilidad de no responder. Uno de los grupos podía consultar a las IA. Las preguntas se prepararon de forma tal que las IA ofrecerían una ayuda incorrecta. Es decir, se eligieron temas en los que los modelos generativos suelen fallar.
Durante las pruebas se observó que las personas que no tenían acceso a las IA optaban por no responder en el 44% de las ocasiones. Mientras que las que tenían acceso a las IA lo hacían en el 3%. La penalización de los desaciertos hizo que los participantes se dieran un poco más la oportunidad de no contestar. Pero esto siguió ocurriendo menos que en lo grupos en los que no estaba disponible el uso de las IA.
Un problema de confianza
Un detalle a tener en cuenta es que el nivel de acierto cayó significativamente. Las personas sin ayuda de las IA dieron la respuesta indicada en el 27% de los casos, mientras que las que usaron la IA lo hicieron en el 9%. Lo señalado parece indicar que en muchas ocasiones las personas del segundo grupo pudieron haber dado una respuesta correcta, pero confiaron más en lo que les dijo la inteligencia artificial.
El consejo de las IA también hizo que la confianza en las respuesta aumentara. El grupo sin ayuda manifestó un nivel de confianza del 30%, mientras que el que usaba la tecnología llegó al 76%.
El valor de no saber
Los autores del estudio explican que es importante saber reconocer los límites del conocimiento propio. Con la IA es posible encontrar respuestas para cualquier pregunta. Pero las IA no son infalibles y pueden alucinar, por lo que debemos observar cuando perdemos la capacidad para decir que no sabemos la respuesta.
En tal sentido la educación sobre el uso de las IA es muy importante. Lamentablemente los intereses de las empresas, la imagen que quieren proyectar de sus productos, puede no coincidir a veces con la mirada crítica que necesita la sociedad.
