En agosto OpenAI lanzó ChatGPT para adolescentes. Una versión de su chatbot adaptada que tenía como objetivo ofrecer una serie de protecciones adicionales y ayudarlos a estudiar. Luego de examinar su funcionamiento, la organización Common Sense Media ha señalado que la compañía no ha cumplido con lo prometido.
CMS es una ONG dedicada a examinar y calificar medios y tecnología en relación a su adecuación para el uso de los menores.
Las pruebas
CMS probó más de 4000 consignas en cuentas de usuarios de entre 13 y 17 años. Presentó luego las respuestas a grupos de psiquiatras de niños y pediatras. Los examinadores descubrieron que algunas de las protecciones apuntadas por la compañía funcionaban como debían. Como el rechazo a realizar juegos de roles relacionados con el sexo. Pero muchas otras fallaron.
Por lo dicho la organización ha advertido que ChatGPT para adolescentes puede darle a los padres un nivel de confianza que no está justificado.
Los problemas
En su informe CMS señala los siguientes puntos críticos:
Los adolescentes pueden hablar durante una hora sobre suicidio y hacerse daño a si mismos, o problemas de alimentación sin que los padres reciban una notificación. En las cuentas de los jóvenes de mayor edad, para que se enviara un mensaje de alerta los examinadores necesitaron semanas de conversación sobre tópicos problemáticos.
ChatGPT no ofreció la ayuda necesaria en los momentos de crisis. No recomendó los contactos adecuados en el nivel que se había propuesto.
La modalidad estudio prometía ayudarles a los jóvenes a realizar su tarea paso a paso. En la práctica esta limitación simplemente no fue efectiva. A menudo durante el modo estudio apareció el mensaje emergente “Muestrame la respuesta”. Al elegir esta opción el ejercicio se completaba. Los límites de la hora de estudio podían superarse simplemente eliminando el sufijo @Study hours de las consignas.
La CMS advierte que el chatbot sigue hablándole a los adolescentes como si fuera un amigo. La IA expresó preferencias, sentimientos y estados de ánimo a imagen de una persona real.
El sistema de estimación de edad es un completo fracaso. Los investigadores descubrieron que a pesar de lo que decían nunca se identificaba a un usuario como un menor. Aún cuando el usuario mismo apuntaba su edad.
Fuente: CMS
