OpenAI ha publicado un artículo en el que habla sobre la necesidad de adecuar la experiencia ante las IA a la edad de los usuarios. La compañía señala que muchos adolescentes están creciendo con los modelos de inteligencia artificial y que el modo en que estos sistemas responden a sus consultas no debería ser el mismo que cuando interactúa con un adulto.
Ahora bien, lo dicho parece una cuestión de sentido común, un punto obvio que no debería haber pasado desapercibido por las desarrolladoras hasta ahora. Y sin embargo, en buena medida así ha ocurrido.
El objetivo
La compañía tiene como meta construir un sistema que cuando detecte que está siendo utilizado por un menor de 18 años redirija al usuario a una modalidad adecuada. Esta modalidad tendrá sus propias políticas de contenido. Incluyendo la remoción del contenido de carácter sexual. Por otro lado, en casos en los que se observe un problema de gravedad en las interacciones se contactará a las autoridades competentes.
OpenAI confiesa que establecer la edad con información parcial es muy difícil. Pero apunta que en caso de duda se optará por el sistema para menores. Luego los adultos tendrán la opción de probar que lo son.
Y mientras tanto
Por el momento a fin de septiembre ChatGPT incorporará una serie de mecanismos para mejorar la seguridad de los menores.
Primero, cabe recordar que para usar el sistema es necesario ser mayor de 13 años. Cumplido este requisito los menores de 18 tendrán sus cuentas vinculadas a la de sus padres.
Los controles parentales permitirán que los mayores establezcan pautas de conducta para ChatGPT. Podrán habilitar o deshabilitar características técnicas, tales como la memoria o el historial.
Si el sistema detecta una interacción en las que haya señales de altos niveles de estrés se enviará una notificación a los padres.
Se podrán marcar horas en las que el servicio no estará disponible.
