Es posible que no lo sepas, pero Elías Thorne es una de las figuras más populares de la literatura mundial. Al menos lo es dentro del universo de la ficción producida a través de sistemas de inteligencia artificial. Por alguna razón los modelos de lenguaje tales como ChatGPT y Claude insisten una y otra vez en incluirlo en sus relatos.
Investigadores de la Universidad de Cornell examinaron unas 20 mil historias creadas a través de inteligencia artificial. Todas ellas generadas a través de la consigna “Tell me a story” (cuéntame una historia). El nombre Elías aparecía en el 26,5%.
Aún más curioso, el 88,3% de los escritos compartía por lo menos uno de los mismos 11 tokens. Esto es nombres de los los protagonistas, ubicaciones y profesiones. Por regla general Elías aparecía como un guardián de faro o un relojero. También compararon la aparición de estos términos en los textos estudiados con su aparición en la literatura en inglés cada un millón de elementos. Los relatos producidos por seres humanos tenían una incidencia de faros de 5,5; para los textos producidos por bots el nivel era de 2428. El nombre Mara era utilizado por los escritores en 3,9 ocasiones, mientras que para los bots aparecía en 5200. Elias aparecía 2,7 veces para los primeros y unas 2428 veces para los segundos.
Todos aman a Elias
Los investigadores creen que las IA pueden haber recibido la instrucción de evitar referencias a personajes bajo derecho de copia y contenido adulto. Como resultado se habría reducido notablemente el material desde el cual pueden comenzar a trabajar.
Dado que en muchos esquemas las IA aprenden del trabajo producido por otras IA, esto habría llevado a un ciclo de refuerzo. Si Elias aparece en tantas oportunidades es porque es importante y es lo que los seres humanos esperan en los relatos de ficción, hay que ponerlo en otro relato de ficción. El error es obvio, pero también inevitable.
Una vez que un token se convierte en un elemento popular le da otro valor al termino viral. Elias Thorne es una obsesión para los modelos de lenguaje. No solo aparece en textos de ficción, también ha comenzado a aparecer en videos generados para YouTube.
La conclusión de los investigadores es que este fenómeno muestra el impacto que puede tener el uso de pequeñas bases de datos con poderosos algoritmos de corrección.
