Hace unos días la división dedicada a la inteligencia artificial de Meta presentó una versión preliminar de Galactica. Esta inteligencia artificial tiene como objetivo producir textos científicos. No realiza tareas de investigación, no postula nuevas teorías, simplemente crea documentos que combinan información de otros tantos documentos en su base de datos. Algo similar a lo que hacen las IA que producen ilustraciones.
Galactica en efecto demostró ser capaz de crear documentos que realmente parecían escritos por científicos. Lamentablemente en muchos casos esos mismos textos no tenían el menor sentido. La IA era capaz de producir textos sobre cuestiones que el simple sentido común descartaría como una insensatez. Lo que era aún más peligroso es que lo hacía en gran parte apoyándose en hechos, teorías e ideas aceptadas por la comunidad científica.
Luego de ser el blanco de duras críticas durante días, Meta AI decidió suspender la demostración.
I entered "Estimating realistic 3D human avatars in clothing from a single image or video". In this case, it made up a fictitious paper and associated GitHub repo. The author is a real person (@AlbertPumarola) but the reference is bogus. (2/9) pic.twitter.com/N4i0BX27Yf
— Michael Black (@Michael_J_Black) November 17, 2022
Objetivo de Galactica
Galactica empleaba una base de datos con unos 48 millones de documentos científicos. Cuando un usuarios entraba al sitio web de la demo podía ingresar una sentencia a partir de la cual la IA creaba un escrito. El texto podría tomar varios formatos: una entrada de wikipedia, una nota para una disertación o una presentación científica.
El objetivo era que la IA produjera un texto coherente, con conocimiento real, a medida de la inquietud del usuario. Sus desarrolladores la vieron como una nueva manera de acceder al conocimiento del universo.
No podemos divertirnos
Yann LeCun, director de Meta AI, se lamentó por lo ocurrido. El ejecutivo entiende que no había mayor peligro en la herramienta. A su entender mal usada la IA producía malos resultados. Si algunas personas querían hacer esto por diversión no había problema.
Galactica demo is off line for now.
It's no longer possible to have some fun by casually misusing it.
Happy? https://t.co/K56r2LpvFD— Yann LeCun (@ylecun) November 17, 2022
