JUE, 12 / JUN / 2025

Meta demanda a empresa que creó una app de IA para “fabricar” desnudos

La compañía Joy Timeline promocionaba en Instagram y Facebook una herramienta que modificaba fotografías. Este servicio se utilizaba a menudo para producir desnudos no consensuados.

Meta ha iniciado una demanda contra Joy Timeline HK. Esta compañía con sede en Hong Kong es la responsable de la aplicación CrushAI. Con esta herramienta los usuarios pueden tomar imágenes de cualquier persona y producir una versión al desnudo. El problema es fácil de imaginar, esta opción no tiene restricciones y puede emplearse de forma no consensual.

La demanda, presentada en la ciudad asiática, intenta evitar que Joy Timeline promocione su aplicación (y sus variantes) en Facebook e Instagram. Es importante aclarar que Meta ha dejado afuera a los avisos de la empresa en varias ocasiones. Sin embargo esta ha insistido y buscado una y otra vez formas de evitar el proceso de revisión para la publicidad.

Miles y miles de avisos

La demanda intenta darle fin al problema. Pero también supone una declaración de intenciones para Meta. “Con esta acción legal mostramos la seriedad con la que tomamos el abuso y como nos comprometemos a hacer todo lo que podamos para proteger a nuestra comunidad. Continuaremos dando los pasos necesarios, incluyendo acciones legales, contra quienes abusen de esta manera de nuestras plataformas”.

En febrero de este año el senador estadounidense Dick Durbin le había enviado una carta a Mark Zuckerberg pidiéndole que Meta actuara contra Joy Timeline. El legislador apuntaba a una investigación que determinó que durante las primeras dos semanas de 2025 más de 8000 avisos relacionados con CrushAI habían sido detectados en aplicaciones de Meta. Sin dudas la compañía estadounidense estaba al tanto de que la inacción podía tener consecuencias legales y políticas.

Meta ha señalado que también ha actualizado sus sistemas de detección para filtrar mejor este tipo de publicidades.

Comentarios
¡Comparte esta noticia!
TAGS

Comments are closed.