La organización Tech Transparency Project ha publicado un reporte sobre la proliferación de aplicaciones dedicadas a producir imágenes falsas y de naturaleza erótica. Esos programas que desnudan a los protagonistas de una foto.
Duranta la investigación se descubrieron 55 aplicaciones de este tipo en Google Play y 47 en la Apple App Store. Treinta y ocho de los programas estaban en ambas tiendas. Considerando todas las aplicaciones, la TTP ha calculado que se produjeron un total de 705 millones de descargas y se generaron unos USD 117 millones en ingresos.
Sea por negligencia o falta de efectividad, dado que Google y Apple obtienen una comisión por todas estas operaciones, ambas empresas se han beneficiado de la actividad propuesta por las aplicaciones.
Fuera de control
Las aplicaciones van en contra de las políticas que sostienen ambas compañías. Sin embargo, resulta evidente que no han logrado mantener a raya a este tipo de herramientas. De alguna manera han logrado pasar los procesos de control.
Tanto Google como Apple fueron informadas de lo ocurrido. Las empresas pidieron la lista de aplicaciones pero no han realizado más comentarios al respecto.
X corrige sus medidas de seguridad para evitar los desastres de Grok
Por diseño
TTP clasificó las aplicaciones en dos categorías, las que generaban videos o imágenes a partir de una consigna y las que ponían el rostro de una persona en el cuerpo de otra. En las pruebas realizadas por la organización se utilizaron como base imágenes creadas con inteligencia artificial.
Solo se emplearon las opciones de manipulación y edición gratuitas. La mayoría de las aplicaciones ofrecían otras, más avanzadas, para usuarios pagos. En muchos casos las opciones para desvestir a los protagonistas de una foto aparecían promovidas en la pantalla de inicio. De lo dicho resulta claro que no se trata de un problema de mal uso de una aplicación legítima. Las herramientas son diseñadas para un fin claro y específico.
Grok
La organización también ha cuestionado el modo en que las tiendas han reaccionado ante el escándalo provocado por las imágenes de tinte sexual producidas por Grok. Desde que xAI prometió corregir el problema tanto Google como Apple parecen haber dado vuelta la página. Grok fue la primera aplicación que apareció cuando los investigadores realizaron búsquedas con palabras claves relacionadas con los sistemas para desnudar personas.
