Facebook, Amazon Web Services y Microsoft se han unido para impulsar una iniciativa conocida como Deepfake Detection Challenge.
De este proyecto también forman parte la Universidad de Oxford, Cornell Tech, MIT, Berkeley y la Universidad de Maryland entre otras organizaciones académicas.
El objetivo es alentar el desarrollo de herramientas de código abierto para la detección de imágenes y videos alterados a través de las técnicas de Deepfake.
El desafío ofrece como incentivo para la participación el acceso a un set de datos, lo que implica un compendio de material muy valioso para la investigación, así como una recompensa monetaria.
El desafío está programado para marzo de 2020.
Videos alterados
Los organizadores del desafío contrataron a una empresa que reunió a un grupo diverso de actores y los situó en escenarios realistas, con una amplia variedad de poses y fondos.
Los videos obtenidos fueron luego utilizados para crear copias alteradas utilizando diferentes técnicas de manipulación a través de la tecnología de aprendizaje automático.
Entre las modificaciones implementadas estuvieron el cambio de rostros, la alteración de las voces, y en algunos casos se realizaron modificaciones que simularon la degradación producida por las distintas plataformas al compartir videos en Internet.
El resultado ha sido un set de datos de más de 100 mil videos.
Video de demostración de la base de datos utilizada para el desafío.
Christian Ferrer, director de desarrollo de IA en Facebook, señaló: “La posibilidad de que existan investigaciones de alto nivel para la detecciónde los deepfakes depende de sets de datos de gran escala, cercanos a la realidad, que sean útiles y de acceso libre”.
Actualidad
Varios desarrollos realizados a nivel académico han hecho posible la creación de herramientas que identifican el material manipulado en más del 90% de las ocasiones. Sin embargo la tecnología de falsificación todavía esta en una etapa muy temprana de desarrollo y avanza rápidamente, por lo que no se puede confiar en que los medios que hoy sirven para distinguir una falsificación puedan hacerlo en el futuro.
