Los investigadores del laboratorio de inteligencia artificial de Facebook han creado un sistema que permite el encubrimiento de la identidad de las personas que aparecen en un video. En las pruebas iniciales el mecanismo demostró tener la capacidad para engañar a los mejores sistemas de reconocimiento facial existentes.
Métodos similares ya habían sido probados en fotografías, pero esta es la primera vez que se aplica la técnica al video.
Según los investigadores el abuso de los sistemas de reconocimiento facial ha hecho necesaria la investigación de los posibles métodos de des-identificación.
Método
Obviamente el sistema de encubrimiento no se basa en la simple distorsión del rostro hasta que se convierte en poco más que una mancha en la pantalla, o una serie de rectángulos.
Esta nueva herramienta crea una versión ligeramente distorsionada del rostro de una persona para que los programas de identificación facial no puedan realizar su trabajo eficazmente.
Para conseguir este objetivo Facebook ha utilizado un esquema en el que un codificador automatizado se enfrenta a una red de clasificación para su entrenamiento. El codificador tiene como objetivo hacerle más difícil la tarea a las redes de reconocimiento facial.
Similitud y diferencia con los deepfakes
En su ejecución el sistema es similar al empleado para la creación de los deepfakes. Sin embargo el objetivo es diferente. De principio el sistema combina imágenes distorsionadas con la originales en sus resultados. Esto permite que aún cuando exista una distorsión importante los seres humanos puedan realizar una identificación de la persona que están viendo.
En efecto, la idea es engañar solo a las máquinas.
Por lo pronto Facebook no tiene planes para ningún tipo de aplicación práctica a corto plazo para esta tecnología. Sin embargo, una implementación que ha sido considerada es la protección contra la identificación para las personas involucradas en discursos públicos.
