Lo deepfakes ya eran un problema antes que aparecieran los actuales sistemas de inteligencia artificial. Ahora hay cientos de fotos y videos falsos que son casi imposibles de identificar, salvo por lo absurda de las situaciones presentadas. Afortunadamente un grupo de investigadores de la Universidad de Tokio y el Instituto Planck de Alemania ha desarrollado un nuevo método para distinguir el material producido de forma artificial. El resultado ha sido un nivel de éxito del 95%.
Problemas de los sistemas de detección
Los detectores de falsificaciones suelen buscar defectos en las imágenes que son típicos de los sistemas generativos. Algunos de ellos pueden ser más groseros que otros, pero los hay que para el ojo humano son casi imperceptibles.
Sin embargo, esta alternativa tiene una limitación importante. Para adquirir esta habilidad el sistema de detección es entrenado con una base de datos con videos auténticos y falsificaciones. Esto puede llevar a que la herramienta se enfoque en ciertas técnicas de manipulación del material pero no pueda detectar otras que son menos comunes.
Otra opción es entrenar solo con videos auténticos y pedirle al sistema que detecte anomalías. Sin embargo el nivel de detección es menor.
El nuevo método
El sistema propuesto por los científicos se enfoca en lo movimientos faciales. Tiene como guía un esquema matemático con 53 parámetros que permiten reconstruir los diferentes gestos posibles. Unas 450 horas de video han sido utilizadas para el entrenamiento. De esta manera el sistema puede observar cuáles son los movimientos faciales al hablar y distinguir sin son los naturales o no. Cuando las diferencias son significativas advierte sobre una posible falsificación.
La herramienta mostró su efectividad aún contra modelos de la calidad de Sora 2. Como contra, el sistema es muy demandante en términos de entrenamiento y hardware para su puesta en funcionamiento. Aún así los investigadores creen que puede ser el camino a seguir.
