La Comisión de Monitoreo que examina el manejo de contenido en Facebook ha examinado un video alterado en el que el presidente de los Estados Unidos parecía estar molestando a su nieta. Ha apuntado que Meta hizo bien en no remover el material, pero que debería haberlo marcado como una falsificación.
Lo más interesante no es la decisión tomada, sino algunas de las observaciones y reflexiones que la acompañan.
La decisión era la correcta
La comisión apunta que Meta tomó la decisión adecuada dado que no violaba las reglas establecidas contra la manipulación de contenido. También remarcó que las modificaciones eran tan obvias que era poco probable que el usuario promedio fuera engañado.
Las reglas son incoherentes
El problema, advirtió la comisión, es que Facebook tiene reglas que no funcionan como deberían. Son muy específicas y dejan de lado técnicas y opciones que pueden emplearse para obtener resultados similares.
Por ejemplo, se habla de deepfakes creados con inteligencia artificial. En este caso la imagen fue modificada utilizando herramientas mucho menos avanzadas. El resultado es de calidad inferior, pero aún así resulta en un mensaje engañoso y difamatorio.
Además, en el video Joe Biden no dice nada. Las reglas de Facebook apuntan a los videos alterados que muestran a gente diciendo cosas que no dijeron. No prohiben videos que muestren a las personas haciendo cosas que no hicieron.
Finalmente, las reglas hablan de videos, no se ocupan de otros formatos, como el audio. Cualquier desinformación creada como audio, aún a través de una IA, estaría libre de cualquier medida de moderación.
Recomendación
La comisión ha señalado que Facebook debería etiquetar el contenido falso, sobre todo cuando no puede eliminarlo en base a sus propias reglas. El etiquetado es importante porque de esa manera los usuarios pueden enterarse de porqué se eliminó o quitó visibilidad a un contenido. También resulta vital para informar como se pueden apelar las decisiones.
Los sistemas de etiquetado automáticos pueden ayudar, pero muchas alteraciones requieren conocimiento del contexto, por lo que se necesitan equipos de moderadores.
