Si miras al futuro es posible que te angustie la idea de un mundo inundado por sistemas de vigilancia invasivos y a menudo injustificados. Tal vez consideres que la única solución es ocultar tu rostro con anteojos, barbijos o con una barba que necesita años de inversión. Pero lo cierto es que un diseñador alemán ha presentado una opción aún más poderosa: Una camisa hawaiana.
Simon Wecket afirma que el “camuflaje digital” de la prenda hace que cualquiera que la vista sea invisible a los algoritmos. Las cámaras registran tu imagen, ojos humanos podrían identificarte, pero el sistema no sabrá que estás allí a menos que se lo indiquen. La IA no se da cuenta de que tiene un ser humano frente a ella, no reconoce la figura.
Miran, pero no ven
La inteligencia artificial percibe el mundo de una forma muy diferente al modo en que lo hacemos los seres humanos. No entiende de verdad los objetos, no saben lo que es un ser humano, solo pueden identificar patrones construidos a partir de millones de imágenes durante su entrenamiento. Si una cierta cantidad de información no encaja con los patrones no puede valorar el resto y con algo de sentido común llegar a una conclusión sencilla.
La hawaiana de Wecket tiene un patrón con “hojas” verdes, violetas y naranjas que le impide a la IA reconocer la figura humana. Aún cuando tiene un rostro frente a ella, aún cuando el sentido común le debería decir que hay una persona, la IA es incapaz de llegar a la conclusión obvia.
Esta debilidad tiene cierto sentido. Para el sistema ese rostro sin cuerpo podría ser la imagen de una publicidad en la calle.
El método
La técnica empleada por Wecket para diseñar la camisa es conocida como bucle adversario. Bajo este esquema se realizan varias versiones de la prenda con diferentes texturas y se observa como reacciona el mecanismo de detección. Con cada interacción se realizan nuevos cambios. De esa manera poco a poco se alcanzan versiones que confunden cada vez más al sistema.
Esta no es la primera demostración de la falencia fundamental en el razonamiento estadístico de las IA.
Investigadores belgas descubren método para engañar cámaras con IA
