JUE, 18 / FEB / 2021

Utilizarán una IA para controlar a los pasajeros de los trenes en España

La prueba piloto podría comenzar en mayo de 2021. La inclusión del origen étnico como un factor de análisis para establecer patrones de conducta obligó a una revisión del pliego original.

La compañía nacional de trenes de España quiere implementar un sistema de reconocimiento de imágenes para el control del comportamiento de los pasajeros.

El proyecto piloto, que podría comenzar en mayo de 2021, utilizará las 200 cámaras instaladas en 25 estaciones de la red de cercanías. El presupuesto para la implementación es de EUR 781 mil.

Objetivos

El objetivo de Renfe es conseguir un sistema capaz de analizar en tiempo real los datos tomados de las imágenes con un alto nivel de confiabilidad.

Los algoritmos empleados deben ser capaces de detectar e identificar ciertas acciones. Por ejemplo cuando un pasajero intenta pasar sin pagar por los tornos (molinetes).

La tecnología de reconocimiento facial permitirá realizar un conteo de entradas y salidas y recabar una amplia variedad de datos sobre los pasajeros.

Datos

Los datos son el punto más curioso y hasta polémico del proyecto. Originalmente Renfe esperaba que el sistema distinguiera una gran variedad de detalles. Entre ellos aparecía el equipaje empleado, la edad, el género y el origen étnico.

Aún más llamativo era que también se quería identificar el estado de ánimo.

Luego de los primeros meses de pruebas se agregaría la detección de tumultos, peleas, actos de vandalismo, grafitis y robos.

Con el conjunto de datos ya mencionados se crearía un sistema que establecería patrones  y permitiría predecir la ocurrencia de hechos negativos.

Problema y revisión

Los datos a recabar prometían ser un gran problema. Existía el riesgo de que la herramienta estableciera un perfil racial como factor de riesgo y algunos pasajeros fueran catalogados a consecuencia como una amenaza.

Según el Reglamento de Protección de Datos de 2018 aún con el consentimiento de los pasajeros no es suficiente para hacer que la identificación de origen étnico por reconocimiento facial sea válida.

Esto ha obligado a la compañía a realizar una revisión del pliego de la licitación para el sistema.

¡Comparte esta noticia!