La Coalición para la Tecnología Crítica es un organismo conformado por académicos de varias disciplinas dedicado a fomentar la justicia y resistir el uso de tecnología que promueve la inequidad, el racismo y el crecimiento del sistema carcelario.
En una reciente carta abierta firmada por más de 2200 expertos ha pedido que no se publique un estudio realizado por la Universidad de Harrisburg y se evite cualquier trabajo que siga el mismo marco teórico.
Científicos pidiendole a otros científicos no investigar ciertos temas es algo raro (aunque no tanto como creeríamos), pero el caso resulta comprensible a medida que nos enteramos de que se trata.
El estudio
El estudio referido se conoce como Un Modelo de Red Neuronal Profunda para la predicción de la criminalidad utlizando el procesamiento de imágenes.
Los investigadores trabajaron con un algoritmo que intenta predecir si una persona podría ser partícipe de un acto criminal en base a la apariencia de su rostro. En teoría el sistema tiene un nivel de acierto del 80% y carece de cualquier tipo de prejuicio racial.
Los autores del estudio creen que este tipo de tecnología podría ser clave para prevenir el crimen en el futuro.
En una palabra, en el futuro podrían detenerte por portación de cara, o al menos quedarías bajo observación.
Prejuicios
Los expertos que firmaron la carta promovida por la Coalición afirman que el estudio está basado en premisas, investigaciones y métodos sin valor científico que han sido descartados hace varios años.
Uno de los principales problemas es que el sistema utiliza datos del sistema de justicia en lo criminal, lo que supone que cualquier distorsión producida por los seres humanos puede trasladarse a la IA. Tal podría ser el caso de las minorías que son tratadas con especial dureza en una gran cantidad de países. Sus rasgos faciales tenderían a ser más fácilmente asociados con actos criminales.
Los rasgos de lo grupos sociales con mejores abogado serían naturalmente menos recurrentes.
Antecedentes nefastos
Este tipo de tecnología puede parecer un tema de ciencia ficción, pero en realidad pertenece al pasado. Durante el siglo XIX surgió una disciplina conocida como frenología que afirmaba poder estimar el carácter de una persona, incluso posible tendencias criminales, en base a la forma del craneo y el rostro.
La frenología fue en ocasiones empleada para justificar la esclavitud. Por su parte, la craneotomía, una pseudociencia similar, fue parte del discurso nazi de supremacía racial.
