Jueves, 11 de Abril de 2019

Impulsan ley contra los prejuicios en las IAs

La idea es evitar que los sistemas automatizados reproduzcan criterios injustos o erroneos establecidos por un prejuicio o bien por accidente.

Un nuevo proyecto de ley en los Estados Unidos podría obligar a los desarrolladores a probar los algoritmos que utilizan para asegurarse de que estén libres de prejuicios antes de implementarlos. La nueva reglamentación alcanzaría a las empresas con ingresos superiores a los USD 50 millones y aquellas que tengan datos de más de 1 millón de personas.

Ron Wyden, senador del partido Demócrata, ha señalado que los algoritmos cada vez están más involucrados en las vidas de las personas. Sin embargo, “En vez de eliminar los prejuicios, muy a menudo los algoritmos dependen de asunciones con prejuicios o datos que solo refuerzan la discriminación contra las mujeres o las personas de color”.

Hace un mes el Departamento de Vivienda y Desarrollo Urbano demandó a Facebook por apoyar actos de discriminación al dejar que los anunciantes restringieran quienes veían los avisos de las casas en base a la raza, la religión y la nacionalidad.

Posiciones encontradas

Los críticos de esta medida han señalado que podría limitar los beneficios de la inteligencia artificial. Daniel Castro, vocero de la fundación Technology and Innovation, ha señalado que la ley pondrá un estigma sobre las IA. “Someter a los algoritmos a estándares más altos que las decisiones humanas implica que las decisiones automatizadas son menos confiables o peligrosas que las humanas, lo que no es el caso”.

Sin embargo, otras instituciones, como el MIT, parecen considerar que hay razones para preocuparse.

Las mayoría de las IA utilizan sistemas de aprendizaje profundo para desarrollarse. Los prejuicios se generan al obtener datos no representativos de la realidad, o bien datos que reflejan una realidad producto de prejuicios ya establecidos. En el caso de Amazon el sistema de reclutamiento descartaba a las mujeres porque históricamente la empresa había favorecido la contratación de hombres. Ser mujer no era parte del perfil de Amazon.

El prejuicio también pueden producirse al elegir los atributos que deben considerarse como importantes para una evaluación. Como por ejemplo la edad, el nivel educativo o el sexo. Qué es importante o relevante para evaluar una persona es siempre tema de discusión.

Últimos lanzamientos Ver más