MIE, 5 / OCT / 2022

EEUU: presentan guía para IA y derechos de los ciudadanos

El documento se centra en 5 principios fundamentales que tienen como objetivo evitar el mal uso de dicha tecnología. Así como ofrecer cursos de acción para los afectados.

La Casa Blanca ha presentado un proyecto que tiene como objetivo establecer una serie de derechos de los ciudadanos en relación a la implementación de los sistemas de inteligencia artificial. El documento funciona como una guía, ofrece una serie de lineamientos, pero no supone por si mismo obligaciones. Aún así resulta interesante y podría tener un gran efecto en el mediano y largo plazo.

El modelo para un acta de los derechos relacionados con la IA (Blueprint for an AI Bill of Rights) tiene unas 73 páginas y se puede descargar en formato PDF.

Preocupaciones

El uso de los sistemas automatizados es descrito como uno de los grandes desafíos de la democracia. Se señala que a menudo estos sistemas, que deberían estar al servicio del público, son empleados para limitar el acceso a servicios. También preocupa un empleo inseguro en la atención a personas enfermas, la reproducción de prejuicios y desigualdades y el exceso en la recolección de datos.

Principios

La propuesta del gobierno estadounidense tiene 5 principios básicos.

Derecho a ser protegido contra sistemas inseguros e inefectivos.

En este caso se trata de realizar las consultas adecuadas con todos los grupos que podrían ser impactados por la implementación de un sistema. Identificar riesgos. Llevar adelante pruebas antes de la implementación. Dentro de los posibles resultados debe considerarse la no implementación del sistema.

Los algoritmos no deben discriminar a las personas y deben diseñarse de una forma igualitaria.

Se rechaza la discriminación en base a sexo, edad, religión, origen, etnia, color de piel, etcétera. Esto es el tratamiento diferencial sin una justificación adecuada.

Los sistemas deben incorporar medidas de seguridad para prevenir el abuso en la recolección y uso de datos.

Lo interesante aca no es en sí la idea de que las personas tienen derecho a la privacidad. Lo que destaca es que las protecciones no deben depender exclusivamente de las políticas y el buen manejo de los operadores. También se establecen limitaciones de uso, tales como la no aplicación de sistemas de vigilancia y control en el trabajo y las escuelas.

Derecho a saber cuando un sistema automatizado está siendo utilizado, cómo, por que razones y que impacto tiene.

Lo dicho implica la necesidad de notificar a tiempo a las personas y ofrecer explicaciones en lenguaje llano.

Derecho a ser excluido por propia voluntad de los sistemas automatizados en favor de alternativas guiadas solo por seres humanos y obtener una solución rápida a los problemas enfrentados.

Todo esto cuando sea apropiado. Una aclaración que deja cierto margen para interpretaciones. Pero en general, la idea es proteger a las personas del daño que pudieran causar estos sistemas y darles la posibilidad de rechazarlos.

¡Comparte esta noticia!