La Autoridad para la Competencia y los Mercados de Reino Unido ha publicado un informe en el que detalla los posible beneficios de los agentes de inteligencia artificial como también sus riesgos. Los funcionarios creen que muchos de los peligros que ya están presentes en los sistemas actuales podrían aumentar con un mayor nivel de autonomía de las IA.
El sirviente infiel
La primera de las problemáticas señaladas es la posibilidad de que los agentes no representen los intereses de los usuarios y hasta intenten manipularlos. Los altos niveles de personalización que pueden alcanzar estas herramientas les darían una gran capacidad de influencia. Las técnicas de patrones oscuros podrían ser algo común.
Errores y alucinaciones
Con todo lo que han mejorado las IA todavía no están libres de cometer errores y caer en alucinaciones. Una perspectiva poco agradable cuando tienen acceso a tu billetera. El CMA teme que se multipliquen los errores en contratos y decisiones financieras.
Prejuicios y falta de transparencia
Dado que las IA están basadas en información producida por seres humanos, a menudo reproducen sus prejuicios. Por lo tanto es de esperar que estas peculiaridades se trasladen a los procesos de decisión, sobre todo cuando los procesos son más complejos. Dado que las IA suelen operar de forma poco transparente, el usuario tendría pocas oportunidades de darse cuenta de como se ha llegado a ciertos resultados.
Confianza y pérdida de agencia
Delegar tareas supone por definición perder agencia. Aunque esto no siempre es malo, una confianza exagerada sobre los agentes de IA le quitaría a los usuarios la capacidad de evaluar mejor los tratos en los que participa e intervenir en ellos para realizar correcciones. Con el tiempo la habilidad de los usuarios podrían decaer por la falta de práctica.
Reducción de opciones
La CMA apunta que los agentes de IA actúan en ecosistemas cerrados, y que los usuarios a veces pueden encontrar dificultades para cambiar de proveedor o mover sus datos. Si la interoperabilidad de los sistemas es baja esto supondrá una caída de la competencia.
Otros problemas
Además de lo señalado las autoridades británicas advierten sobre la necesidad de preservar la privacidad. Por otro lado, los agentes de IA en la formación de precios podrían llevar a resultados de mercado producidos por la coordinación de intereses.
