Hace ya varias semanas Meta presentó a su agente de IA, Muse. Este modelo se volvió muy popular muy rápidamente. Sin embargo, no todas las reacciones al bot han sido positivas. Varias compañías han advertido que la IA entraba a sus plataformas para realizar compras a nombre de sus usuarios y la han bloqueado. Argumentan que no fueron notificadas de la actividad que se desarrollaría y no han dado permiso para estas aplicaciones de terceros.
En algunos casos, como el de Amazon, el uso de estos bots conspira contra el negocio de la empresa para la colocación de publicidad promoviendo productos. Pero además existen muchas dudas sobre lo que significa para la seguridad y si acaso estos agentes no están capturando datos.
Muse no es el único agente personal que ha sido bloqueado, algo similar le ha ocurrido al de Perplexity. Y Amazon decidió demandar a la empresa. Amazon sostiene que el bot recolectaba datos de su sitio sin su aprobación.
El estándar y el caos
Más recientemente Meta, Walmart, Stripe y otras tantas compañías han decidido promover un estándar abierto para el comportamiento de los agentes personales. Es decir, una normativa que dicta como la IA debe actuar cuando se encuentra con un negocio.
De un modo práctico, los agentes deberán autenticarse en cada sitio que visiten y limitarse a los permisos establecidos en cada uno de ellos. Las empresas podrán elegir, por ejemplo, que el bot no pueda realizar cambios sobre las cuentas de los clientes.
El grupo intenta resolver el modo en que las IA acceden a la información. Reconoce que las empresas con plataformas comerciales necesitan saber cuando es un agente personal y cuando una persona quien está actuando. Los sistemas deben poder distinguir también a un bot de un usuario de uno que se mueve solo por su cuenta.
El protocolo de conducta debería ayudar a los negocios a evaluar lo que de verdad están haciendo los bots en sus sitios. También mostrar como manejan los datos sensibles de sus usuarios.
