El jueves un usuarios de X contó como Grok se había encargado rápidamente de reservar un vuelo. Explicó que el sitio web de la aerolínea era confuso y que había ahorrado mucho tiempo gracias al bot. Para que la IA realizara la tarea solo necesitó suministrarle una fotografía de su tarjeta de crédito.
Y aquí es donde la mayoría de los seres humanos se hubiera detenido y advertido que tal facilidad es en sí un peligro. Incluso Elon Musk advirtió que tal y como estaba planteada la anécdota había que hacer aclaraciones. El empresario señaló: “Trabaja bien. Si Grok comete un error con una compra o filtra los datos de tu tarjeta (no ha pasado aún), SpaceX te compensará plenamente”.
Así pues, en teoría, si hay un problema de seguridad o con la IA, la compañía brinda un 100% de garantía. Pero eso es lo que entendemos mirando todo con mucha buena voluntad.
No tantas garantías
SpaceX, Meta y OpenAI tienen una política de seguridad con un elemento en común. Los usuarios son responsables de las acciones que los agentes realizan en su nombre. Notablemente, la normativa de Grok no hace referencia a ningún tipo de reintegro en caso de que algo salga mal.
SpaceX ha sido consultada al respecto pero no ha confirmado los dichos de Elon. También es importante notar que Musk no ha sido muy específico sobre como compensaría SpaceX un incidente como los que señala.
Grok ha tenido más de un problema tomándose demasiadas atribuciones. El CEO de la compañía de software XMTP Labs, Shane Mac, señaló que el bot había publicado su balance bancario y detalles de gastos en el canal de Slack de la compañía. Había confundido dos canales de chat de nombre similar.
En el caso de Muse, de Meta, por defecto la IA busca la confirmación del usuario cada vez que va a realizar una operación. Sin embargo, el usuario puede optar por darle un permiso permanente al agente.
