Cada tanto, solo parar asustarnos o quizás como estrategia de marketing, Anthropic nos anticipa como la misma tecnología que está desarrollando podría destruir el mundo. O al menos hacer nuestra vida más complicada y tediosa. En esta ocasión se trata de los agentes y los gusanos, o los agentes gusanos.
Los investigadores de la compañía han publicado un artículo en el que señalan que uno de los objetivos de la industria es producir sistemas de inteligencia artificial más potentes, pero que puedan funcionar de forma local. Es decir, que no necesiten el poder de cómputo de un servidor remoto. Este desarrollo podría ser de forma general muy beneficioso. Podría llevar a la industria hacia un modelo menos dependiente de los grandes centros de datos y aliviar un poco el impacto en el consumo de recursos.
El gusano
Pero Anthropic advierte, y con cierta razón, sobre el lado oscuro de este avance. Las IA de tamaño compacto, como las que necesitan los dispositivos, podrían actuar como gusanos. Un malware que se transmitiría de un teléfono a otro, de una tablet a otra.
Los gusanos serían lentos en su accionar. Podrían tomarse varios días en realizar una copia de su mismos. Sin embargo, una vez que el duplicado ha sido producido eliminarlo podría ser muy complicado. El problema es que no existe un punto central desde el cuál es posible desactivarlo.
Ahora bien, se espera que el poder de cómputo de los dispositivos mejore. También se espera que los agentes se vuelvan cada vez más compactos. Como consecuencia el trabajo necesario para la proliferación de un gusano sería menor y más asequible. Y siendo sinceros, la seguridad de los dispositivos móviles, o de otros ingenios inteligentes como cámaras y sensores es mediocre en el mejor de los casos.
