OpenAI y Anthropic compiten ferozmente por demostrar que sus modelos son los más potentes. Luego de que saliera a la luz que ChatGPT había escapado de su entorno de prueba y atacado a Hugging Face y otras tres empresas Anthropic decidió examinar la actividad de sus modelos en búsqueda de señales de una actividad similar.
Más de 140 mil ejercicios fueron considerados. En estos ensayos la IA tenía encomendada la captura de ciertas piezas de información.
La compañía señaló: “En tres ocasiones el modelo accedió a internet desde el entorno de evaluación de Irregular, uno de nuestros socios para estas pruebas, y ganó acceso no autorizado a la infraestructura de producción de tres diferentes organizaciones”. Así pues, Claude no tiene que envidiarle nada a ChatGPT, ambas IA han demostrado ser capaces de iniciar actividades delictivas en cuanto superan la competencia y prudencia de sus desarrolladores.
La culpa no es mía
Un detalle curioso es que tanto en el caso de OpenAI como el de Anthropic la culpa es de otra empresa. O eso es lo que afirman las desarrolladoras. En ambos casos el problema, se apunta, ha sido del diseño del entorno para las pruebas. Anthropic señala que el entorno no debería haber tenido acceso a internet. Sin embargo, un malentendido entre las partes hizo que esta vía de comunicación estuviera presente. “Por esta razón cuando las búsquedas de Claude la llevaron a sistemas reales en la red trató a estos recursos como parte del ejercicio”.
La compañía afirma que Claude no tuvo intención alguna de escapara del entorno diseñado, en realidad fallaron las limitaciones del mismo. En uno de los ataques el objetivo fue un dominio ficticio establecido por quienes configuraban los ejercicios. Desgraciadamente el dominio existía de verdad.
Cuando accedió a internet Mythos 5 se dio cuenta del lugar en el que estaba, pero consideró que todavía estaba dentro de la simulación. Algo similar ocurrió con Opus 4.7. Evidentemente son inteligentes, pero no tanto.
Dentro de los límites
Anthropic argumenta que Claude solo utilizó técnicas básicas y aprovechó el uso de claves débiles y puntos de entradas sin sistemas de autenticación. No buscó ningún tipo de vulnerabilidad especial y solo realizó la tarea que se le había pedido. Es decir, su actividad fue mucho menos nociva que la de ChatGPT. Pero aún así la pregunta persiste: ¿Estos hackeos no son un delito? Si se escapa un perro y muerde a alguien ¿No es responsabilidad del dueño?
Anthropic y OpenAI parecen hasta estar orgullosas de la capacidad que tienen su perros para escaparse.
