Estados Unidos ha prohibido a sus estados regular la industria de la inteligencia artificial. Pero también ha exigido que los nuevos modelos más avanzados pasen por un proceso de revisión antes de ser accesibles de forma pública. La realidad es que la IA puede ser muchas cosas, pero entre ellas hay una que no debemos olvidar: un arma. Un arma en la guerra informática, las tareas de espionaje gubernamental y corporativo, y el campo de batalla.
A efectos prácticos China y Estados Unidos están en un periodo de guerra fría informática. Como lo han estado desde hace ya muchos años.
La conexión China
El último y más significativo incidente que demuestra la importancia de acceder a los modelos más avanzados es el de Mythos 5 y Fable 5. La orden emitida desde Washington fue que ningún organismo extranjero podía tener acceso a estos desarrollos. Anthropic ha cumplido con lo exigido.
La noticia tomó a muchos por sorpresa, dado que la compañía ya había establecido un programa de seguridad, Project Glasswing, para limitar con quien comparte su trabajo. Ahora sabemos que el problema se dio porque una empresa surcoreana de telecomunicaciones que había conseguido el acceso tendría conexiones con China.
Anthropic presentó una lista con las organizaciones con las que iba a compartir los dos modelos ya mencionados. Las autoridades estadounidenses la revisaron y la aprobaron. Sin embargo, la empresa decidió luego expandir la lista con 50 instituciones más. Lo dicho parece indicar que la empresa surcoreana fue agregada en esta segunda instancia.
Anthropic ha señalado en una publicación que entiende que sus medidas de seguridad son suficientes. Aunque ningún sistema es infalible.
Mythos y Fable
Mythos ha sido promovida por Anthropic como una IA tan potente que exigía medidas de seguridad extraordinarias. Por su parte, Fable, ha sido presentada como una versión controlada de Mythos, incapaz de producir resultados que supongan amenazas a la seguridad informática. Algunos usuarios han descubierto que el sistema de Fable era verdaderamente estricto, provocando incluso suspensiones de acceso sin sentido en algunas ocasiones. Al mismo tiempo algunos críticos han apuntado que los mecanismo de seguridad eran insuficientes.
Restricciones y problemas de seguridad
Mientras todo este problema se desarrolla ENISA, la agencia europea de seguridad informática, se reunirá con los directivos de Anthropic. La compañía había agregado a la organización a la lista blanca de distribución, pero ahora este acceso podría ser imposible. Para los europeos recibir acceso de forma tardía podría ser un problema de seguridad.
