Como parte de un reciente reporte de amenazas Anthropic ha señalado que desbarató recientes intentos por utilizar a sus modelos para la creación de armas biológicas. La noticia ha producido un impacto político. El senador demócrata Bernie Sanders ha perdido una pausa en el desarrollo de los modelos más avanzados. Aún más significativo, ha señalado que el desarrollo de una superinteligencia debería prohibirse. Por su parte, el presidente de Estados Unidos, Donald Trump, consideró el asunto a la luz de la competencia con otras potencias. Afirmó que si Estados Unidos no gana la carrera de las IA, estaría en una muy mala posición.
No es claro a qué deberíamos considerar ganar la carrera. No parece que exista una instancia final definitiva a alcanzar.
Los casos
Anthropic presenta 5 casos de estudios en los que el trabajo realizado con sus modelos podría estar relacionado con el desarrollo de armas biológicas.
En un caso un revendedor consiguió evadir restricciones regionales para que un organismo fundado por un estado trabajara con el virus chikungunya.
Otro un grupo de investigadores de una región restringida estuvo semanas experimentando con adaptaciones a mamíferos del virus de la gripe aviar.
En el tercer caso un revendedor le permitió a un grupo trabajar con os orthopoxvirus.
En el cuarto caso otro organismo estatal trabajó con los péptidos de veneno de los animales. Estas estructura se utilizan en general para tratamientos de enfermedades, incluyendo cáncer y diabetes. Por lo dicho es muy probable que no hubiera una intención maliciosa.
En el quinto caso los investigadores estaban trabajando con el re diseño de toxinas. Y le habían pedido a Claude que mantuviera las identidades de los agentes vagas.
Entre el peligro y la salvación
Cabe señalar que aún en los casos más sospechosos podríamos estar ante un trabajo científico similar a tantos otros. Muchas veces nos preguntamos si las IA deberían tener un conocimiento tan delicado. Pero ese mismo conocimiento es el que está impulsando enormes avances en la medicina. Y el instrumento para hacer el bien o el mal es prácticamente idéntico.
La mala noticia es que los casos listados son ejemplos. No necesariamente los únicos.
