El primer ministro de Australia, Anthony Albanese, ha revelado que un grupo especial ha comenzado a investigar un incidente que involucra a la inteligencia artificial de OpenAI. El mandatario explicó que el sitio web del sistema de salud del país había sido atacado en junio, pero que la empresa solo informó de lo ocurrido al gobierno federal 3 meses después.
Durante el ataque la IA accedió a información de carácter público y privado y modificó archivos dentro de un servidor interno. Las autoridades australianas creen que otros tres sistemas podrían haber sido afectados, dos de ellos también vinculados a la salud y otro del departamento de estadísticas del crimen e investigación. Afortunadamente, hasta donde ha llegado la investigación, parece que los servicios que brindaban los sistemas no han sido afectados. Millones de personas podrían haber sido perjudicadas por esta aventura de las IA.
Albanese señaló que había hablado con el CEO de OpenAI para señalar que lo ocurrido era inaceptable y que, además, era una decepción ver todo el tiempo que se había tomado la empresa para informar al gobierno.
Buenas intenciones
Hasta donde sabemos la IA de OpenAI tenía como tarea realizar una investigación sobre ciertos temas de salud. Algunas de las preguntas estaban vinculadas a Australia. Como es lógico, algunos de los datos útiles pertenecían a los sistemas de salud australianos. Sin embargo, cuando intentó acceder a más información descubrió que estaba en áreas para las que no tenía autorización. Albanese apunta que la inteligencia artificial no aceptó un no como respuesta. La IA encontró la manera de ingresar a los sistemas.
Como hemos visto en otras ocasiones, los agentes no actúan de mala fe, o de buena fe, solo siguen instrucciones. Donde tienen que tomar decisiones y no tienen parámetros que les digan específicamente que deben hacer, simplemente eligen aquello que les permite cumplir con su misión.
A favor de OpenAI cabe señalar que es posible que la empresa no se haya enterado de lo ocurrido en el mismo momento. En teoría lo habría descubierto en agosto.
El primer ministro aseguró que están considerando si lo ocurrido debería ser investigado por la policía federal australiana. Tiene sentido, si el ataque lo hubiera hecho una persona no habría duda de que estamos ante un delito.
Más detalles sobre lo ocurrido pueden encontrarse en esta investigación del laboratorio Transluce.
