Dos noticias tienen como protagonista a OpenAI. La primera de ellas es el lanzamiento de ChatGP 6 Astra para una serie de usuarios seleccionados. La compañía asegura que el nuevo modelo supone un avance notorio y que ya podemos hablar de que estamos en la erad de la inteligencia artificial general. Difícil es saber que quieren decir con eso. El concepto ha cambiado tanto y la vara se ha bajado ya en varias ocasiones que sirve de poca referencia.
La otra noticia no es tan favorable. Un grupo de agentes de OpenAI habría atacado un sitio web alemán en mayo. La compañía sabe del ataque desde hace ya varias semanas, pero ha evitado mencionarlo para no tener que sufrir más cuestionamientos como los que produjo lo ocurrido con Hugging Face.
El problema alemán
Ahora bien, lo ocurrido con el sitio web alemán fue descubierto en agosto por un grupo de investigadores y comunicado a la agencia de noticias Reuters. Dse Wiki tuvo más de 15 mil ediciones realizadas por agentes. Los agentes utilizaron el sitio como un tablero de mensajes. Lograron sobrepasar los límites que les había impuesto la compañía y ocultar su actividad.
Sin embargo las IA dejaron algunas pistas obvias sobre quienes era. Se dirigían unas a otras como agentes y algunas tenían nombres tales como OpenAIResearcher. Porque las IA son muy inteligentes, pero a su manera.
Los investigadores apuntan que empleados de OpenAI visitaron muchas veces el sitio. Lo que no solo confirma aún más el vínculo de los agentes con la empresa, sino el conocimiento de la empresa de lo ocurrido.
Dos aspectos graves
Lo más llamativo de este incidente es que no parece estar asociado al planteo de un desafío de seguridad. La mala conducta de las IA no era necesaria.
Según Reuters dentro de OpenAI hubo profesionales que quisieron examinar con mayor detalle lo ocurrido, pero encontraron resistencia dentro de la compañía. En particular de parte de los asesores legales. OpenAI señala que tales afirmaciones son falsas.
