OpenAI ha cancelado el lanzamiento de su último modelo de inteligencia artificial, el Astra 6.1. Esta decisión se tomó porque la IA no cumplía con los estándares de seguridad de la compañía. En las pruebas realizadas demostró tener problemas para mantenerse dentro de los márgenes establecidos por sus autorizaciones y para comunicar cabalmente lo que hacía a los usuarios.
Todo lo dicho esta agravado por el hecho de que Astra ha demostrado una mayor capacidad que sus antecesores.
En teoría el modelo debía estar listo para octubre.
Saachi Jain, jefe de seguridad de OpenAI señaló: “Queremos estar seguros de que el desarrollo de nuestro modelo sea seguro, sin importar si es dentro de la empresa o cuando lo enviamos a los usuarios. Pero cuando lo enviamos a los usuarios tenemos un nivel de exigencia extremadamente alto en todo lo que es seguridad y alineamiento”.
Muchas disculpas y una demanda
Para muchos emprendedores la máxima es que es mejor pedir perdón que permiso. Pero OpenAI ha estado repartiendo pedidos de disculpas durante ya varios meses. Sus agentes han generado muchos problemas y ahora estos se vuelven en contra de la empresa.
El estado de Florida, de Estados Unidos, ha presentado una demanda contra la empresa para que detenga el desarrollo de su sistema de inteligencia artificial hasta que sus productos puedan ser evaluados por un ente independiente y considerados como seguros. El argumento del fiscal general del estado apunta que el acusado ha admitido que su IA podría poner en peligro la supervivencia de la humanidad.
