OpenAI y Anthropic son dos de las compañías más importantes de la industria de la inteligencia artificial. Tienen además posturas diferentes sobre como deberían considerarse los riesgos que conlleva la tecnología. En una entrevista realizada el lunes Sam Altman, CEO de OpenAI, se encargó de recordar este aspecto.
Altman apuntó: “Una diferencia entre nosotros y algunas personas con una postura más estricta sobre la seguridad es que nosotros creemos que el mundo debería aceptar que algunas cosas malas pasen a cambio del beneficio que la tecnología produce y un amplio acceso para la gente”.
El ejecutivo explica que esta consideración es la que sostiene la postura de la compañía por un nivel menor de regulación para las IA. Reconoce que los hackeos, el mal uso de las herramientas, las estafas y otros aspecto negativos son un problema. Pero cree que las ocasiones en las que las personas harán cosas buenas serán mucho más frecuentes en una enorme proporción.
Altman plantea que la opción es dejar que unos pocos oligarcas de la tecnología tomen las decisiones de seguridad por el resto de nosotros.
Al parecer Altman es uno de nosotros.
La diferencia
Por lo general es cierto que Anthropic ha impulsado la idea de que la industria necesita regulaciones más firmes. Mientras que OpenAI se ha opuesto a esta noción. Sin embargo, esta última compañía ha tenido que admitir que los peligros de sus modelos eran importantes y exigían parar un poco el desarrollo. También ha aceptado una iniciativa en el congreso estadounidense para el uso de evaluadores externos de seguridad.
Es lo que ocurre cuando tu idea de la realidad choca con los agentes de tu IA atacando a otras empresas en la red.
Ahora bien, hay una diferencia de posturas. Pero no necesariamente está motivada por una cuestión ética. OpenAI todavía apuesta a un mercado masivo y de consumo para su IA. Anthropic está un poco más enfocada al corporativo. Por eso OpenAI quiere un mercado con mayores facilidades de acceso, mientras que Anthropic quiere un ecosistema más controlado y confiable.
