Las desarrolladoras de inteligencia artificial se han estado presentando en Naciones Unidas durante esta semana con el objetivo de brindar su perspectiva sobre la industria, incluyendo sus peligros. Es muy probable que algunas de ellas hayan planteado perspectivas llenas de grandes alarmas. Estamos acostumbrados a los dichos de Elon Musk, Sam Altman y Dario Amodei. Los máximos directores de tres de las desarrolladoras más importantes del mundo suelen hablar de colapsos económicos, el fin del empleo y hasta de la misma humanidad.
Sin embargo, algunos expertos se han pronunciado contra estas visiones fatalistas. Y en esto se han destacado los miembros del panel científico internacional de la propia ONU.
Lo que sabemos y lo que no
Joelle Barral, que también es ejecutiva de DeepMind, señaló: “Como científicos es muy importante que invirtamos en la ciencia, para distinguir lo que sabemos de lo que no sabemos. Invertir en el miedo no es útil”.
Por su parte, Maria Ressa, premio nobel de la paz y copresidente del panel, dijo: “Tenemos que cambiar el modo en que hablamos de los riesgos de las IA, porque desde hace un buen tiempo o es existencial y todo va a morir y los robots asesinos están llegando, o no importa para nada (…) Lo cierto es que la verdad es más complicada y sofisticada. No podemos hacer de esto un asunto ideológico; que es el lugar al que el debate se ha estado dirigiendo”.
Por su parte, Yoshua Bengio, el otro presidente del panel, afirmó que es importante distinguir los riesgos que son conocidos de forma científica de aquellos que son pausibles y forman parte de una discusión abierta. El mundo necesita una discusión global y racional sobre lo que está ocurriendo y la severidad de los peligros.
El panel internacional fue establecido en 2025 y sus miembros elegidos en 2026.
Cuidado con el miedo
Como especulación nuestra diremos que algunas de las visiones más apocalípticas del futuro con la IA pueden ser muy útiles a las empresas desarrolladoras. Porque pueden llevar el temor al campo de los supuestos y la fantasía, y cuando ninguna tragedia suceda terminar por agotar el interés del público. Mientras, los verdaderos problemas del sector pasan desapercibidos.
Cabe recordar que en julio Ressa había apuntado que en el organismo utilizaban las IA. Que los modelos aportaban oportunidades reales en ciencia, educación, salud y agricultura, pero el poder se estaba concentrando en un puñado de empresas y países que toman todas las decisiones claves que afectarán al resto del mundo.
