Dario Amodei, CEO de Anthropic, ha publicado un ensayo sobre los peligros de la inteligencia artificial y como deberíamos afrontarlos. El texto, titulado La adolescencia de la tecnología, se centra en la idea de que hay un momento en el que las civilizaciones acceden a herramientas de gran poder y para las que no están todavía preparadas. Es un problema de madurez.
Destacando los beneficios, y ante los riesgos que se presentan, el ejecutivo propone una serie de recomendaciones.
Evitar el fatalismo
No hay que pensar que la desgracia es inevitable. En parte, argumenta, porque cuando estas predicciones terribles no se cumplen el estado de ánimo de la sociedad cambia al optimismo y a enfocarse en las oportunidades. Pero los riesgos siguen ahí. Es necesario ser pragmático y basarse en hechos.
Reconocer la incertidumbre
Amodei ha sido una de las figuras más importantes en advertir una y otra vez sobre los riesgos de las IA. Sin embargo, reconoce, la IA podría no avanzar tan rápido como él estima que lo hará. También es posible que los riesgos que se calculan no se concreten. Pero también pueden aparecer amenazas que no han sido previstas.
Acción quirúrgica
Amodei cree que de principio deben ser las empresas las que actúen para prevenir los problemas. Pero sostiene que en algún momento tendrá que intervenir el gobierno. Aún así advierte que estas intervenciones deben ser cuidadosas porque podrían perjudicar a la economía. ¿Podrían llegar a necesitarse acciones drásticas para defender a la humanidad? Sí, pero es necesario tener evidencia muy fuerte para actuar de esa manera.
El resto del ensayo
El texto de Amodei es extenso -apenas hemos cubierto la primer parte-, y no necesariamente igualmente valioso en todos sus tramos. Sin embargo, resulta interesante porque muestra como piensa uno de los actores más importantes de la industria. Incluye muchas referencias a ensayos previos del mismo autor. Pero abarca también una gran cantidad de temas relacionados con la IA, desde vigilancia automatizada hasta el uso de las IA en el campo de batalla. Pasando por temas tales como la propaganda y el rol de los regímenes totalitarios y las democracias.
