Dario Amodei, CEO de Anthropic, comparó la situación de las compañías de inteligencia artificial con la de las tabacaleras hace algunas décadas atrás y las farmacéuticas en EEUU en relación al uso de opiáceos. Señaló que existe una necesidad de transparencia sobre los riesgos que sus productos conllevan que no se está atendiendo como es debido.
Amodei cree que es necesario hablar francamente sobre las consecuencias que tendrá la tecnología. Explica que las tabacaleras y las farmacéuticas conocían el peligro, no lo advirtieron y no hicieron nada para prevenirlo.
Los peligros del cambio tecnológico
El ejecutivo afirma que las IA podrían eliminar la mitad de los trabajos de entrada en las oficinas durante los próximos 5 años. “Si no se hace algo es difícil imaginar que no haya un impacto significativo en los trabajos. Mi preocupación es que será amplio y más rápido de lo que hemos visto con otras tecnologías”.
Por otro lado, Amodei advierte que a menudo se plantea la autonomía de los modelos como algo positivo. Sin embargo, cuanto más autonomía se le de a los sistemas, más deberíamos preocuparnos por el modo en que hacen las cosas. A todo esto hay que agregar que las mismas capacidades empleadas para la elaboración de vacunas pueden utilizarse para la creación de armas biológicas.
El lado bueno del cambio
Amodei cree que gracias a la IA podría obtenerse todo el progreso que habría ocurrido en el siglo XXI en unos 5 o 10 años.
Lo señalado puede parecer exagerado, pero mantiene cierta lógica. A medida que se desarrollan mejores herramientas la capacidad para la investigación mejora, lo que a la vez permite construir mejores herramientas. En algún punto el ciclo se corta, pero las IA aparecen como un cambio radical en la capacidad de computo y procesamiento de datos. El inicio de un nuevo ciclo.
