Cuando un Papa es elegido debe a su vez elegir un nombre. En ocasiones ese nombre expresa alguna conexión con la historia de la iglesia y los asuntos que el pontífice entiende son los más importantes de su era. Leo XIV tomó su nombre en homenaje a Leon XIII que en su momento se había enfocado en los problemas que estaba produciendo la revolución industrial y la automatización.
Así pues, cualquier espectador atento se sorprenderá poco y nada al saber que la primera encíclica papal se refiere a la relación de las personas con la inteligencia artificial. Una encíclica es una especie de carta abierta que aborda problemáticas sociales concretas e intenta establecer una doctrina en común.
No es necesario profesar la fe católica para reconocer la influencia que el documento puede tener. O verlo simplemente como la demostración de una preocupación que seguramente aparecerá también en otros documentos de otras religiones, si acaso ya no está presente.
Título y temáticas
El documento se conoce como Magnífica Humanitas: Sobre la Custodia de la persona humana en el tiempo de la inteligencia artificial. Si quieres examinarlo puedes hacerlo en esta página. Los dos primeros capítulos son más de cuestión de base. A partir del tercero aparecen las problemáticas en concreto. El documento es extenso.
Inteligencia e “inteligencia”
En el tercer capítulo se advierte que no hay que equiparar la inteligencia artificial a la humana. Los sistemas imitan a la inteligencia humana, pero toda su potencia está limitada al procesamiento de datos. Las IA no viven experiencias, no tiene un cuerpo, no tienen alegria, ni dolor, no saben del amor, ni del trabajo, ni de la amistad ni de la responsabilidad. No tienen consciencia moral y no conocen el bien y el mal. Su aprendizaje es una adaptación estadística. Eficaz, pero sin crecimiento interior.
Trabajo, verdad y libertad
En el cuarto capítulo es básicamente una mirada del peligro que puede ofrecer la inteligencia artificial a la verdad, el trabajo y la libertad. En el primer aspecto la IA es vista como un multiplicador de un fenómeno que ya existe, la desinformación. También se menciona que los contenidos creados en el espacio digital influyen en la forma en que las personas ven el mundo.
Sobre el trabajo el documento señala que no debe vérselo solo como un medio. Es en realidad una necesidad inherente a la condición humana, un espacio de desarrollo y realización personal. La automatización y la robótica prometen nuevos modos de hacer las cosas, que no son necesariamente mejores. Los trabajadores se ven sometidos a la velocidad y la vigilancia de las máquinas. Los sistemas deberían estar centrados en las personas, no solo en el rendimiento.
Armas e IA
En el quinto capítulo se tratan cuestiones tales como el uso de sistemas de inteligencia artificial en armas. Lo que supone alejar al ser humano de la decisión moral. También se menciona el uso de las IA en la guerra híbrida (ataques informáticos dentro de un conflicto bélico).
Responsabilidad y regulación
El documento apunta que la responsabilidad por el buen uso de la inteligencia artificial debe definirse claramente en el diseño, el desarrollo y el uso de los sistemas y debe sustentarse en decisiones concreta. El Papa advierte que la moralidad de las IA no puede estar definida por un pequeño grupo de personas. Lo que implica obviamente un mayor nivel de participación y regulación.
Leo XIV sostiene que no se trata de oponerse al progreso, pero a veces ir un poco más lento puede ser esencial para actuar con responsabilidad. La amenaza es que el cambio se evalué solo desde un punto de vista puramente técnico, donde se lo presente siempre como necesario e inevitable y aquellos que controlan los datos, el poder de cómputo y la infraestructura impongan las reglas.
