Con una palabra que él mismo reconoció como "fuerte" pero elegida de manera deliberada, el papa León XIV exigió este lunes "desarmar" la inteligencia artificial. Lo hizo en Magnifica humanitas, su primera encíclica, un documento de cinco capítulos que sitúa a la IA en el centro de la reflexión moral de la Iglesia Católica y que fue firmado el 15 de mayo, en el 135.° aniversario de la histórica Rerum novarum de León XIII.

El documento arranca con una imagen bíblica que resume su espíritu: la humanidad está ante una "elección decisiva" entre levantar una nueva Torre de Babel o edificar la ciudad donde Dios y los hombres habiten juntos. La tecnología, aclara el Papa, no es un mal en sí misma, pero tampoco es neutral: "asume el rostro de quien la concibe, la financia, la regula y la utiliza". De ahí el llamado a construir en el bien y a "permanecer humanos".

Uno de los ejes del documento es la advertencia contra la concentración del poder tecnológico. León XIV insiste en que los conocimientos y las herramientas digitales no pueden quedar en manos de unos pocos, alimentando la brecha entre incluidos y excluidos de la revolución digital. En esa línea, el Papa rechaza la lógica del "paradigma tecnocrático", ya denunciado por Francisco, según la cual toda decisión queda subordinada a criterios de eficiencia y beneficio. La IA, subraya, puede imitar al ser humano, pero carece de conciencia moral, empatía y capacidad espiritual. Por eso hace falta un código ético sometido a criterios de justicia social compartida, porque "no sirve una IA más moral si esa moral la deciden unos pocos".

La encíclica dedica un extenso tramo al mundo del trabajo. En la llamada "cuarta revolución industrial", el Papa advierte que las nuevas formas de trabajar no son necesariamente mejores y que la tecnología puede descalificar a los trabajadores, relegarlos a funciones marginales y someterlos a vigilancia automatizada. Apuesta, en cambio, por diseñar sistemas centrados en la persona y no solo en el rendimiento, y llama a renovar las organizaciones sindicales en un escenario donde la automatización amenaza con profundizar la desigualdad.

En materia de paz y conflicto, León XIV va más lejos que sus predecesores: plantea la necesidad de superar la teoría de la "guerra justa". La revolución digital, advierte, está modificando la gramática de los conflictos, y el uso de armas basadas en IA hace cada vez más difícil sostener que un conflicto pueda ser moralmente aceptable. "Ningún algoritmo puede hacer que la guerra sea moralmente aceptable", sentencia. La tecnología no elimina la inhumanidad intrínseca de la guerra; solo la hace más rápida e impersonal, reduciendo a las víctimas a datos. Frente a eso, el Pontífice relanza el diálogo, la diplomacia y el multilateralismo, y llama a reformas profundas en la ONU.

La encíclica también contiene una de las disculpas más explícitas del Vaticano por su rol histórico en la esclavitud. León XIV pidió "sinceramente perdón" en nombre de la Iglesia por la tardanza con que condenó ese flagelo, y trazó un paralelo con los riesgos actuales: la explotación de quienes trabajan en la extracción de minerales para la tecnología y el avance del "colonialismo digital", que se apropia de datos personales y los convierte en información explotable.

El documento fue presentado en el Vaticano por el propio León XIV, en una ceremonia inusual en la que participó Christopher Olah, cofundador de Anthropic, empresa pionera en inteligencia artificial. Olah reconoció allí que todo laboratorio de IA opera dentro de un conjunto de incentivos que "en ocasiones pueden entrar en conflicto con la necesidad de actuar correctamente", y subrayó que los interrogantes que plantea la IA trascienden a la comunidad tecnológica. El Papa anunció además la creación de una comisión para dar continuidad a los lineamientos del documento.