El Papa habla de IA: lo que dijo, lo que no dijo y por qué vale la pena leerlo

Alguien con audiencia de mil millones de personas finalmente está instalando reflexiones en torno a la IA y haciendo las preguntas correctas.

El 15 de mayo, justo en el 135° aniversario de la encíclica Rerum Novarum, el Papa León XIV publicó su primera encíclica social: Magnifica Humanitas. El subtítulo es bastante certero: Sobre la custodia de la persona humana en el tiempo de la Inteligencia Artificial.

Es un texto que tiene más lucidez política sobre los riesgos del poder tecnológico que la mayoría de los libros blancos de gobernanza de IA que circulan por ahí, además de ser uno de los pocos documentos oficiales de la Iglesia que advierte sobre los usos de las nuevas tecnologías, en particular la IA. Aunque también tiene algunos problemas, que es bueno señalar.

Lo que el documento dice bien

León XIV parte de una constatación que cualquiera que siga el sector reconoce: el poder tecnológico hoy no está en manos de los estados. Está en un puñado de actores privados transnacionales con más recursos que muchos gobiernos y con una velocidad de acción que los reguladores nunca logran igualar. Y hace la pregunta que muchos evitan: ¿quién la controla y hacia qué fines?

Para plantear el dilema de fondo usa dos imágenes bíblicas. La Torre de Babel: tecnología construida sobre el orgullo y la autosuficiencia, que termina en dispersión y deshumanización. Y la reconstrucción de los muros de Jerusalén por Nehemías: trabajo comunitario, responsabilidad compartida, orientado al bien común. Puede sonar a homilía dominical, pero si uno lo traduce al lenguaje de política pública, la distinción es interesante: la diferencia entre un ecosistema tecnológico diseñado para concentrar valor versus uno diseñado para distribuir capacidades y fortalecer lo público.

«Si el poder crece mientras el corazón se marchita y los vínculos se rompen, entonces estamos frente a una nueva versión de Babel: una construcción grandiosa, pero inhumana.»

Un capítulo interesante es el que plantea transhumanismo —esas corrientes que prometen que la tecnología nos liberará de la fragilidad, la vejez y eventualmente de la muerte. León XIV no lo trata como una extravagancia de Silicon Valley. Lo trata como un riesgo filosófico serio, porque parte de una premisa equivocada: que la vulnerabilidad humana es un error que hay que corregir. La respuesta cristiana es la Encarnación: Dios eligió la fragilidad, no la esquivó. No sé cuántos ejecutivos de OpenAI leerán encíclicas, pero la crítica filosófica vale independientemente de quién la firme.

También hay un capítulo sobre la guerra y la IA que es de los más directos que he leído en un documento de esta naturaleza. León XIV dice sin rodeos que los sistemas de armas autónomos, los ataques cibernéticos y las campañas de desinformación algorítmica son formas reales de violencia, que la guerra nunca es inevitable y que los líderes tienen la obligación de dialogar. Sin la habitual diplomacia vaticana que suaviza todo.

Lo que se complementa desde acá

Casualmente, doce días antes del lanzamiento de la encíclica, el 12 de mayo en la Aula Magna de la Universidad Alberto Hurtado, se presentó el libro Mensajes para una IA al servicio de la humanidad — del que tuve el privilegio de ser parte del Comité Editorial. Treinta voces, chilenas y del extranjero, respondiendo las preguntas de fondo sobre IA: las que raramente aparecen en los titulares pero que son las que realmente importan.

Cuando uno lee los dos textos seguidos, la convergencia es llamativa. La tesis central que emerge del libro es que el mayor riesgo hoy no es que las máquinas piensen, sino que nosotros dejemos de hacerlo. Ricardo Baeza-Yates lo dice directo: siempre debemos tener pensamiento crítico, dudar de todo. Yo mismo planteo en mi capítulo que me preocupa que empecemos a perder el juicio crítico frente a lo que dice el computador. Andrés González S.J. lo formula de la manera quizás más provocadora: el peligro es crear máquinas que parezcan humanos y tratar a los humanos como máquinas.

«El mayor riesgo hoy no es que las máquinas piensen, sino que nosotros dejemos de hacerlo. Eso lo dice una encíclica papal y lo dicen treinta académicos chilenos. Cuando voces tan distintas convergen en lo mismo, conviene tomarlo en serio.»

León XIV dice prácticamente lo mismo pero desde la filosofía: ningún sistema de cálculo genera un corazón que se entrega ni una conciencia capaz de discernir el bien.

Fernando de la Torre, en el primer capítulo del libro, dice sin rodeos que el 1% que concentra el poder tecnológico es el mayor peligro para la humanidad. La encíclica hace la misma lectura. Que una encíclica papal y un investigador de Carnegie Mellon coincidan en el mismo diagnóstico no es menor. Cuando voces tan distintas dicen lo mismo, conviene prestar atención.

El libro también aborda usos concretos, por ejemplo: María Paz Hermosilla hablando de transparencia algorítmica en políticas públicas, Carlos Aspillaga mostrando IA al servicio de comunidades indígenas, Daniela Mennickent describiendo cómo la IA podría detectar endometriosis sin cirugía.

Lo que la encíclica no se atrevió a decir

Dicho todo lo anterior, una lectura honesta obliga a señalar lo que falta.

Magnifica Humanitas tiene 110 páginas. Cuando uno llega al final esperando encontrar qué hacer con todo esto, el documento se diluye en generalidades: Desarmar las palabras. Construir la paz en la justicia. Relanzar el diálogo. Invertir en educación. Cuidar las relaciones. Nadie va a estar en contra de ninguna de esas cosas. El problema es que tampoco sirven como programa de acción, y si bien las encíclicas no tienen por objetivo ser un plan de acción, quizás identificando ciertos criterios generales para su desarrollo hubieran sido útiles..

No hay una posición sobre regulación de sistemas de IA de alto riesgo. No hay opinión sobre si los modelos fundacionales deberían ser bienes públicos o pueden seguir siendo propiedad privada de cuatro empresas. Nada sobre estándares mínimos de transparencia algorítmica. Nada sobre qué hacer con los trabajadores desplazados más allá de «valorar la dignidad del trabajo». La Rerum Novarum de 1891, que el propio León XIV invoca como inspiración, tuvo la misma limitación — y la historia la juzgó con justicia. Lo que cambió las condiciones del trabajo no fueron los principios pontificios, sino la organización sindical, la presión política y legislación concreta.

La segunda crítica es más de fondo. Cuando la encíclica habla de «actores privados transnacionales» que concentran el poder tecnológico, está hablando en la práctica de Google, Meta, Microsoft, OpenAI, Apple, Amazon. El documento lo sabe, pero nunca lo dice. Prefiere la abstracción al nombre propio. Y eso tiene una consecuencia analítica seria: el texto lee la revolución de la IA casi exclusivamente desde la lógica de Silicon Valley. Hay una sola mención tangencial a China.

La encíclica habla mucho de dignidad humana universal, pero su mirada sobre el poder tecnológico tiene un fiurete sesgo a lo que ocurre en Silicon Valley. El problema de la concentración no es solo que cuatro empresas tengan demasiado poder: es que esas cuatro empresas están en un solo país, operan bajo una sola lógica de mercado, y sus decisiones de diseño incorporan los valores y los prejuicios de un contexto cultural muy específico que se exporta al resto del mundo como si fuera neutro. Eso no es un detalle. Es el corazón del problema de gobernanza global de la IA, y la encíclica lo roza sin profundizarlo.

¿Qué le dice Magnifica Humanitas a un municipio rural chileno sin presupuesto TI ni profesionales capacitados? ¿O a un país cuya economía digital está mediada casi completamente por plataformas diseñadas en otro hemisferio?

Por qué igual vale la pena leerlo

Dicho todo eso, León XIV está haciendo una pregunta que los gobiernos de la región evitan sistemáticamente. No ¿cómo digitalizamos más rápido? sino ¿digitalizamos para qué y para quién?

Esa pregunta incomoda a los ministerios de tecnología, a los organismos multilaterales y a los consultores que viven de vender la transformación digital como fin en sí misma. Que la haga un documento con la audiencia global que tiene el Vaticano tiene valor, aunque la respuesta sea incompleta.

El problema es que las preguntas correctas sin respuestas concretas pueden convertirse, con el tiempo, en cobertura moral para la inacción. Y en eso, la Iglesia tiene una historia larga.

Mientras tanto, los treinta del libro de Mensaje siguen intentando responder desde acá, con nombres propios y casos concretos. Que ambos esfuerzos coexistan en el mismo mes de mayo no es casualidad. Es señal de que la pregunta ya no puede ignorarse.

Magnifica Humanitas está disponible aquí. Mensajes para una IA al servicio de la humanidad disponible aquí.