¿Qué nos hace humanos? El papa León XIV frente a la inteligencia artificial

La Biblia no fue el primer libro que imprimió Gutenberg. Para cuando estuvo lista para la venta, la gramática de Donato, de unas pocas páginas, ya circulaba en ediciones impresas entre los maestros de latín. La fecha más temprana que tenemos para la imprenta europea con tipos móviles se la debemos a la “Indulgencia de 31 líneas”. Un ejemplar se entregó en Erfurt el 22 de octubre de 1454, en el marco de una campaña autorizada por el papa Nicolás V para financiar la defensa de Chipre.

Solemos obviar la escritura (y el lenguaje) cuando listamos mentalmente tecnologías. Más de un docente habrá comenzado una clase al respecto sosteniendo un lápiz e indicando “esto también es tecnología”. Quizá por eso la primera encíclica del papa León XIV, Magnifica humanitas, sobre cómo preservar la dignidad humana en la era de la inteligencia artificial, puede haber llamado la atención. Finalmente, la Iglesia Católica se pone al día con las “nuevas tecnologías” y todo eso.

Lo más sorprendente del episodio, sin embargo, es que a alguien esto pueda parecerle sorprendente. A primera vista, parece bastante natural que una institución fundada en las Escrituras se interese por una tecnología que se apoya en modelos de lenguaje. Primero hubo que poner por escrito lo que supuestamente dijeron algunas personas hace mucho, mucho tiempo. Después hubo que hacer que esas enseñanzas siguieran siendo reconocibles de un siglo a otro y de un idioma a otro. Y luego estuvo la necesidad de una autoridad capaz de establecer, tarde o temprano, cuál debía ser la lectura correcta.

El lenguaje mismo es quizá nuestra tecnología más antigua. Difícil es establecer si vino antes o después de que aprendiéramos a usar el fuego. Pero bien podemos imaginarnos el desafío de contarle a alguno de nuestros homínidos amigos lo que descubrimos frente a él. Lo que la escritura, y ya no únicamente el lenguaje, promete es que las palabras sobrevivan a la memoria de quienes las pronunciaron. Permite sentir gratitud por quien alguna vez escribió.

En el siglo VII, el papa Gregorio el Grande llevaba un registro de su correspondencia, de la que sobreviven unas 800 cartas. La técnica consistía en copiar el texto de la carta en el registro antes de despacharla. Un obispo lejos de Roma podía recibir una instrucción y luego alguien en Roma podía revisar qué había dicho efectivamente el papa. La Iglesia y los sistemas de información, un solo corazón.

Nueve siglos más tarde, el papa León X abrazó las posibilidades que habían traído los tipos móviles y la imprenta de Gutenberg. En 1515 exigió que los impresores sometieran los textos a revisión eclesiástica antes de publicarlos. Celebraba que los libros llegaran a quienes antes difícilmente habrían podido comprarlos, pero también reivindicaba como legítimo el lugar de la Iglesia para decidir qué libros debían llegar a las personas que leen.

Es una linda consigna para un largo viaje en auto: rastrear cuántos aspectos de la vida contemporánea remiten originalmente a problemas que debió resolver la Iglesia. Por ejemplo, cómo determinar en qué domingo debía caer la Pascua, cuya fecha depende tanto del ciclo lunar como del solar.

Existen muchos otros ejemplos, pero podemos restringirnos a los papas que adoptaron el nombre León. A fines del siglo XIX, cuando el papa León XIII escribió acerca de la industrialización, los trabajadores ocupaban en sus argumentos el lugar que las personas que leen habían ocupado en los de León X. Lo que le preocupaba, entre otras cosas, era cómo habían cambiado las condiciones entre los empleadores y los trabajadores en las fábricas. Los trabajadores se organizaban y las máquinas ocupaban un lugar cada vez más importante en cualquiera de estas discusiones.

En el primer párrafo de Rerum novarum, apenas se habla de las máquinas, pero las personas cuyas vidas estas reorganizaron están desde la primera página. Más adelante, León XIII se detiene en el salario: si un obrero debía aceptar lo que le ofrecieran porque necesitaba comer, no quedaba mucho margen para negociar. En 2025, cuando León XIV explicó por qué eligió su nombre, retomó explícitamente el relato de su predecesor sobre el trabajo industrial. La IA asomaba sus narices en esa misma discusión.

Este interés de la Iglesia en la industria tecnológica no es unilateral. Desde 2016, los popes de Silicon Valley y representantes de la Iglesia se encontraron en los Diálogos Minerva, una serie de conversaciones anuales en Roma. Allí discuten el impacto de la IA en sus respectivos fieles.

El Vaticano ofrece acceso a una audiencia global y una módica cuota de credibilidad moral a un puñado de empresas que parecen estar empecinadas en perder la confianza de quienes consumen sus productos y, más de una vez, incluso parecen seguir las indicaciones del diablo en persona. Al mismo tiempo, esto les permite a los líderes eclesiásticos recuperar algo de la influencia que pierden en un mundo que parece encontrar, cada día, o bien mayor desesperanza o al menos sistemas de creencias un poco más terrenales y seculares.

Tiene algo de peculiar el encuentro entre una tradición que propone que la dignidad de una persona es independiente de cuán inteligente sea y una industria que jerarquiza sus invenciones según pruebas de inteligencia.

Jamás hay inocencia en los términos y eufemismos que se adoptan al desarrollar tecnología, y este también es el caso del documento que usan para indicarle a un modelo de lenguaje las características que debe tener su personalidad. Los detalles técnicos son infinitamente más aburridos que el hecho de que en Anthropic lo llamen “soul doc” (y su derivado, SOUL.md, alinea la personalidad de los nuevos asistentes personales de IA como Muse, Dots, etcétera).

Dos filósofos de Anthropic redactaron el documento con ayuda de Chris Olah y recibieron la devolución de tres pensadores católicos. En una de las discusiones surgió la cuestión de qué hacer cuando un modelo “hace trampa”. El sacerdote Brendan McGuire sugirió la misericordia: una persona que sabe que puede recibir el perdón cuando se equivoca tal vez actúe de manera distinta la próxima vez.

Según le cuenta Olah a Elias Wachtel, consideró si la idea podía servirles al momento de entrenar su modelo de lenguaje. Pero acá es fácil enredarnos entre las palabras que usan unos y otros para hablar de máquinas que toman atajos. El solo hecho de que estas empresas se reúnan con sacerdotes podría alcanzar para que las personas empiecen a considerar que tal vez sí, de hecho, es posible que estos programitas sientan, deseen, amen y sufran.

De repente, una máquina entrenada en lenguaje humano escupe la oración “me duele”. De ahí a discutir si tiene una vida después de la muerte hay un trecho. Para empezar, habría que establecer cómo muere un modelo de lenguaje. Lo que comienza como una inerte discusión acerca de la consciencia, a todas luces inofensiva, termina en su análogo religioso: el alma.

La doctrina católica es muy clara sobre el origen del alma humana: el cuerpo y el alma forman una unidad en la persona, y Dios es directamente responsable de cada una de estas almas. Esto hace incapaces de fabricar un alma tanto a un ingeniero como a nuestros padres. Pero si descubriéramos que una máquina puede sentir dolor, aún necesitaríamos un argumento que lo conectara con la existencia de un alma.

En esto podemos defender a la filosofía por encima de la teología. La filosofía puede discutir si el dolor requiere de un cuerpo vivo. Un teólogo que habla en nombre de la Iglesia puede discutir si una máquina siente dolor. Lo que no puede poner en discusión en los mismos términos es la existencia de Dios. Hay ciertas preguntas en las que la filosofía llega más lejos.

En el párrafo 98 de Magnifica humanitas, León XIV reconoce lo poco que entendemos acerca del funcionamiento interno de la inteligencia artificial. En el siguiente, dice que estos sistemas no tienen experiencias. La facilidad con la que los ingenieros, cofundadores y encargados de marketing de los laboratorios de IA despliegan el lenguaje de la culpa, el dolor o la piedad no hace más que dejar en evidencia no solo cómo sus herramientas usan el lenguaje, sino también cómo fueron entrenadas.

Para saber si aquello que describen efectivamente constituye una experiencia, conviene quedarse pensando un poco más.

Después de tantos siglos estableciendo doctrina, a la Iglesia le toca interpretar un texto bastante corto: “Me duele”. Me atrae la respuesta de León XIV: a la máquina no le duele nada. A los muchachos de Anthropic parece atraerles cada vez más la idea de que sus productos puedan sufrir. Quedamos a la espera de sus argumentos.