El nombre es el mensaje

No soy católico a pesar de (o tal vez gracias a) que estudié en un colegio católico. No tengo lealtad emocional al Vaticano y desconfío por defecto de cualquier institución que se la pase explicándole a la gente cómo debe vivir. Dicho eso, me parece interesante lo que está haciendo Leo XIV con la IA, y me interesa especialmente la razón detrás.

Lo primero que me llamó la atención fue el nombre Leo. El Leo anterior, Leo XIII, fue el Papa de la Revolución Industrial, el que publicó Rerum Novarum en 1891 para meter a la Iglesia en la conversación sobre fábricas, salarios, condiciones de los obreros y qué quedaba del ser humano cuando la máquina se comía el oficio. Elegir el mismo nombre ahora, cuando la conversación volvió a ser sobre máquinas comiéndose oficios, es un gesto que se lee solo.

Lo cuenta bien el padre Robert Ballecer SJ en el episodio 862 de Intelligent Machines. Jesuita, vive en el Vaticano, profesó hace poco el cuarto voto de obediencia especial al Papa, y por su trabajo previo en Vatican News tiene una idea bastante directa de qué se cuece dentro. Habla así:

“I love this idea of using the Industrial Revolution because you may know that Pope Leo is big on the document Rerum Novarum, which is what the Catholic Church released during the Industrial Revolution to introduce this idea of agency and bring this idea that there is something innate and special about humanity, which is what Leo is talking about."

La palabra que repite es agency. Y un poco antes en el mismo episodio la define con cuidado:

“In my tradition, there’s a little bit different of an angle on it: to separate this idea of knowledge and understanding from intelligence. Knowledge could be rote memory… intelligence is like knowledge, but it has that additional step of agency, which we still don’t think that LLMs, that current AI has, because it cannot act as an agent. It can only act as a source of knowledge."

Ahí está la jugada. La Iglesia, históricamente, se ha definido como custodia de algo que llama alma, dignidad, persona, según el siglo. Leo XIV está diciendo, sin decirlo todavía con encíclica encima de la mesa, que ese custodio va a opinar sobre los sistemas que la industria del software está vendiendo como “inteligentes”. Y va a opinar precisamente desde el flanco más débil de esos sistemas: que no actúan, que no quieren, que no responden por nada.

Que esto venga del Vaticano me parece raro de una manera útil. Porque la conversación pública sobre IA está atrapada entre dos voces igual de monótonas: el techno-optimismo de los que venden la cosa, y el catastrofismo abstracto de los que piden moratorias mientras siguen usando ChatGPT. Una institución que lleva mil años especulando sobre qué es exactamente una persona tiene, por lo menos, vocabulario distinto.

Ballecer adelanta que se está trabajando en una encíclica. Confirma una comisión vaticana sobre IA, con sacerdotes haciendo el trabajo técnico, y dice lo obvio: que el documento, cuando salga, será seco y oficial, y que las historias interesantes están en los curas de la comisión, no en el texto. Habrá que leerlo cuando llegue. Mientras tanto el nombre ya estaba diciendo bastante.