Opinión | Llegó carta del papa

“Sobre la IA […] todos nosotros, incluidos quienes la diseñan, sabemos muy poco sobre su funcionamiento efectivo”.

“Estamos llamados a interrogarnos sobre el gran proyecto de nuestra época: ¿qué estamos construyendo?”

“El uso de la IA nunca es un hecho puramente técnico”.

“No podemos considerar a la IA como moralmente neutra”.

Estas frases pertenecen a la Carta Encíclica de Su Santidad León XIV Magnifica humanitas, cuyo subtítulo es “Sobre la custodia de la persona humana en el tiempo de la inteligencia artificial”.

Estas y una enorme cantidad más, contenidas en un documento de 245 párrafos y 224 citas, muchas de ellas de grandes pensadores, papas anteriores y hasta de un tal J.R.R. Tolkien (ese mismo, el de El Señor de los Anillos).

UN TÍTULO CON GANCHO Y UN CONTENIDO SIN DESPERDICIO

El título y el subtítulo son en sí mismos dignos de un estudio semiótico, porque cada palabra fue elegida con sumo cuidado, no solo para transmitir un concepto, sino para promover su popularidad, al igual que el lenguaje con el que está escrita en su totalidad, evitando la criptografía y hasta el exceso de religiosidad explícita. Es el papa quien escribe, líder de más de 1.300 millones de católicos de todos los puntos cardinales. Y vaya si tiene algo para decir.

ELIGIENDO PARA NO ABURRIR

Si tengo que elegir qué recomendarles leer, les sugiero como entrada la "Introducción", en la cual utilizando una metáfora basada en dos hechos bíblicos (la construcción de la torre de Babel y la reconstrucción de los muros de Jerusalén), León XIV plantea el contexto y el objeto de su reflexión, en la que, en síntesis, nos invita a “permanecer siendo humanos en la era de la inteligencia artificial”. Nada más ni nada menos. Como plato principal, el capítulo tercero, denominado "Técnica y dominio. La grandeza de la persona humana ante las promesas de la IA". Y ustedes ya se preguntarán qué hace el papa hablando de esto, y es que él mismo lo dice cuando explica que “estamos llamados a interrogarnos sobre el gran proyecto de nuestra época: ¿qué estamos construyendo?”. “No se trata de una decisión sobre nuestro futuro, sino sobre nuestro presente, porque la IA y las demás tecnologías emergentes ya son parte de nuestra vida cotidiana”.

COMO NO ENTIENDO MUCHO, TRAJE UN AMIGO… QUE ENTIENDE MENOS

El papa presentó Magnifica humanitas en sociedad en una conferencia frente a un selecto público, pero con masiva difusión mediática y, para sorpresa de muchos, incluido yo, entre quienes lo acompañaron haciendo uso de la palabra estaba el mismísimo Christopher Olah ("Mucho gusto, Sr.", dirán ustedes; ¡¿quién lo conoce?!). Pues se los presento: Christopher Olah (Chris Olah) es un empresario, cofundador de la empresa Anthropic (la de la IA Claude), y su campo de conocimiento es la interpretabilidad de redes neuronales en inteligencia artificial, particularmente inteligencia artificial explicable. En criollo, trata de saber cómo funciona la IA que crearon. Porque, según él mismo expresa en su discurso ante el papa y el mundo, dentro de la IA “pasan cosas misteriosas”. ¡Vaya, vaya, qué sorpresa! Al parecer ahora nos dimos cuenta de que necesitamos que la Inteligencia Artificial (IA), sea además Inteligible (IAI).

YENDO A LO CONCRETO

El papa nos cuenta las cosas que más le preocupan y la verdad, debo decir, deberían preocuparnos a todos. Les cuento lo que dice el rugido del león: “En el uso personal, tres aspectos en particular deben ser tenidos en especial consideración: la facilidad para lograr el resultado, la impresión de objetividad y la simulación de comunicación humana”.

PUNTO POR PUNTO

“La facilidad para lograr el resultado”, basada en la velocidad de procesamiento de la más amplia base de datos jamás compilada, y que dejaría como un trencito liceal a la Biblioteca de Alejandría, hace que nuestra natural pereza se quede con el resultado que nos expresa como respuesta a nuestras preguntas, anulando casi por completo la búsqueda de mejores, o al menos diferentes, respuestas, la capacidad de criticar la respuesta y, peor aún, el uso de la creatividad.

“La impresión de objetividad” nos hace olvidar que todas las IA, si ya no son una sola, han sido parametrizadas bajo ciertos principios culturales, acerca de todos los temas, sobre todos nosotros y, probablemente, sobre ellas mismas (“cultivadas” según nuestro gurú tecnológico, Mr. Chris Olah). ¿Cuáles son esos parámetros? ¿Quién los conoce en realidad? ¿Siguen funcionando, o la plantita ha tomado su propio rumbo, en busca de mayor luz que la que sus creadores le proveen? Vaya uno a saber.

“La simulación de la comunicación humana” es, a mi propio juicio (que no tiene por qué importarle a nadie) el más peligroso de los tres aspectos, sobre todo para aquellos que utilizan las IA más populares en el sistema de comunicación oral. Y es que realmente en muchos casos uno puede observar que el usuario y la IA parecen entablar una relación que al menos es muy superior a la que mantienen con su celular, que ya es decir muchísimo.

VOLVIENDO A LO NUESTRO

Como algunos de ustedes habrán deducido, una de mis pasiones, y la que me gusta explorar en estos renglones torcidos, es encontrar fuertes conexiones entre la realidad y la ficción (que no la ciencia ficción, sino la ficción en su más amplio conjunto), y en este caso es el propio papa León XIV quien me ayudó poniendo una cita fantástica casi al final de la encíclica, con la cual nos encomienda una misión, tal como Gandalf (el mago de El Señor de los Anillos) al alentar a Frodo (el héroe de la novela). Y dice así: “No nos atañe a nosotros dominar todas las mareas del mundo, sino hacer lo que está en nuestras manos por el bien de los días que nos ha tocado vivir, extirpando el mal en los campos que conocemos, y dejando a los que vendrán después una tierra limpia para la labranza”.

AMÉN

Nota: todas, absolutamente todas las citas, corresponden a la propia encíclica Magnifica humanitas.