Opinión | Llegó carta del papa

Escribe Diego Borges

VER PERFIL DEL AUTOR

Diego Borges

Licenciado en Marketing y consultor en estrategia, con formación en Gestión de Directorios. Ha recorrido más de 20 países lanzando negocios, desarrollando marcas y creando redes comerciales.

“Desarmar”, esa es la palabra que más ha trascendido de la Carta Encíclica Magnifica humanitas, y la primera pregunta que vino a mi mente fue: ¿dice desarmar? Y efectivamente sí, lo dice. En el párrafo 110 de Magnifica Humanitas, León XIV escribe: “Quisiera, por último, usar una palabra muy importante para mí: “desarmar”. Desarmar la IA significa sustraerla a la lógica de la competencia armamentística, que hoy ya no es solo militar sino económica y cognitiva.” “Desarmar no significa renunciar a la tecnología, sino impedirle el dominio sobre lo humano.” “La IA es ya un ambiente en el que estamos inmersos y un poder que debemos afrontar. Por eso, no basta regularla; es necesario desarmarla y hacerla acogedora.”

El texto sin su contexto

Estas frases, fuertes y firmes, de un líder que intenta hacer sentir su voz, no caen del cielo (¿o sí?), están inmersas en el análisis que la propia carta contiene, y en el cual se expresa por ejemplo: “No serviría de nada una IA más moral, si esta moral es decidida por unos pocos”. “La propiedad de los datos no puede confiarse sólo al sector privado, sino que debe reglamentarse”. “…El discernimiento ético no se puede limitar a preguntarse si usamos un determinado sistema para un fin bueno o malo, sino que debe interrogarse también sobre el modo en el que está diseñado y qué idea de persona y de sociedad queda inscrita en los datos y en los modelos que lo guían”.

Desarmar, quiere decir quitar las armas. Desarmar significa quitar o separar las piezas. Desarmar también implica pacificar y apaciguar. Desarmar es por otro lado exponer la fragilidad. Desarmar no es una palabra común, y menos cuando se escribe entre comillas y se contrapone a “hacerla acogedora”. Hacer acogedora la IA.

¿Por qué estamos hablando de esto?

Porque es el tiempo de la Inteligencia Artificial. O por lo menos el inicio de su tiempo. Estamos asistiendo a un cambio singular y es necesario involucrarse. Las personas; nosotros, venimos asumiendo como válido el modelo económico basado en la atención. La atención y la dependencia hacia la pantalla, promueven el uso masivo de la IA, que está disponible en cada teléfono del planeta. ¡Y hasta gratis! (es un decir).

Y la clave es quién y cómo la usa. ¿Sabe en qué lugar de Estados Unidos se utiliza más la IA? Adivinó. En Washington DC. Al menos según las propias estadísticas de Anthropic (la empresa a la que pertenece Chris Olah, el que estaba sentado casi al lado del Papa, como le conté en la columna anterior). Y hay un par de micro datos muy interesantes en ese reporte: el 1% de las personas dicen usar la IA para crear contenido religioso, guía espiritual, poesía y escritura creativa, mientras que el 2,5% la utilizan como un “tutor”. Y esto es solo el comienzo. Pues: ¿quién no tiene “un amigo” que ya está haciendo consultas sentimentales, para mejorar los mensajes de reconciliación con su novia? Entonces, ese IA tutor, ese IA poeta, ese IA guía espiritual, ¿bajo qué conceptos está guiando? ¿Qué idea del amor lleva en sus palabras? ¿Cómo concibe una sana relación de pareja?

Y aquí vuelve a hablarnos la encíclica, cuando dice: “el progreso técnico, valioso en sí mismo, requiere un discernimiento sobre la visión antropológica que lo guía y los fines que persigue.”

Y quien está en la cima de la cadena alimenticia

“en muchos casos, en el contexto digital, el control de las plataformas, las infraestructuras, los datos y la capacidad de cálculo no es prerrogativa de los estados, sino de grandes actores económicos y tecnológicos que, de hecho, determinan las condiciones de acceso, las reglas de visibilidad y las mismas posibilidades de participación. Cuando un poder de tal magnitud se concentra en pocas manos, tiende a hacerse opaco y a eludir el control público…” cito textual del párrafo 95 de MAGNIFICA HUMANITAS.

¿Qué tiene esto que ver conmigo, y contigo?

¿Recuerdan el inicio de las Redes Sociales? ¿Alguien se acuerda de las precursoras: MySpace, Fotolog, Messenger? ¿Y de los chats? ¿Y SixDegrees? No sé siquiera si alguna de ellas sigue funcionando en la actualidad. Fueron arrasadas por Facebook, Twitter, Instagram y TikTok, entre otras que quedaron restringidas a nichos más pequeños. Y durante todo este tiempo, no pudimos ver lo que sucedería. Pues imaginemos todo eso potenciado por la IA, como ya está ocurriendo. Si el resultado fue una enorme captación de atención, ¿qué resultado podemos esperar de la Inteligencia Artificial aplicada a todos los sistemas que pugnan por nuestro tiempo?

Y en la práctica: ¿para qué usamos la IA?

Según las estimaciones más recientes, frente a las 14.000 millones de búsquedas diarias en Google, las IA están recibiendo casi 5.000 millones de prompts, de los cuales la mitad se los lleva ChatGPT y la otra mitad se reparte entre Gemini, Claude, DeepSeek y todas las demás. Este dato ya nos muestra el crecimiento de la IA y su influencia, pero más revelador es el dato sobre QUÉ es lo que hacemos con ella. Según un reporte de OpenAI (ChatGPT) solo 1 de cada 4 utiliza la IA a nivel laboral, mientras 3 de 4 usos tienen que ver con la vida de las personas, y esencialmente las tres funciones principales son el uso como guía (qué debería hacer si…?), las instrucciones para hacer (cómo debería hacer…?) y el escribir (cómo dirías/escribirías…?) Estamos entonces delegando en la IA un conjunto de decisiones que atañen mucho más a nuestra vida “no laboral” que al aumento de la productividad laboral. ¿Estamos dejando (o haciendo) que la IA guíe nuestras decisiones de vida?

Al César lo que es del César…

No parecía importar lo que sucedía con las Redes Sociales, y hoy ya son varios países los que están restringiendo su uso hasta, al menos, bien entrada la adolescencia. No parece la IA una amenaza, pues se ha promovido su posicionamiento como una herramienta destinada al bien común mediante el aumento de la productividad en todos los campos y todos los estratos, dependiendo de “su buen uso” el éxito en el cumplimiento de este encomiable propósito.

Sin embargo, la realidad nos está mostrando otra cosa, y esto ha movilizado a un líder espiritual a inmiscuirse enviando una Carta Encíclica, una “carta documento” que pretende, a mi entender, iluminar y guiar, o al menos estimular la reflexión.

Para el final, me serviré de una frase que no es del Papa León XIV, pero que representa muy bien la instrucción que Magnifica Humanitas está dando al mundo, y especialmente a todos quienes detenten alguna posición de poder, cuya influencia pueda “desarmar la IA”:“El desafío no consiste en modo alguno en corregir los sesgos que orientan estos sistemas, sino en elevar nuestra vigilancia en varios niveles para oponernos al hecho de que sea la figura humana misma la que queda sesgada.” (Éric Sadin, filósofo francés).