Reflexiones a partir de la encíclica Magnifica Humanitas

Una carta a todo el pueblo de Dios y a todas las personas de buena voluntad, que merece ser leída, reflexionada y a la que nos tenemos que animar mutuamente a ir dando respuesta desde cada una de nuestras realidades.

A menos de un mes de su publicación, y confiando en que nos iremos complementando con quienes compartimos este panel, les propongo seis consideraciones generales, como aportes y pinceladas de reflexión.

1. El fundamento de la dignidad humana

Como todos pudimos advertir, el hilo conductor de la encíclica no es la IA, sino el fundamento de la grandeza del ser humano y de la “magnífica humanidad”: la dignidad intrínseca de la persona humana como criterio para orientar el progreso tecnológico.

Las personas somos únicas e irrepetibles, singulares, exclusivas, creadas por Dios a su imagen y semejanza, y nos merecemos de todos el respeto a nuestra dignidad.

“La dignidad de cada persona no depende de las capacidades que posee, de las riquezas o del rol que desempeña, ni de las decisiones justas o equivocadas que toma, sino que es un don que la precede y la excede.” MH 50

La palabra “dignidad”, en su etimología, significa “valor”. Aunque muchas veces las circunstancias sean indignas —a causa de la violencia, las esclavitudes, la manipulación, la pobreza, el descarte o la discriminación—, ninguna persona pierde su valor, su dignidad.

Sin esta referencia, el progreso corre el riesgo de reducir a la persona a una mera función, dato o rendimiento. La tecnología está llamada a servir y no a sustituir a la persona.

2. La opción civilizatoria

El papa León XIV plantea desde el comienzo una opción “civilizatoria”, que repite también a lo largo del documento, con las imágenes bíblicas de la torre de Babel —donde cada cual “atiende su juego”, basada en el poder, en el orgullo y en el “sálvese quien pueda”— y de la reconstrucción de Jerusalén, la Ciudad Santa, donde todos son necesarios, todos cuentan, son cuidados y se construye pieza por pieza, con paciencia.

Ofrece así la clave de discernimiento de todo el documento: la alternativa no es entre aceptar o rechazar la tecnología, ni entre la fascinación tecnológica —que muchas veces es enemiga de la reflexión— o la tecnofobia, sino entre un uso que desintegra y otro que custodia lo humano.

La pregunta entonces es: ¿hacia dónde vamos? ¿Qué dirección elegir como comunidad humana, como pueblo?

“En este sentido, la verdadera alternativa no está entre el entusiasmo y el miedo, sino entre dos modos de construir: un progreso que sirve a la persona y a los pueblos, o un progreso que los doblega a lógicas de poder.” MH 129

“El progreso se mide por respetar la dignidad de cada uno y por el bien de los pueblos.” MH 12

Entonces, la invitación concreta es a “edificar el bien”. MH 14

3. Los signos de los tiempos

La encíclica es una respuesta concreta a los signos de los tiempos, dando primacía real a la realidad tal cual es, reconociendo un profundo “cambio de época”, marcado por la irrupción de la inteligencia artificial y por el paradigma tecnocrático, en continuidad con lo expresado por el papa Francisco en Evangelii Gaudium, Laudato Si’ y Fratelli Tutti.

Ofrece a todos un discernimiento desde el magisterio de la Iglesia como mirada sistémica, espiritual y pastoral. Nos invita a escuchar, dialogar, discernir e interpretar nuestro tiempo a la luz del Evangelio, para ofrecer y testimoniar la verdad revelada en un lenguaje contemporáneo.

4. El desarrollo humano integral

La encíclica propone cinco principios de la Doctrina Social de la Iglesia, presentándolos como enseñanzas dinámicas, no monolíticas, sino como una “sabiduría viva”, como un “corpus vivo de verdades” MH 3, imprescindible para orientar a la humanidad en la era de la inteligencia artificial y de las grandes transformaciones tecnológicas.

Bien común

El bien común es un valor no negociable. Es el conjunto de condiciones que permiten a cada uno alcanzar su propia perfección. En la era digital, esto incluye el derecho de acceso a las tecnologías y la protección de los datos personales.

“Hablar de bien común significa desenmascarar esta nueva asimetría epistémica, económica y política, nombrando los nuevos monopolios de la IA.” MH 109

Destino universal de los bienes

Los bienes de la Tierra, incluidos los digitales y la innovación, pertenecen a todos. El beneficio económico no puede ser el único criterio; la innovación debe reducir las desigualdades, no aumentarlas.

“Hablar de destino universal de los bienes significa encontrar modos de asegurar el acceso universal a las tecnologías y a la formación.” MH 109

Subsidiariedad

La subsidiariedad salvaguarda la libertad de los individuos y de los grupos intermedios frente a la injerencia de los poderes fuertes, sean estatales o privados.

“Hablar de subsidiariedad exige proteger la capacidad de las comunidades de decidir y corregir, sin relegar su intervención a una vigilancia posterior, una vez que los estándares hayan sido establecidos en otro sitio.” MH 109

Solidaridad

El destino de cada persona está ligado al destino de todos: nadie se salva solo.

“La solidaridad requiere que las decisiones en materia de datos, algoritmos, plataformas e IA tengan en cuenta no sólo el beneficio inmediato de algunos, sino el impacto en todos los pueblos y en las generaciones futuras.” MH 76

“Hablar de solidaridad obliga a reconocer el trabajo invisible, a menudo explotado, que alimenta los modelos algorítmicos.” MH 109

Justicia social

La justicia social no solo se refiere a una distribución más equitativa de los bienes, sino también a la participación activa y a la transparencia en los procesos de toma de decisiones, incluidos aquellos guiados por algoritmos.

La justicia social se reconoce por la capacidad de un orden social, económico y político que permita a todos —y en particular a los más frágiles— vivir de manera realmente humana, sin que ninguno se quede atrás.

“Hablar de justicia pide cuestionar las geografías del poder que definen quién puede programar los modelos y quién es sólo objeto de esa programación, y reconocer que la justicia social no es sólo un objetivo que hay que tutelar después de la adopción de las tecnologías, sino una condición que se debe poner en práctica desde su diseño.” MH 109

Estos principios, considerados en su conjunto, conforman una ética social capaz de humanizar la modernidad y promover el desarrollo humano integral de cada persona, sin excluir a nadie, y de las comunidades.

“El desarrollo, tanto para las personas como para las naciones, es una tarea y al mismo tiempo un derecho; requiere condiciones mínimas que hagan posible a cada persona y a cada pueblo madurar según la propia dignidad, sin ser mantenidos en dependencia o excluidos del acceso a los bienes necesarios. El desarrollo es humano cuando pone en el centro a las personas y no la acumulación de bienes, y cuando se refiere también a los pueblos, no sólo a los individuos. La justicia exige el reconocimiento de los derechos sociales y de los derechos de los pueblos, e incluye la responsabilidad hacia los que vendrán después de nosotros. Por eso no es humano un desarrollo que aumenta el consumo de algunos a expensas de costos y heridas en otros, o que relega regiones enteras a roles subordinados impidiéndoles expresar sus propias potencialidades. El desarrollo es integral cuando no se reduce al ámbito económico, sino que promueve la calidad de vida en sus dimensiones espirituales, culturales, morales y relacionales, en el respeto a la Casa común, a la diversidad de los pueblos y a sus modos de vivir.” MH 83

5. Ámbitos priorizados

Un núcleo importante de Magnifica Humanitas es cuando plantea la relación entre tecnología, poder y persona humana. Aunque el papa León reconoce el valor del desarrollo tecnológico como manifestación de la creatividad humana y todos sus beneficios en los distintos campos, advierte del riesgo de que este se erija en criterio absoluto de juicio.

Las inteligencias artificiales, al carecer de experiencias, valores y sentimientos, no pueden ni deben asumir jamás una función de responsabilidad y supremacía sobre la inteligencia humana.

El documento pone la atención en tres ámbitos:

• La verdad: en una era en la que todo es susceptible de manipulación, es preciso custodiar una educación crítica que nos permita distinguir lo verdadero de lo falso.
• El trabajo: cuando la eficiencia se convierte en el criterio dominante, el trabajo corre el riesgo de perder su valor humano y relacional.
• La libertad: amenazada por las adicciones digitales y la recopilación masiva de datos; su defensa exige una regulación justa, responsabilidad compartida y educación.

“El trabajo no es un simple instrumento, sino que expresa y acrecienta la dignidad de nuestra vida. Es una necesidad inherente a la condición humana, un camino habitual hacia la madurez, el desarrollo y la realización personal.” MH 149

6. Asume la complejidad

Lejos de la autorreferencialidad y de la ideología, el Papa analiza críticamente la realidad presentando una alternativa concreta a la cultura del poder como dominación y de la guerra: la civilización del amor fundada en la justicia, el diálogo, la responsabilidad compartida y la paz.

También denuncia que, “en nombre del progreso se puede llegar a pensar en sacrificios necesarios”, haciendo pagar a los más vulnerables el precio de una presunta optimización de la especie. MH 117

Al citar al transhumanismo y el posthumanismo, advierte sobre aquellas corrientes que suponen “la centralidad de la técnica y el sueño de superar los límites de la condición humana”. MH 116

Como buen líder, asume la complejidad sin miedo a la incertidumbre, ya que junto con definiciones claras se hace preguntas y nos invita a trabajar juntos y a hacerlo de inmediato.

“Creo que la encíclica es muy valiente, muy valiente. Parte de que la inteligencia artificial no es solamente una tecnología, sino una infraestructura de poder. No deja de abordar ninguno de los temas fundamentales, el impacto en el modelo económico, los medios de trabajo, la relación del hombre con las máquinas, la dignidad humana, el impacto de la verdad y, por tanto, de los medios de comunicación y la libertad.”
Carme Artigas

Sobre la inteligencia artificial

La inteligencia artificial es considerada la principal tecnología emergente de crecimiento exponencial, con un impacto profundo en las organizaciones y en el trabajo cotidiano de la sociedad.

Lejos de ser un concepto abstracto, la IA ya es una realidad presente; cada día parece que estamos en un nuevo punto de partida. Es una creación del talento humano, no un fenómeno mágico o una fatalidad del destino.

“La tecnología puede curar, conectar, educar, cuidar la Casa común; pero también puede dividir, descartar, generar nuevas injusticias. En abstracto, esta, en sí misma, no es una solución a los problemas de la humanidad, como tampoco es un mal en sí; pero, concretamente, no es neutral, porque toma el rostro de quien la concibe, la financia, la regula, la utiliza.” MH 9

La clave está de nuestro lado, en el corazón humano, en las decisiones de los líderes, en el actuar de las organizaciones, empresas y Estados, y en trabajar para que el desarrollo sea verdaderamente humano e integral.

Está en cómo recuperar nuestro poder de crítica y autonomía relativa sobre los sistemas de IA, dando sentido a la tecnología —en un uso responsable y austero— y al mismo tiempo potenciando nuestra inteligencia humana con todas sus características: múltiples, colectiva, emocional y espiritual.

Esta herramienta puede ser maravillosa si la sumamos inteligente y responsablemente.

“Las inteligencias artificiales no viven una experiencia, no poseen un cuerpo, no pasan por la alegría y el dolor, no maduran en las relaciones ni conocen desde dentro lo que significan el amor, el trabajo, la amistad y la responsabilidad.” MH 99

Esto impacta en nuestras búsquedas para asumir la realidad tal cual es, con posibilidades y limitaciones, y para poder dar una respuesta nítida como líderes, orientada al desarrollo integral y al bien común.

La tecnología avanza muy rápido, exponencialmente, y los gobiernos suelen ir más despacio, linealmente, al igual que el conjunto de la sociedad, como si fuéramos “a remolque” de la tecnología.

Hay que equipar la conciencia ética y la regulación adecuada antes de que sea más tarde, en todas las etapas del ciclo de vida de los modelos de IA, desde el diseño hasta el mantenimiento.

“Es esencial que las responsabilidades estén claras en todas las etapas: desde quienes diseñan y programan los sistemas hasta quienes los utilizan y quienes resuelven confiarles las decisiones concretas.” MH 105

Tendemos a creer que “todo incremento del poder constituye sin más, un progreso, un aumento de seguridad, de utilidad, de bienestar, de energía vital, de plenitud de los valores”, como expresa Romano Guardini, pero “más poderoso no significa necesariamente mejor”. MH 93

Desarmar la inteligencia artificial

Finalizo con el llamado del Santo Padre que desde el comienzo de su pontificado nos interpela a buscar una paz desarmada y desarmante:

“Quisiera, por último, usar una palabra muy importante para mí: ‘desarmar’. Desarmar la IA significa sustraerla a la lógica de la competencia armamentística, que hoy ya no es sólo militar sino económica y cognitiva. Es la carrera por el algoritmo más eficaz y por el banco de datos más amplio, para consolidar una ventaja geopolítica o comercial sobre todos los demás.

Desarmar quiere decir romper esta equivalencia entre poder tecnológico y derecho a gobernar. Desarmar no significa renunciar a la tecnología, sino impedirle el dominio sobre lo humano. Significa sustraerla a los monopolios, hacerla discutible, refutable, y por tanto habitable, restableciendo en ella la pluralidad de las culturas humanas y de las formas de vida.

La tarea, hoy, no es sólo ética o técnica; es ecológica en el sentido más radical, porque interpela una nueva dimensión de nuestra Casa común. La IA es ya un ambiente en el que estamos inmersos y un poder que debemos afrontar. Por eso, no basta regularla; es necesario desarmarla y hacerla acogedora.”
MH 110