La primera encíclica del papa León XIV hizo eco en el mundo tech: “Las innovaciones tecnológicas, incluida la inteligencia artificial, no son neutrales; pueden aumentar la participación y la justicia, o ampliar las desigualdades, el control y la exclusión”. En consecuencia, el máximo líder de la Iglesia católica exhortó a establecer una regulación internacional más estricta que garantice que el control de la IA no quede concentrado en unas cuantas manos.
“Quien controla la IA impondrá su propia visión moral, que se convertirá en la infraestructura invisible de los sistemas. No serviría de nada una IA más moral si esta moral es decidida por unos pocos. Se necesita una política más presente, capaz de ralentizar donde todo acelera y de proteger los espacios en los que las comunidades pueden seguir participando e interrogándose”, sentenció el primer papa estadounidense en el documento titulado “Magnifica Humanitas” (“Humanidad magnífica”).
El texto sostiene que la IA y las tecnologías digitales están transformando de manera inédita la vida cotidiana, la democracia y el entorno laboral. Reconoce que, aunque estos avances pueden mejorar las condiciones de vida y optimizar la productividad, también tienen el potencial de ampliar las desigualdades sociales, debilitar derechos y favorecer nuevas formas de explotación.
El pontífice considera que la humanidad enfrenta una decisión histórica: utilizar la tecnología para construir una sociedad más justa o permitir que desarrollos como la IA se conviertan en una nueva “Torre de Babel”, marcada por la desigualdad, la manipulación y la pérdida de la dignidad humana frente al avance tecnológico.
“El uso de la IA nunca es un hecho puramente técnico, cuando entra en procesos que inciden en la vida de las personas, afecta sus derechos, oportunidades, reputación y libertad. Las decisiones delicadas que repercuten en el trabajo, el acceso a créditos y a otros servicios, y la reputación de las personas, corren el riesgo de ser confiadas completamente a sistemas automatizados que no conocen ‘la compasión, la misericordia, el perdón y, sobre todo, la apertura a la esperanza de cambio en el individuo’, pudiendo así producir nuevas formas de descarte”, precisa la encíclica.
León XIV advierte que el uso poco ético de la IA tiene un impacto profundo en la construcción de la democracia, al ser utilizada con frecuencia para crear narrativas sesgadas y “difuminar los límites entre lo verdadero y lo falso” en la comunicación pública y política. El papa aclara que “la desinformación no surge con la IA, pero encuentra hoy en ella un potente multiplicador. La posibilidad de manipular contenidos, imágenes y videos expone a los ciudadanos a perspectivas parciales o engañosas. El problema afecta a la dimensión cultural y moral, ya que la calidad de la comunicación pública depende directamente de la confianza social y repercute en ella”.
En la misma línea, el pontífice alerta que, si bien la automatización en el mercado laboral puede maximizar las ganancias y la productividad, también representa una amenaza capaz de perjudicar la dignidad de los trabajadores y generar exclusión social masiva.
“Desarmar no significa renunciar a la tecnología, sino impedirle el dominio sobre lo humano”.
“El mercado laboral es uno de los ámbitos en los que los riesgos de las nuevas tecnologías se manifiestan con mayor claridad. Por eso es necesario recordar que la libertad económica no es absoluta y debe medirse siempre en función del bien común y de la dignidad de cada persona”, advierte el documento.
Finalmente, la encíclica denuncia que el uso de nuevas tecnologías en el ámbito militar está provocando una transformación de los conflictos armados al incorporar ataques cibernéticos, manipulación informativa y automatización de decisiones estratégicas, elementos que dificultan las tareas de resolución y convierten la guerra en “un verdadero modo de vivir”.
El papa afirma que es necesario “desarmar” la IA. Esto, según el pontífice, “significa sustraerla de la lógica de la competencia armamentística, que hoy ya no es solo militar sino económica y cognitiva. Es la carrera por el algoritmo más eficaz y por el banco de datos más amplio, para consolidar una ventaja geopolítica o comercial sobre todos los demás. Desarmar quiere decir romper esta equivalencia entre poder tecnológico y derecho a gobernar. Desarmar no significa renunciar a la tecnología, sino impedirle el dominio sobre lo humano”.
“La voz de la Iglesia es más necesaria” ante el avance de la IA: Anthropic
León XIV se convirtió además en el primer pontífice en presentar personalmente una carta encíclica al mundo desde el Vaticano. Durante el evento estuvo acompañado por diversos oradores, entre ellos Christopher Olah, cofundador de Anthropic.
Durante su participación, el empresario afirmó que el llamado del papa al discernimiento resulta especialmente oportuno en un contexto en el que el desarrollo de los modelos de IA avanza en medio de una creciente incertidumbre técnica y ética.
Olah reconoció que “cada laboratorio de IA de vanguardia, incluido Anthropic, opera dentro de un conjunto de incentivos y limitaciones que a veces pueden entrar en conflicto con la ética. La presión por mantener la viabilidad comercial y la vanguardia de la investigación. La presión geopolítica. Y las presiones más antiguas y sencillas del orgullo y la ambición. Por muy sinceramente que cada uno de nosotros pretenda hacer lo correcto, siempre nos veremos influenciados por esos incentivos”.
El empresario sostuvo que, ante este escenario, el debate alrededor de la IA no puede limitarse a sectores especializados como desarrolladores, investigadores o científicos informáticos. A su juicio, es indispensable que comunidades religiosas, organizaciones civiles, académicos, gobiernos y “todas las personas de buena voluntad” respondan al llamado de León XIV para dar seguimiento activo al avance tecnológico y garantizar que beneficie a la humanidad.
“Necesitamos críticos informados que les digan a los laboratorios cuándo estamos fallando. Necesitamos voces morales que no se dejen doblegar por los incentivos”, aseguró el ejecutivo de Anthropic, al mismo tiempo que planteó tres escenarios en los que “la voz de la Iglesia es más necesaria”.
De acuerdo con Olah, “existe una posibilidad real de que la IA desplace la mano de obra humana a gran escala. Si eso sucede, apoyar a los desplazados será un imperativo moral de proporciones históricas”. Subrayó que, en la actualidad, el desarrollo de esta tecnología se concentra en las naciones ricas y no existen mecanismos para grantizar que los beneficios se compartan equitativamente. “Es un problema sin resolver, y es el tipo de problema que la Iglesia históricamente se ha negado a que el mundo ignore”, declaró.
El cofundador de Anthropic también destacó que es necesario reafirmar los valores morales ante la generalización de la IA y reflexionar a detalle sobre la naturaleza de los modelos de inteligencia artificial. Señaló que la tradición católica ha planteado estos predicamentos desde la óptica filosófica durante milenios y que, en un momento como el actual, es necesario mantener y reforzar este dicurso para garantizar un desarrollo tecnológico beneficioso.
Desde su nombramiento como papa, León XIV ha mostrado su intención de actuar como un contrapeso frente a los rápidos avances tecnológicos y científicos. El pontífice incluso explicó que la elección de su nombre papal estuvo influida por esa convicción.
“Hay varias razones, pero la principal es porque el papa León XIII, con la histórica encíclica Rerum novarum, afrontó la cuestión social en el contexto de la primera gran revolución industrial y hoy la Iglesia ofrece a todos el tesoro de su doctrina social en respuesta a otra revolución industrial y a los desarrollos de la inteligencia artificial, los cuales plantean nuevos desafíos en la defensa de la dignidad humana, de la justicia y del trabajo”, afirmó hace un año el hombre anteriormente conocido como Robert Prevost. (W).