Vivimos en una época en la que ver ya no garantiza creer. Videos imposibles de distinguir de la realidad, voces clonadas con segundos de audio y contenidos sintéticos capaces de viralizarse antes de cualquier verificación están provocando una fractura silenciosa en la confianza humana.
El Vaticano lo ha entendido antes que muchas instituciones políticas y tecnológicas: la inteligencia artificial no sólo amenaza empleos o mercados, también puede destruir la capacidad misma de distinguir la verdad. Por eso la futura encíclica Magnifica Humanitas del papa León XIV pone en el centro una preocupación inédita: cómo proteger la dignidad humana en una civilización donde incluso la realidad puede ser fabricada por algoritmos.
Más artículos del autor
Durante décadas, la humanidad vivió bajo una premisa relativamente estable: si existía una fotografía, un video, un testimonio o una grabación, todavía era posible reconstruir la verdad. La duda existía, pero también existían mecanismos de verificación. Eso está cambiando.
La aparición de modelos de inteligencia artificial capaces de generar videos hiperrealistas, voces clonadas, fotografías sintéticas y conversaciones falsas está destruyendo uno de los pilares invisibles de toda sociedad: la confianza compartida sobre la realidad.
Por eso el Vaticano ha colocado este tema en el centro de la próxima encíclica Magnifica Humanitas.
El nacimiento de una nueva crisis: el Colapso de la Verificación
El fenómeno puede definirse de manera contundente: llega un momento en que ya no es posible distinguir con certeza qué es real y qué no utilizando mecanismos tradicionales de comprobación.
La crisis surge de la combinación de tres variables explosivas:
El problema no es sólo que exista contenido falso. El problema es que la inteligencia artificial puede producir cantidades industriales de contenido sintético indistinguible de la realidad y distribuirlo globalmente antes de que alguien pueda verificarlo.
Herramientas como Open AI Sora, Google Veo y sistemas avanzados de clonación de voz están acelerando una transformación radical del ecosistema informativo. La UNESCO advirtió ya en su Recommendation on the Ethics of Artificial Intelligence que los sistemas de IA pueden amplificar “desinformación, manipulación y daños sociales” si no existen salvaguardas éticas robustas (UNESCO, 2021).
La muerte de la cadena de confianza
Durante décadas existió una arquitectura básica de confianza social: Testigo → Periodista → Editor → Público.
Esa cadena permitía rastrear el origen de la información. Si existía duda, todavía era posible acudir a una fuente primaria. Pero la IA rompe completamente ese modelo porque ahora el origen mismo puede ser sintético. Un video del Papa, un discurso presidencial, una videollamada familiar o una prueba judicial pueden ser generados artificialmente sin que jamás haya existido un evento real detrás.
La consecuencia es brutal: Ya no sólo dudamos de la información. Ahora comenzamos a dudar de la propia realidad. El documento Antiqua et Nova advierte precisamente sobre esta ruptura antropológica cuando afirma: “La IA puede realizar tareas sofisticadas, pero no la capacidad de pensar” (Dicasterio para la Doctrina de la Fe & Dicasterio para la Cultura y la Educación, 2025, n. 35).
La frase parece filosófica, pero tiene consecuencias políticas enormes. Si las máquinas pueden simular perfectamente lenguaje, emociones y presencia humana, la sociedad comienza a perder sus referencias básicas de autenticidad.
El Vaticano y la batalla por la verdad
No es casualidad que el Vaticano haya convertido este tema en uno de los ejes centrales de Magnifica Humanitas.
El papa León XIV ha comenzado a delinear públicamente su preocupación sobre el impacto cultural de la inteligencia artificial.
En mayo de 2025 declaró: “Hoy, la Iglesia ofrece a todos su herencia de doctrina social para responder a otra revolución industrial y a los avances de la inteligencia artificial, que plantean nuevos retos para la defensa de la dignidad humana, la justicia y el trabajo” (León XIV, 2025).
La afirmación conecta directamente con la tradición filosófica y teológica cristiana. La verdad no aparece únicamente como un problema informativo, sino como condición esencial de la libertad humana.
La declaración doctrinal Dignitas Infinita sostiene que: “La dignidad de todo ser humano posee un carácter intrínseco y permanece válida más allá de cualquier circunstancia” (Dicasterio para la Doctrina de la Fe, 2024, n. 1).
Si la capacidad de verificar la realidad desaparece, también se debilita la posibilidad de ejercer libertad racional y responsabilidad moral. La IA deja entonces de ser solamente un desafío técnico. Se convierte en un problema civilizatorio.
“Ver para creer” ya no funciona
Durante siglos, la evidencia audiovisual funcionó como una forma de prueba social. Hoy eso se está derrumbando. La velocidad de propagación de contenido falso supera sistemáticamente a la verificación humana.
Investigadores del Massachusetts Institute of Technology demostraron que las noticias falsas se difunden “más lejos, más rápido y más ampliamente que la verdad” en redes sociales (Vosoughi, Roy, & Aral, 2018).
La lógica algorítmica favorece contenidos emocionalmente impactantes, aunque sean falsos. Por eso los deepfakes representan algo más peligroso que la simple desinformación. Representan el colapso de la evidencia.
Deepfakes y el colapso de la evidencia
Los escenarios que hace apenas cinco años parecían ciencia ficción hoy comienzan a convertirse en riesgos plausibles:
- despidos basados en videos sintéticos;
- fraudes financieros mediante videollamadas falsas;
- manipulación electoral mediante discursos fabricados;
- pruebas judiciales imposibles de autenticar;
- mensajes religiosos falsificados.
La consecuencia jurídica es devastadora. Durante siglos, la fotografía y el video fueron considerados pruebas sólidas. Ahora incluso los peritos enfrentan crecientes dificultades para certificar si un contenido es auténtico o generado por IA.
El problema es estructural: la mentira se volvió extremadamente barata. La verdad, en cambio, es cada vez más costosa y lenta de verificar.
La nueva guerra algorítmica
Uno de los aspectos más inquietantes del debate es el impacto geopolítico. La inteligencia artificial no sólo puede alterar elecciones o manipular mercados. También puede desencadenar conflictos internacionales.
La Organización de las Naciones Unidas ha advertido que los sistemas autónomos de IA plantean riesgos inéditos para estabilidad global, derechos humanos y seguridad internacional. En esa misma línea, el Secretario de Estado del Vaticano, Pietro Parolin, pidió en 2024 un tratado internacional vinculante sobre IA y criticó las armas autónomas capaces de decidir objetivos militares sin supervisión humana.
La preocupación ya no es sólo tecnológica. Es geopolítica. La posibilidad de videos falsos sobre ataques militares, declaraciones diplomáticas o eventos bélicos podría alterar decisiones estratégicas antes de que exista tiempo para verificar los hechos.
Christopher Olah y la “IA verificable”
Uno de los datos más relevantes en torno a Magnifica Humanitas es la participación de Christopher Olah, cofundador de Anthropic y uno de los mayores especialistas mundiales en interpretabilidad algorítmica.
Anthropic ha desarrollado modelos basados en “Constitutional AI”, un enfoque que busca que los sistemas expliquen cómo llegan a sus conclusiones y mantengan principios éticos verificables. La presencia de Olah en la presentación de la encíclica revela un mensaje importante: El Vaticano no busca únicamente limitar la IA. Busca promover una IA explicable, verificable y compatible con la dignidad humana.
En Antiqua et Nova, el Vaticano insiste: “Al ser humano le corresponde siempre la decisión” (Dicasterio para la Doctrina de la Fe & Dicasterio para la Cultura y la Educación, 2025, n. 79).
La frase sintetiza el núcleo del debate contemporáneo: ¿Seguirá el ser humano controlando las decisiones fundamentales o terminará subordinado a sistemas algorítmicos opacos?
El nuevo derecho humano: acceso a la realidad
Quizá la transformación más profunda del siglo XXI sea ésta: Pasamos de un mundo donde “ver era creer” a otro donde incluso viendo ya no podemos estar seguros de nada. La crisis de la verificación amenaza no sólo a medios de comunicación o gobiernos.
Amenaza:
- La democracia
- La justicia
- La confianza social
- La vida religiosa
- La economía
- La propia percepción humana de la verdad
Por eso Magnifica Humanitas parece encaminada a defender algo que hasta hace poco parecía obvio: El derecho humano a una realidad verificable. Y quizá esa termine siendo una de las discusiones más decisivas de toda nuestra época.
Les invito a ver el video de “Laicos en la Vida Pública” sobre este tema:
Referencias
Dicasterio para la Doctrina de la Fe & Dicasterio para la Cultura y la Educación. (2025). Antiqua et Nova: Nota sobre la relación entre inteligencia artificial e inteligencia humana. Libreria Editrice Vaticana.
Antiqua et nova - Nota sobre la relación entre la inteligencia artificial y la inteligencia humana(28 de enero de 2025)
Dicasterio para la Doctrina de la Fe. (2024). Dignitas Infinita. Libreria Editrice Vaticana.
Declaración Dignitas infinita sobre la dignidad humana (2 de abril de 2024)
León XIV. (2025, mayo 10). Discurso del Santo Padre León XIV al Colegio Cardenalicio. Libreria Editrice Vaticana.
Discurso del Santo Padre al Colegio Cardenalicio (10 de mayo de 2025)
Pontificia Academia para la Vida. (2020). Rome Call for AI Ethics. Rome Call | ¿Qué pasa con la ética de la IA?
United Nations Educational, Scientific and Cultural Organization (UNESCO). (2021). Recommendation on the Ethics of Artificial Intelligence. UNESCO Publishing.
Recomendación sobre la ética de la inteligencia artificial - UNESCO Digital Library
Vosoughi, S., Roy, D., & Aral, S. (2018). The spread of true and false news online. Science, 359(6380), 1146–1151.
Science – The spread of true and false news online