El Dilema de los Deepfakes y la Fe en la Era de la IA
Una cuenta de Instagram publica cada día un video corto. En él, el Papa León XIV, con una voz serena y un fondo impecable, te guía en una oración. Miles de personas le dan "like", comentan "amén" y comparten el mensaje.
El único problema es que nada de eso es real. Ni la imagen ni la voz son del Papa; es un deepfake, una creación de inteligencia artificial.
Este fenómeno, analizado en el quinto episodio de "Descifrando a León", nos sitúa en el corazón de un nuevo dilema para los creyentes: ¿el fin justifica los medios? Si un video falso ayuda a una persona a rezar, ¿es algo bueno?
A primera vista, la iniciativa parece inofensiva. Los mensajes son positivos, teológicamente sencillos y estéticamente cuidados. Como admitió el vaticanista Javier Martínez-Brocal, esto responde a "la necesidad que tiene la gente de escuchar al Papa". Es una forma moderna de acercar la figura del pontífice a los fieles en su día a día digital.
Sin embargo, la cuestión de fondo es mucho más compleja. Inés San Martín es tajante al calificarlo de "inmoral". Y añade que también "sería confundir a la gente con mensajes que también pueden ser teóricamente correctos, pero son bastante light". Se corre el riesgo de "reducir la fe al mínimo denominador posible", acostumbrando a los fieles a un catolicismo superficial en lugar de llevarlos a profundizar en las fuentes reales: el magisterio, la Escritura, los sacramentos.
El mayor peligro, como coincidieron los expertos, es el precedente que se sienta. Es una "usurpación" de la identidad papal. "Igual que están diciendo pues estas cosas que nos hacen sonreír (...) pues podría decir tonterías y tonterías peligrosas", advirtió Martínez-Brocal. Si aceptamos como normal un deepfake benigno, ¿cómo reaccionaremos cuando aparezca uno malicioso que ponga en boca del Papa herejías o directrices falsas?
La conclusión, comparte José Manuel De Urquidi, es un llamado a la madurez y a la formación. En una era de falsificaciones sofisticadas, el creyente está llamado a ser más crítico que nunca, a verificar las fuentes y a no conformarse con sucedáneos. Como sentenció Javier, "la verdad cuenta, no basta que texto sea bonito o sea piadoso, sino que si es del Papa es del Papa y si no es del Papa no es del Papa, aunque sea precioso".
Rezar es bueno. Hacerlo engañados, aunque sea con buena intención, nunca podrá ser el camino.