Un vídeo sobre el papel de la mujer logró casi diez millones de visualizaciones Sermones fake: Decenas de canales de YouTube y TikTok difunden homilías falsas de León XIV
En una investigación, la Agencia France Presse identificó decenas de canales de YouTube y TikTok que difundían sermones falsos bajo el nombre del nuevo Papa. Como consecuencia, YouTube eliminó 16 canales por prácticas engañosas y fraude. TikTok también eliminó once cuentas con un total de más de 1,3 millones de suscriptores
No son realmente una novedad estas deep fakes sobre los papas, ya Francisco fue objeto de esas falsificaciones. La novedad ahora estriba en su proliferación, dificultad para detectar el engaño y el impacto que alcanzan algunos de esos vídeos
Es León XIV. Suena en inglés, italiano o español como León XIV. Pero no es León XIV. Es una deep fake, es decir, un vídeo generado con sofisticados sistemas de Inteligencia Artificial (IA) que los hacen en la práctica difícilmente detectables como falsos y que suponen un nuevo peligro para muchos católicos que los siguen como si fueran verdaderas intervenciones del papa Robert Prevost.
En el Vaticano hay preocupación ante este nuevo desafío y ya han advertido de que, para verificar la autenticidad del vídeo, habrá de cotejarse con los que se cuelgan en su web vatican.va o en su portal informativo vaticannews.va
No son realmente una novedad estas deep fakes sobre los papas, ya Francisco fue objeto de esas falsificaciones. La novedad ahora estriba en su proliferación, dificultad para detectar el engaño y el impacto que alcanzan algunos de esos vídeos.
Por ejemplo, en un vídeo en español en TikTok generado por IA donde el papa Prevost predica sobre el papel de la mujer sumó 9,6 millones de visualizaciones, una cifra muy alta si se compara, por ejemplo, con la cuenta oficial de León XIV Instagram, donde ningún vídeo supera los seis millones de visualizaciones.
Obligación de la etiqueta IA
Cuando apenas llevaba dos semanas Prevost instalado en la silla de Pedro, los vídeos con presuntos discursos y sermones del nuevo Papa inundaban Internet, confundiendo a numerosos fieles, que son incapaces de discriminar -tal es el grado de verosimilitud alcanzado en las falsificaciones- su autenticidad, a pesar de que existe la obligación de etiquetar los contenidos generados por IA.
En una investigación, la Agencia France Presse identificó decenas de canales de YouTube y TikTok que difundían sermones falsos bajo el nombre del nuevo Papa. Como consecuencia, YouTube eliminó 16 canales por prácticas engañosas y fraude. TikTok también eliminó once cuentas con un total de más de 1,3 millones de suscriptores.
El 21 de mayo, la plataforma de vídeos clausuró también el canal "Papa León XIV. Sermones", el que más éxito estaba teniendo. Sus 26 vídeos con homilías falsas que imitaban la voz del Papa habían tenido casi un millón de visualizaciones y 18.000 suscriptores antes de su eliminación.
Cada vídeo se generó mediante inteligencia artificial. El más popular de esos vídeos, bajo el encabezamiento de "El llamado urgente del Papa a despertar a todos los verdaderos cristianos: Discurso del Papa León XIV", logró 330.000 visualizaciones.
