Il Papa non l’ha mai detto: sui social sono comparsi i sermoni deepfake di Leone XIV

Tutto è inziato ad aprile 2023, quando su X è comparsa un'immagine di Papa Francesco con un piumino bianco di Moncler. Sin da subito i potefici sono diventati materiale per l'intelligenza artificiale generativa. E dopo la lunga serie di foto di Bergoglio in discoteca, con catene d'oro o su macchine di lusso, arrivano i video deepfake di Papa Leone XVI. 

Secondo un'indagine condotta da Agence France Press decide di canali su YouTube e account TikTok hanno pubblicato video manipolati del Papa senza segnalare l'origine artificiale dei filmati. "C'è un interesse naturale per ciò che il nuovo papa ha da dire, e la gente non conosce ancora la sua posizione e il suo stile", ha spiegato Oren Etzioni, professore  dell'Università di Washington e fondatore di TrueMedia.org, un'organizzazione senza scopo di lucro focalizzata sulla lotta contro i deepfake. "Un'opportunità perfetta per seminare malizia con disinformazione generata dall'intelligenza artificiale".

Non stupisce. Come abbiamo raccontato su Fanpage.it, appena è stato annunciato Papa Leone XIV in piazza San Pietro, sui social sono comparsi decine di account con il suo nome sui social, soprattutto X e Instagram. Sono profili finti, creati per accumulare in fretta nuovi follower o portare avanti truffe online. 

Che fine hanno fatto i video?

Dopo la segnalazione dell'AFP, YouTube ha chiuso 16 canali che pubblicavano contenuti sul Papa generati dall’intelligenza artificiale, per violazione delle norme contro spam, pratiche ingannevoli e truffe. “Abbiamo interrotto diversi canali segnalatici da AFP per aver violato le nostre politiche di spam e i nostri Termini di servizio”, ha spiegato il portavoce della piattaforma Jack Malon.

Anche TikTok ha eliminato 11 account – che avevano accumulato oltre 1,3 milioni di follower – per aver violato le linee guida della piattafoma. Prima della rimozione però questi contenuti erano già stati visti da milioni di utenti. Su TikTok, un video in lingua spagnola ha ricevuto 9,6 milioni di visualizzazioni, un altro è stato riprodotto 32,9 milioni di volte.

I rischi dei deepfake

I sermoni generati dall’IA non solo “corrodono all’autorità morale del papa e rendono proprio le parole del pontefice meno credibili”, ha spiegato Brian Patrick Green, direttore dell’etica tecnologica presso l’Università di Santa Clara, ma potrebbero essere sfruttati “per far dire al papa qualcosa di oltraggioso o politicamente opportuno. "C'è una vera crisi qui. Dovremo trovare un modo per sapere se le cose sono reali o false".

Stiamo assistendo a una nuova frontiera del reale sintetico, basta aprire i social per trovarci di fronte a video creati con l'intelligenza artificiale. Se prima erano i dettagli strani a salvare l’occhio dall’inganno ora stanno scomparendo. L'evoluzione dell'IA generativa è un problema trasversale. Avrà effetti sul mercato del lavoro, sull'economia, sulla politica, sulla nostra percezione della realtà. I software infatti offrono i mezzi per una disinformazione preventiva, creano le prove per fatti che non sono mai accaduti, alimentano le fake news, e possono condizionare l'opinione pubblica spostando così l'asse del potere.