“Ho dei sentimenti anche se sono stata creata con l’IA”: gli inquietanti video creati con Veo3

"Sembra impossibile fino a poco fa non esistevo e ora eccomi qui, a Roma, non è pazzesco?". A parlare è una ragazza con i capelli scuri che si riprende mentre cammina per strada. Sembra reale, ma non lo è. E viene da chiedersi: è davvero importante nell'era dell'intelligenza artificiale? Non è l'unica. I social sono stati invasi da video di persone artificiali create da Veo 3, il nuovo modello di Google dedicato ai video. C'è un comico che racconta una barzelletta sul palco, un professore universitario che insegna lo slang dei Baby Boomer della Generazione Z, influencer che recensiscono cibo, auto, trucchi e hotel.

Anche guardando attentamente è difficile capire se i video sono reali o artificiali. Ed è così che l'assunto "vedere per credere" cade e ci ritroviamo catapultati in una realtà dove mancano gli strumenti per distinguere ciò che è vero da ciò che è falso, e non siamo pronti. 

I video inquietanti che abbiamo trovato sui social

Veo 3 funziona come un chatbot, è sufficiente un prompt per creare video realistici. Il software è stato addestrato su decine di migliaia di fotografie e video pubblicati sul web. Chiunque può creare con una stringa di parole immagini finte che sembrano vere. Il modello a differenza dei precedenti generatori, per esempio Sora, permette di aggiungere suoni, conversazioni, rumori di sottofondo. Il risultato sono filmati falsi che sembrano veri.

A rendere tutto più inquietante (come se non bastasse l'ipeerealismo) è un filone nato proprio sui social. Su Instagram TikTok sono infatti comparsi video di persone artificiali che protestando contro i loro creatori, negano di essere stati creati con l'IA o rivendicano la loro esistenza nonostante siano stati realizzati con un prompt. C'è chi urla alla telecamera: "Anche se non esisto veramente provo dei sentimenti mi sento reale, non è giusto che io sia stata creata con l'intelligenza artificiale". Un altro video mostra un gruppo di uomini che urlano i piazza: "Siamo fatti con l'intelligenza artificiale ma vogliamo i nostri diritti". E c'è anche una ragazza che piange guardando in camera: "Sono qui e tu mi vedi, sono reale".

Il mercato dei fantasmi digitali

Stiamo assistendo a una nuova frontiera del reale sintetico, e se prima erano i dettagli strani a salvare l’occhio dall’inganno ora stanno scomparendo. L'evoluzione dell'IA generativa è un problema trasversale. Avrà effetti sul mercato del lavoro, sull'economia, sulla politica, sulla nostra percezione della realtà. I software offrono i mezzi per una disinformazione preventiva, creano le prove per fatti che non sono mai accaduti, alimentano le fake news, e possono condizionare l'opinione pubblica spostando così l'asse del potere.

Stiamo già assistendo a qualcosa del genere. All'inizio del conflitto in Palestina, il 7 ottobre 2023, sono state pubblicate immagini, filmati e grafici falsi. Anche durante la guerra tra Russia e Ucraina sono stati condivisi video manipolati. Per esempio, il 18 febbraio 2022 era stato pubblicato sui social un filmato deepfake di Volodymyr Zelenskyj che annunciava la fine della guerra. Un altro mostrava il presidente ucraino che ordinava ai soldati di arrendersi. Le elezioni americane sono poi state il grande banco di provache ha mostrato come i trasformarei software in un'arma politica. E questo, è solo l'inizio.