Perché TikTok si è riempito di cover cantate da Gerry Scotti

Nell'era dell'intelligenza artificiale (IA) esiste anche Gerry Scotti che canta The Real Sleam Shady. Il video è stato condiviso su TikTok, ovviamente è falso, Scotti non ha mai cantato un brano di Eminem (almeno non in pubblico) eppure sembra vero. Per farlo basta qualche click sul software giusto. Sui social c'è anche Justin Bieber che canta Flowers di Miley Cyrus, Taylor Swift A Thousand Years di Christina Perri, Michael Jackson che rifà Eyes of the tiger, e infinite versioni di Drake, Kanye West, Taylor Swift, the Weekend, Ariana Grande e Harry Style. Ora nel gotha dei grandi artisti arriva la voce fake di Gerry Scotti sintetizzata dall'IA.

Nei video non c'è solo The Real Sleam Shady, ma anche Cenere di Lazza, l'Essenziale di Marco Mengoni, Never Gonna Give You Up di Rick Astley, e Italo Disco dei The Kolors. Sono stati creati persino i video dove viene sovrapposto il volto di Scotti sul corpo dei cantanti originali. Un esempio di intelligenza artificiale programmata per imitare la voce è VALL-E di Microsoft, presentata a gennaio 2023. I ricercatori hanno fatto ascoltare all'IA 60.000 ore di parlato in lingua inglese, e la voce di migliaia di persone, soprattutto registrazioni di audiolibri.

Come fa l'intelligenza artificiale a riprodurre la voce di qualcuno

Ci sono diversi programmi che si possono utilizzare per creare canzoni fake, e il processo per realizzarle è semplice. Basta scegliere il brano e poi attraverso un software che sfrutta l'intelligenza artificiale generativa si sostituisce la voce originale. La maggior parte dei programmi propongono una lista di artisti o celebrità tra cui scegliere. Sono per lo più cantanti, ma appaiono anche personaggi come Donald Trump, o Jake il cane di Adventure Time.

I modelli di machine learning text-to-speech riescono a ottenere il parlato o il cantato di qualcuno manipolando forme d’onda, in questo modo è possibile generare in pochissimo tempo la voce di chiunque senza snaturarla. Non solo, riescono a riprodurre il timbro, ma anche il tono emotivo, e per farlo basta "addestrare" il software facendogli ascoltare pochi secondi della voce che si vuole riprodurre.

I pericoli delle voci deepfake

Ora, è evidente che i video di Gerry Scotti siano fake, ma non è sempre così. E il caso di Heart On My Sleeve ne è la dimostrazione. Nel brano si  sentono le voci di Drake e The Weekend che cantano un testo fatto di allusioni su Selena Gomez. È un falso, nessuno dei due l’ha mai nè intonata nè sentita prima. Il brano è stato composto da un’intelligenza artificiale generativa che ha campionato le voci degli artisti grazie a un software. A rinforzare l'inganno è proprio la coppia, gli artisti avevano già collaborato in passato, e questo ha reso più credibile un brano a due voci.

La canzone è diventata virale, su Spotify è stata riprodotta in streaming 629.439 volte prima di essere ritirata. Ora il brano è stato rimosso da Apple, Deezer, Tidal, TikTok, Spotify e YouTube." Prima ancora di Heart On My Sleeve c'erano stati casi, per esempio sul web è apparso un video di Emma Watson che recita il Mein Kampf, o la voce di Ben Shapiro che lancia commenti razzisti su Alexandria Ocasio-Cortez.