13 Ottobre 2022
12:36

Il Garante della Privacy apre un’istruttoria su FakeYou, tutti i dubbi sull’app per clonare la voce di Giorgia Meloni

L’app permette di creare note vocali con la voce di personaggi famosi a partire da piccoli testi. Per 70 dollari è possibile anche clonarela voce richiesta: basta avere dei file audio in buona qualità.
A cura di Valerio Berra

Inserisci un testo. Selezioni una voce. Dai un invio e l’audio fake è pronto. La popolarità di FakeYou è legata alla facilità con cui si può utilizzare. Tanto semplice, quanto pericolosa. Ad accorgersi del fenomeno ora è arrivato anche il Garante della Privacy che ha deciso di avviare un’istruttoria per capire come vengono raccolti i dati e quali sono gli obiettivi degli sviluppatori. Come vi abbiamo raccontato nei giorni scorsi, FakeYou permette di creare audio con la voce di personaggi famosi. Nel campionario italiano ci sono Giorgia Meloni, Silvio Berlusconi e Gerry Scotti.

La piattaforma è nota da tempo: nelle ricerche Google il picco di ricerche risale alla primavera del 2022. Durante le ultime settimane è tornata virale grazie a una serie di audio diffusi sui social. Visto il calendario politico, tra le voci più utilizzate si possono trovare quella di Meloni e Berlusconi. Nelle prove che abbiamo per capire il funzionamento dell’app ci siamo stupiti di quanto fosse ottimizzata l’intelligenza artificiale. Gli audio creati a partire da una semplice nota di testo funzionano bene e, a meno di errori clamorosi, riescono anche a riprodurre la giusta intonazione.

Cosa dice il Garante della Privacy

I problemi che solleva una piattaforma di questo tipo sono parecchi. Uno di questi riguarda la privacy, visto che non è chiaro con quali permessi FakeYou raccolga e campioni gli audio di personaggi famosi. O peggio. Per 70 dollari è possibile chiedere al programma di clonare qualsiasi voce, basta che si abbiano in mano delle registrazioni di buona qualità. È per questo che il Garante ha scelto di intervenire.

“Le preoccupazioni del Garante si indirizzano verso i potenziali rischi che potrebbero determinarsi da un uso improprio di un dato personale, quale è appunto la voce. La società dovrà, tra l’altro, fornire le modalità di “costruzione” della voce dei personaggi famosi, il tipo di dati personali trattati, nonché le finalità del trattamento dei dati riferiti ai personaggi noti e agli utenti che utilizzano l’app”.

La richiesta include anche la comunicazione della posizione dei data center usati per archiviare i dati. Dalle prime ricerche sembra infatti che la piattaforma sia di proprietà della The Storyteller Company – Fakeyou. In precedenza si chiamava Vocodes. Sul portale di FakeYou gli autori del progetto spiegano qual è l’obiettivo del loro progetto:

“Le persone si abitueranno a questa tecnologia e i risultati verranno utilizzati principalmente per alimentare una sana creatività, sbloccando scenari di produzione prima molto costosi e irraggiungibili per i singoli creatori. Crediamo che sarete voi la prossima Hollywood”.

FakeYou, il sito che crea audio con le voci di Giorgia Meloni, Silvio Berlusconi e Gerry Scotti
FakeYou, il sito che crea audio con le voci di Giorgia Meloni, Silvio Berlusconi e Gerry Scotti
Il Garante della Privacy ha chiesto a Facebook di spiegare cosa sta facendo per le elezioni italiane
Il Garante della Privacy ha chiesto a Facebook di spiegare cosa sta facendo per le elezioni italiane
Game over, Giorgia Meloni chiude il ministero dell'Innovazione
Game over, Giorgia Meloni chiude il ministero dell'Innovazione
Più che un giornale
Il media che racconta il tempo in cui viviamo con occhi moderni