23 CONDIVISIONI
Intelligenza artificiale (IA)

“Hanno usato l’intelligenza artificiale per fingere il rapimento di mia figlia, è stato tremendo”

Jennifer DeStefano ha ricevuto una chiamata da un uomo. In sottofondo sentiva la voce di sua figlia. Era agitata e a volte scoppiava in lacrime. L’uomo diceva di averla rapita. Peccato che quella voce fosse solo il prodotto di un’intelligenza artificiale particolarmente sofisticata.
Entra nel nuovo canale WhatsApp di Fanpage.it
A cura di Valerio Berra
23 CONDIVISIONI
Immagine
Attiva le notifiche per ricevere gli aggiornamenti su
Intelligenza artificiale (IA)

Jennifer DeStefano vive in Arizona, negli Stati Uniti. Nello specifico vive a Scottsdale, a est della capitale Phoenix. Negli ultimi giorni è stata intervistata da diversi media internazionali, dal The Guardian alla Nbc per quello che potrebbe essere uno dei primi casi di rapimento in cui ad essere rapita è stata solo la voce di una persona. Scrive DeStefano: “Al telefono, ho sentito mia figlia Briana urlare e gridare: "Aiutami, aiutami”. C’era una voce maschile al telefono. Diceva che aveva mia figlia e mi diceva anche che se provavo a dirlo a qualcuno le avrebbe riempito lo stomaco di droghe, l'avrebbe lasciata in Messico e non l'avrei mai più rivista”.

Il racconto rilasciato da DeStefano si concentra su due punti. Il primo è il tempismo. La figlia Briana, 15 anni, non era in casa, era con il padre in una città a circa due ore di distanza per una gara di sci. Il secondo era che l’uomo al telefono diventava sempre più minaccioso e intervallava la sua voce con degli audio di Briana che sembravano reali. L’uomo le aveva chiesto di pagare un milione di dollari. Cifra poi rivista di diversi zeri fino a che lo scambio non era stato fissato attorno ai 50.000 dollari.

In tutto questo, DeStefano non si trovava a casa da sola ma insieme ad altri genitori davanti alla classe di danza della figlia più piccola, Aubrey. Sono stati gli altri genitori che hanno allertato il 911, il numero delle emergenze negli Stati Uniti. Gli agenti a questo punto hanno segnalato alle persone coinvolte in questa storia che negli ultimi tempi stava aumentando il numero di truffe fatte con voci rubate dall'intelligenza artificiale. DeStefano ha capito l'inganno e ha spento il telefono.

“Ho fatto fatica a credere che la voce di mia figlia non fosse reale. Mi sembrava di sentirla piangere. Quando poi mi sono messa in contatto con la polizia sono rimasta devastata nel sentire che gli investigatori lo consideravano poco più di uno scherzo e quindi non avrebbero aperto le indagini: nessuno era stato ferito e non era stato preso del denaro”.

È davvero possibile riprodurre la voce di una persona con l’intelligenza artificiale?

Nell’ottobre del 2022 era diventata virale una piattaforma che permetteva di riprodurre la voce di persone note e meno note. Si chiamava FakeYou e con un input di qualche riga e un paio di minuti di pazienza si poteva creare un audio con una voce molto simile a quella di Papa Francesco, di Giorgia Meloni o Gerry Scotti. Il risultato, nella versione gratuita, era posticcio. Ma faceva già capire le potenzialità di questa tecnologia e i suoi pericoli per la creazione di fake news.

A gennaio del 2023 il salto di qualità. Microsoft ha presentato VALL-E, un software che è in grado di riprodurre qualsiasi voce esistente al mondo, definendo anche parametri come timbro e cadenza. Questa intelligenza artificiale è stata addestrata con 60.000 ore di parlato in lingua inglese ed è talmente sofistica che è i grado di riprodurre anche il rumore di fondo dell’audio che viene usato come campione per addestrarla.

23 CONDIVISIONI
314 contenuti su questa storia
Scienziati inorriditi dall’immagine creata dall’IA: un topo con i genitali enormi finisce in un articolo revisionato
Scienziati inorriditi dall’immagine creata dall’IA: un topo con i genitali enormi finisce in un articolo revisionato
Nasce Sora, la nuova AI generativa di OpenAI che trasforma i testi in video: ora è impressionante
Nasce Sora, la nuova AI generativa di OpenAI che trasforma i testi in video: ora è impressionante
Il regalo perfetto per San Valentino: i dolci che sanno di amore creati dall'IA
Il regalo perfetto per San Valentino: i dolci che sanno di amore creati dall'IA
autopromo immagine
Più che un giornale
Il media che racconta il tempo in cui viviamo con occhi moderni