Google ritira il nuovo strumento IA per Google Earth: permetteva di creare immagini false
Google ha ritirato un nuovo strumento di intelligenza artificiale per Google Earth che permetteva agli utenti di modificare le immagini satellitari, viste aeree e 3D tramite semplici prompt testuali. La sospensione della funzionalità, basata sul modello Nano Banana 2, è arrivata meno di 48 ore dopo l’integrazione del servizio, in seguito alle dimostrazioni sulla capacità del sistema di produrre immagini false e fuorvianti.
L’intenzione inziale di Google era quella di proporre una risorsa educativa e creativa, ma ricercatori di intelligence oper-source, tra cui il il fondatore di Bellingcat, Eliot Higgins, e l'investigatore indipendente Henk van Ess, hanno evidenziato con quanta facilità la funzionalità potesse essere utilizzata per generare scenari falsi sovrapposti a luoghi reali.
Van Ess, in particolare, ha smascherato i rischi dello strumento creando immagini false di rifugiati al confine tra Stati Uniti e Messico, di una centrale nucleare iraniana e di un incidente mortale ad Amsterdam, il tutto basandosi su mappe satellitari autentiche di Google. Ha affermato che Google aveva permesso che immagini “inventate” venissero “fissate a coordinate reali, disegnate su immagini reali”.
“La falsificazione non deve necessariamente apparire convincente di per sé. Eredita la credibilità della mappa su cui è nata” ha aggiunto van Ess.
Il ritiro della nuova funzione IA di Google Earth
“Sappiamo che le persone si fidano in modo unico di Google Earth per una visione affidabile del mondo. Abbiamo visto professionisti geospaziali utilizzare questa funzione per una serie di scopi utili, tuttavia abbiamo anche visto persone condividere screenshot di immagini generate che sembrano violare le nostre politiche” ha comunicato Google.
“Stiamo quindi ritirando questa funzione in Google Earth mentre lavoriamo per implementare protezioni più robuste. È importante notare che le immagini generate non apparivano nell’esperienza principale di Google Earth per farle vedere agli altri e erano contrassegnate con watermark come generate dall’IA”.
