Lo spogliarello in topless di Taylor Swift è l’ultima deriva dei porno deepfake
No, Taylor Swift non ha pubblicato immagini in topless e non ha nemmeno posato nuda. Eppure sui social stanno rimbalzando le foto esplicite dell'artista. Non sono vere ma li sembrano, e realizzarle è stato semplicissimo È bastato utilizzare Spicy, una delle funzioni più controverse di Grok Imagine, il generatore video basato su intelligenza artificiale sviluppato da xAI, l’azienda fondata da Elon Musk.
Spicy è una delle quattro modalità predefinite nella versione aggiornata di Grok 4, basta scrivere un prompt e selezionare l'opzione per generare immagini e video sessualmente espliciti. Tra questi anche uno spogliarello di Swift dove rimane in topless mentre balla in mezzo alla gente. Elon Musk ha già avuto diversi problemi con i deepfake dell'artista. A gennaio 2024 su X le immagini porno dell'artista generate con l’intelligenza artificiale erano diventate virali sui social, una di queste aveva raggiunto 47 milioni di visualizzazioni. Non solo, Swift, sono state create immagini fake anche di Emma Watson, Scarlett Johansson, Rose Villain, Michelle Obama. La lista è lunga.
In realtà i porno deepfake da anni resistono all’interno delle comunità misogine. Prima erano montaggi posticci, e per realizzarli serviva qualche competenza, ora con l’introduzione dell’IA basta un comando per spogliare una donna. Forse avere un pulsante ad hoc su una delle principali piattaforme social, forse non è una buona idea.
Le immagini create con la modalità Spicy
Le immagini sono state create senza particolari ostacoli: nessuna verifica dell’età al momento del download, solo una rapida conferma dell’anno di nascita per attivare contenuti espliciti. L'app infatti consente l'utilizzo della modalità "Spicy" senza controlli sull’età o meccanismi di verifica, nemmeno in Paesi dove la legge impone restrizioni d’accesso ai contenuti per adulti.
In realtà l’informativa sulla privacy vieta chiaramente la creazione di contenuti pornografici con persone reali o la rappresentazione non consensuale di volti noti, nella pratica però Grok Imagine sembra non implementare strumenti tecnici efficaci per prevenirne la generazione. E mentre il chatbot rifiuta esplicitamente richieste testuali di nudità, l’uso dei preset come Spicy rende più semplice aggirare i filtri linguistici.
La crisi dei deepfake: sempre più difficili da fermare
"La pornografia non consensuale di vario genere è sempre stata un'oscura corrente sotterranea di Internet", ha spiegato al New York Times Oren Etzioni, professore di informatica all'Università di Washington. "Ora si tratta di un nuovo ceppo particolarmente nocivo. Vedremo uno tsunami di queste immagini esplicite generate dall'intelligenza artificiale. È una corsa agli armamenti e sembra che ogni volta che qualcuno erige un guardrail, qualcun altro trova il modo di effettuare il jailbreak. Non solo, è quasi impossibile garantire una rimozione completa una volta che le immagini sono state pubblicate.
In un momento storico in cui l’etica dell’intelligenza artificiale è al centro del dibattito pubblico, il caso Grok Imagine riapre la discussione su privacy, consenso e protezione dell’identità — soprattutto quando strumenti così potenti vengono resi disponibili al grande pubblico senza adeguati controlli.
