86 CONDIVISIONI
Intelligenza artificiale (IA)

L’app che spoglia le ragazze arriva nelle scuole, la Garante dell’Infanzia: “BikiniOff non è una bravata”

Il fenomeno deepfake ha radici profonde, ma nell’ultimo periodo è diventato ancora più semplice e performate. La tecnologia viene utilizzata soprattutto in ambito pornografico.
A cura di Elisabetta Rosso
86 CONDIVISIONI
Immagine
Attiva le notifiche per ricevere gli aggiornamenti su

Basta una foto qualsiasi e, una volta caricata, il bot fa sparire i vestiti. Utilizzando l’intelligenza artificiale sputa fuori immagini di nudo che non sono mai state scattate. L’app Bikini Off è gratis, accessibile a tutti, e pericolosissima. E il bot è solo l'ultimo strumento della fabbrica marcia del web che produce materiale non consensuale.

Si è già diffusa nelle scuole, il caso di due ragazzini che hanno deciso di spogliare virtualmente le loro compagne di classe “per scherzo” ha acceso i riflettori sull’ennesima stortura del deepfake. Negli utlimi mesi infatti la tecnologia in grado di creare immagini false ma realistiche è diventato lo strumento perfetto per creare sul web materiale pornografico. Il fenomeno ha anche attirato l’attenzione della Garante dell’Infanzia della Regione Lazio, che ha deciso di organizzare degli incontri con i genitori per sensibilizzare sul tema.

L'app che spoglia le persone

Bikinioff è nata in Francia come evoluzione di BeReal e poi si è diffusa in tutto il mondo nel 2022, registrando numeri record di download tra i ventenni. È in grado di creare foto false ma realistiche e per accedere all’app non serve nemmeno l’autenticazione, questo vuol dire che chiunque, anche i minorenni, possono usarla. E infatti Bikini Off è diventata popolare proprio tra i banchi di scuola, nell’ultimo periodo sono state segnalate 27 infrazioni e due adolescenti di 14 anni sono stati indagati per la produzione di materiale pedopornografico. È successo in una scuola media in provincia di Roma, i due ragazzi sono stati accusati di aver modificato cinque foto delle compagne di classe e poi averle condivise. Ai carabinieri hanno detto “è solo uno scherzo”.

L’app è semplice e gratuita. La prima foto non si paga, per produrre altri deepfake si devono acquistare i crediti registrando la carta di credito, oppure usando Google Pay, sono anche disponibili i pagamenti attraverso le criptovalute. Noi ci abbiamo provato e abbiamo scoperto che il bot propone una serie di abbonamenti che permette di accedere a diversi abbonamenti,  che vanno dai 5 euro, per ottenere 10 foto, a 270, per produrne 600.

TELGRAM | Gli abbonamneti per usare l'app Bikini Off
TELGRAM | Gli abbonamneti per usare l'app Bikini Off

L'intervento del Garante dell'infanzia

In risposta al fenomeno Monica Sansoni, la Garante dell’Infanzia della Regione Lazio, ha deciso di organizzare incontri formativi nelle scuole, nei gruppi sportivi e parrocchie. Il progetto “Genitori al centro, missione adolescenza” vuole sensibilizzare sull’ultilizzo improprio delle nuove tecnologie, perché, come spiega Sansoni, Bikini Off “non è una semplice bravata”. Ha anche aggiunto che riceve almeno due segnalazioni a settimane per immagini pedopornografiche che vengono fatte circolare dai minori sul web.

L’obiettivo del progetto è sensibilizzare gli adulti sui rischi del mondo virtuale, soprattutto su canali come Telegram dove è facile trovare nicchie scure che generano materiale dannoso in modo incontrollato. I ragazzi infatti nel web trovano sempre nuovi covi da sperimentare, e come spiega Sansoni: “Mentre gli adulti sono ancora fermi a TikTok, i ragazzi sono già oltre”.

Bikini Off non è un caso isolato

Il fenomeno deepfake ha radici profonde, nell’ultimo periodo, con gli sviluppi dell’intelligenza artificiale, è diventato ancora più semplice da utilizzare, e le immagini e i video che crea sono ultra realistici. Bikini off non è l’unico caso. A marzo FaceMega, un'app che sostituisce facce e corpi utilizzando l'intelligenza artificiale, ha lanciato una campagna pubblicitaria provocatoria, non capendo forse che la sua sponsorizzazione è il miglior biglietto da visita per essere sradicata da ogni App Store.

Ha caricato infatti, a scopo dimostartivo, 127 video di Emma Watson e 74 di  Scarlett Johansson in atteggiamenti provocatori sui social. Basta scaricare la foto del volto dell’attrice e applicarla sul corpo di una pornostar. Et voilà, ecco servita la ricetta perfetta per mostrare una tecnologia performante usata nel peggiore dei modi possibili.

Porno deepfake: un fenomeno in crescita

“Il deepfake è diventata una tecnologia per distruggere le donne, soprattutto nel porno. Ci sono moltissimi siti che sostituiscono i volti delle persone sui corpi di pornostar, è umiliante e mortificante”, aveva spiegato Yu Chunju, artista cinese che sperimenta le tecnologie deepfake in ambito artistico, a Fanpage.it

Il fenomeno negli anni è cresciuto. L’analista Genevieve Oh ha infatti scoperto che il numero di video porno Deepfake è quasi raddoppiato ogni anno dal 2018. Febbraio 2023 è stato il mese che ha registrato il maggior numero di porno deepfake prodotti e caricati in un mese.

86 CONDIVISIONI
340 contenuti su questa storia
autopromo immagine
Più che un giornale
Il media che racconta il tempo in cui viviamo con occhi moderni
api url views