Spogliare le donne con l’IA è la nuova caccia alle streghe, Paganelli: “Questa volta è ancora più subdolo”

Un click. Tanto basta per spogliare una donna, senza che lei lo sappia, senza che lo voglia. A inizio ottobre abbiamo scoperto un nuovo forum misogino che ha spogliato migliaia di donne grazie a strumenti di intelligenza artificiale, l'inchiesta di Fanpage.it la trovate a questo link. Il caso mostra un nuovo livello di violenza digitale: un luogo dove l’immagine femminile viene manipolata, sezionata, ricostruita e offerta in pasto a chiunque. È una nuova forma di controllo, che agisce bypassando completamente il consenso.

Non siamo di fronte a un caso "tecnologico". Il fenomeno affonda le sue radici in una lunga storia di dominio e appropriazione del corpo delle donne. Che parte dalle streghe bruciate sui roghi e arriva alle donne spogliate con un click. Con Giulia Paganelli, antropologa culturale specializzata in studi sul corpo, abbiamo provato a guardare dentro questa continuità. A capire cosa resta del corpo, del desiderio e del potere, quando la carne scompare e resta solo l’immagine.

Partiamo dal corpo delle donne, che anche in questo caso viene controllato, ma in maniera diversa

Si pensa che un corpo sia semplicemente un corpo, non è così. E sono successe tante cose nel corso del tempo che hanno cercato di sottomettere e quindi di assoggettare i corpi femminili. In ultimo questo sito.

Ecco non è però qualcosa di nuovo ma c’è un’eredità diciamo storica. Proviamo a tracciare una panoramica?

Certo, storicamente ogni forma di dominio sul corpo femminile ha avuto due elementi costanti, il primo è la sottrazione della soggettività del corpo, il secondo, invece, la messa a disposizione del corpo a beneficio di altri uomini. Pensiamo per esempio alla caccia alle streghe. Parte da due necessità che gli uomini del tempo avevano: la prima era avere un controllo sul sapere medico, che avevano le donne fuori dai centri, nelle campagne, un sapere pratico che nelle università i medici non conoscevano. La seconda era bloccare il desiderio delle donne di guadagnare da quel lavoro. Non è un caso che le levatrici sono circa il 70% delle donne accusate di stregoneria.

Si parte dalle streghe ma come si arriva i deepnude? In che modo sono collegati questi due fenomeni?

Le donne nel corso della storia sono state trasformate in figure mostruose per legittimare la violenza nei loro confronti, prima la caccia alle streghe, poi gli internamenti psichiatrici delle donne, soprattutto per le malattie legate all’utero. Ma a un certo punto succede una cosa terribile, nasce il femminismo e si comincia a parlare di consenso, di corpo. Ora, in un mondo dove sta tornando la performatività patriarcale, come si fa a combattere un movimento di donne che adesso hanno gli strumenti per dirti so che faccio quello che vuoi tu? È semplice, perché a un certo punto il corpo si disincarna. Con la creazione di internet e di social network ci siamo resi conto che il binomio corpo persona, che è quello che c'è nel mondo reale, cambia. E questo permette di fare quella stessa cosa che veniva fatta alle streghe, non più sul corpo reale ma su quello digitale.

Aggirando completamente il consenso. 

Il consenso diventa superfluo. La violazione c’è ma nessuno deve violare il consenso, si passa direttamente al corpo. Invece di agire direttamente sulla carne del corpo, agisci sull'immagine e questo, ovviamente, non cambia le intenzioni che si avevano sul corpo femminile. Qui c’è il salto antropologico: il consenso non viene più violato, è proprio reso superfluo. Prima diciamo si disciplinava la donna per avere il controllo del corpo, con l’IA non c’è una rottura ma una traslazione di mezzo perché non si agisce sulla carne ma sull’immagine. Ed è così che questi corpi diventano trattabili, raccontabili e utilizzabili da altri.

Ecco proprio su uesto tema. In molti sostengono che non sia una violenza così grave appunto perché non è direttamente sul corpo ma sull’immagine..

Eh ma a noi non appartiene solamente il corpo di carne, ma anche l'immagine, e il fatto che sia manipolabili da qualcun altro, è un'estrema violazione del consenso

Anche perché con le nuove tecnologie non solo si spoglia ma si creano pose eplicite, umilianti, estremamente sessualizzate.

Sì, e questo rende evidente come il corpo non appartiene più a chi lo abita, ma a chi lo usa.

Che poi c’è anche un peccato originale. Ci sono pochissime donne che hanno lavorato e lavorano in ambito tech e i modelli di intelligenza artificiale raschiano il web per generare immagini, e il web pieno di foto di donne sessualizzate.

Ma infatti, secondo me è uno dei grandi temi che noi non affrontiamo quando parliamo di intelligenza artificiale. Tendiamo a parlarne non considerando tutta una serie di bias cognitivi che hanno a che fare con le strutture con cui sono allenati. Due anni fa quando sono usciti i primi generatori di immagini (per esempio Lensa n.d.r.) che creavano i tuoi ritratti in versione diverse, tipo fantasy, è stato evidente, tutte le immagini sessualizzavano le donne, o aumentavano il seno o le facevano più magre.

Questo caso dei deepnude, è stato paragonato a Phica e Mia Moglie. Ci sono dei parallelismi però è profondamente diverso…

È molto diverso perché Phica e Mia Moglie hanno un'azione diretta di compagni e partner, che prendono qualcosa senza consenso e la mancanza di consenso è evidente su quei due siti. Qui la la situazione è molto più subdola perché questi materiali sono all’interno di un'area grigia, quella delle immagini multimediali contraffatte. Si rischia addirittura di pensare che sia meno grave, quando in realtà lo è molto di più. Perché quello che ti dice questa piattaforma non è solo che il tuo corpo non è più tuo ma che il tuo corpo non è più tuo e io posso farci quello che voglio. E questo è molto pericoloso perché questo apre un mondo che a noi è sconosciuto.

Ecco, facendo uno sforzo di immaginazione qual è il peggiore degli scenari possibili?

Uno scenario distopico è che queste immagini nel tempo possono trasformarsi video o peggio ologrammi e che possano andare a sostituire le persone vere.

Per esempio il mio ex che crea una mia copia e vive con lei che io voglia o meno. 

Esatto e qui arriviamo al corpo che viene completamente svuotato di soggettività e resta un luogo che assolve a una funzione.

Come si combatte un fenomeno del genere. Di fronte a questo caso, che è l'inizio di qualcosa, come bisogna reagire?

Ci sono dei collettivi come Clara che si occupano esattamente di queste cose. Dobbiamo supportare e aiutare queste realtà che hanno delle professionalità verticali. Abbiamo bisogno di fare conversazioni  più complesse e stratificate, rispetto a quelle che si fanno solitamente sui social network sull'argomento. Non abbiamo bisogno di tuttologi ma di persone esperte sul tema, specializzate con competenze specifiche, perché bisogna dare alle persone degli strumenti.

È poi fondamentale un'educazione al digitale, affettiva e sessuale sin dalle scuole materne, che parta dal tema del consenso e che lo tratti in modo critico. È l'unico modo per disintegrare le strutture sociali in cui siamo, crearne di nuove e poi farle evolvere.