Sempre più persone chiedono all’intelligenza artificiale di creare video pedopornografici

L’intelligenza artificiale viene usata anche per generare video pedopornografici. Sta prendendo forma una nuova frontiera dell’abuso online, e secondo i dati dell'Internet Watch Foundation (IWF) il fenomeno sta crescendo in maniera preoccupante. Nei primi sei mesi del 2025, l’IWF ha individuato 1.286 video illegali generati artificialmente. L’anno scorso, nello stesso periodo, erano appena due.

La maggior parte di questi video – oltre 1.000 – rientra nella categoria A, la più grave, e molti si basano su immagini di vittime reali. Creare queste clip è facilissimo, basta addestrare un modello AI con pochi contenuti reali per generare un’infinità di video fittizi ma convincenti. E infatti, come ha spiegato l'IWF questi contenuti sono ormai quasi indistinguibili da materiale reale. “Chi abusa ha oggi a disposizione una tecnologia potentissima, facilmente accessibile, e in continuo miglioramento. E la sta sfruttando.”

L’invasione del web: +400% di contenuti AI nei primi mesi del 2025

L’accesso sempre più semplice a modelli di generazione video avanzati, permette ai criminali di creare contenuti pedopornografici ultrarealistici. Alcuni utenti, ha spiegato l’IWF, allenano i modelli AI partendo da video reali di abusi su minori, è sufficiente qualche clip per ottenere risultati estremamente realistici. “Il settore AI è altamente competitivo e ricchissimo di investimenti: purtroppo, questo fornisce ai malintenzionati una vasta gamma di strumenti da sfruttare", ha spiegato l'IWF.

Nei primi sei mesi del 2025, l'IWF ha registrato un aumento del 400% degli URL contenenti contenuti pedopornografici generati con AI: 210 segnalazioni contro le 42 del 2024. Ogni pagina web, spesso, ospita centinaia di immagini e video.

Anche se i contenuti sono “finti”, le vittime possono essere reali: molti video AI partono da immagini vere di bambini estratte da social, album familiari online, o persino webcam hackerate. Gli analisti dell'IWF hanno spiegato che la maggior parte delle immagini sembrano essere state create con modelli di intelligenza artificiale di base disponibili gratuitamente online. Su forum del dark web, i pedofili discutono apertamente della rapida evoluzione di questi strumenti, condividono consigli sui software disponibili, su quali prompt scegliere e sui migliori modelli da utilizzare. 

Nuove frontiere del crimine online: quali sono i rischi

Per contrastare questa nuova minaccia, il Regno Unito ha introdotto leggi più severe. È ora illegale possedere, creare o distribuire strumenti di intelligenza artificiale progettati per produrre contenuti di abuso sessuale su minori. Chi trasgredisce rischia fino a cinque anni di carcere.

Inoltre, sono vietati anche i manuali che insegnano a creare questi contenuti con l’AI: possederli o condividerli può comportare fino a tre anni di prigione. La ministra dell’Interno Yvette Cooper ha sottolineato l’importanza di affrontare il fenomeno sia online che offline, spiegando che la protezione dei minori richiede strumenti e leggi adeguate alle nuove sfide digitali poste dall’intelligenza artificiale.

Secondo Derek Ray-Hill, CEO ad interim dell’IWF, se non si interviene rapidamente, l’abuso sessuale su minori tramite AI rischia di saturare il web con contenuti pedopornografici. Ray-Hill avverte: “Siamo di fronte a una possibile esplosione fuori controllo di contenuti pedopornografici generati da AI, con impatti devastanti non solo online ma anche nel mondo reale: traffico di minori, schiavitù e abusi potrebbero intensificarsi.”