Donne giustiziate nei video con l’IA: cosa succedeva nel canale YouTube Woman Shot
Una pistola alla testa, una donna che implora, poi parte il colpo e lei cade a terra. Il video sembra vero, ma non lo è, è creato con l'intelligenza artificiale. Decine di video sul canale Woman Shot A.I. replicavano lo stesso schema. Alcuni proponevano varianti “a tema”, come personaggi di videogiochi (tra cui Lara Croft), “scolarette giapponesi colpite al petto”, “casalinghe sexy giustiziate”, o ancora giornaliste uccise e soldati russi che sparavano a donne con la bandiera ucraina sul petto. Non solo, il canale pubblicava sondaggi per “scegliere le prossime vittime”.
Ora YouTube ha rimosso Woman Shot A.I – la decisione è arrivata dopo la segnalazione di 404 Media – il caso però riaccende i dubbi sull’efficacia dei controlli e sulle falle nei sistemi di sicurezza dell’intelligenza artificiale.
Dentro Woman Shot A.I.: violenza e misoginia
Il canale, chiamato Woman Shot A.I., era nato il 20 giugno 2025 e in poche settimane aveva pubblicato 27 video, superando i 1.000 iscritti e accumulando oltre 175.000 visualizzazioni. Tutti i contenuti seguivano lo stesso schema: una scena in cui una donna implorava pietà, mentre un uomo armato la minacciava e infine le sparava al petto o alla testa.
La scelta delle “prossime vittime” tramite sondaggi tra gli iscritti, con opzioni che includevano donne di diverse origini etniche, evidenzia come la piattaforma sia stata utilizzata per veicolare messaggi profondamente discriminatori e violenti nei confronti delle donne.
Come venivano creati i video con l’IA
I video sembrano essere stati creati con Veo, il nuovo strumento di generazione video sviluppato da Google. 404Media ha infatti rilevato la presenza di un watermark sui video pubblicati sul canale.
Non solo, l'autore del video in un post pubblico su YouTube ha spiegato di aver speso circa 300 dollari al mese per creare i contenuti IA. Si è anche lamentato dei limiti imposti da Veo e sosteneva di aver dovuto creare dieci account diversi per generare i video caricati sul canale.
Il fallimento dei filtri contro i contenuti violenti
YouTube ha confermato di aver eliminato Woman Shot A.I. per violazione dei Termini di Servizio, precisando che si trattava di un canale aperto da un utente già bannato in passato. "I nostri strumenti di Gen AI sono progettati per seguire le istruzioni fornite dall'utente", ha dichiarato un portavoce di Google a 404. "Abbiamo delle policy chiare sul loro utilizzo che ci impegniamo a far rispettare, e gli strumenti migliorano costantemente nel rispecchiare queste policy", anche se in questo caso i filtri non hanno funzionato.
Il caso riaccende il dibattito sui limiti dei sistemi di intelligenza artificiale generativa e sulla capacità delle piattaforme di far rispettare le proprie policy. A luglio, YouTube aveva annunciato controlli più severi contro i canali che producono in massa contenuti generati da AI, eppure, come dimostra il caso Woman Shot A.I, le misure non sono sufficienti.
