Dal 2 dicembre scatta l’obbligo di filigrana sui contenuti generati con IA: il punto sui deepfake sessuali
L'intelligenza artificiale generativa (IA) non potrà essere usata per generare deepfake sessuali, ovvero contenuti – immagini, video o audio – a sfondo sessuale non consensuali. Le istituzioni europee hanno trovato l'intesa sul nuovo divieto nell'ambito dell'AI Omnibus, il pacchetto di modifiche formulate per aggiornare le regole europee sull'intelligenza artificiale, il cui uso è attualmente regolato dall'AI Act.
La decisione è il risultato del trilogo tra il Parlamento europeo, il Consiglio dell'Unione europea e la Commissione europea, riunitosi proprio per aggiornare l'AI Act. I triloghi sono infatti negoziati informali a cui prendono parte rappresentanti delle tre istituzioni europee per trovare un accordo su una proposta legislativa in tempi più rapidi.
Il nuovo divieto
Quello dei deepfake a sfondo sessuale è un tema di cui negli ultimi mesi si è parlato molto e numerosi episodi ne hanno già mostrato i risvolti più allarmanti e inquietanti. Fanpage.it se ne era occupato dopo la denuncia di Francesca Barra, anche lei tra le migliaia di donne vittime di forum che utilizzano l'IA per spogliare le donne e creare nudi deepfake a partire da immagini di donne vere.
"Entro la fine di quest'anno tutti, ma soprattutto le donne e le ragazze, saranno al sicuro dalle orribili "app nudifier" ampiamente disponibili sul mercato dell'UE. Oggi mettiamo fine a questo tipo di violenza contro persone e bambini", ha detto il legislatore olandese Kim van Sparrentak. Il divieto dovrebbe essere effettivo a partire dal 2 dicembre, data che introdurrà anche l'obbligo di filigrana per i contenuti generati con l'IA.
Cosa cambia per l'AI Omnibus
L'AI Omnibus è stato proposto e ora ufficializzato per migliorare l'applicabilità nella pratica delle nuove regole sull'utilizzo dei sistemi di intelligenza artificiale generativa, senza però modificare l'impianto di base introdotto dall'AI Act. Questo infatti, che ricordiamo è stato il primo regolamento al mondo sull'intelligenza artificiale, è stato approvato dal Parlamento europeo a giugno 2023. L'AI Act introduce un sistema di classificazione che stabilisce 4 livelli di rischio crescente per i sistemi di IA: rischio minimo o nullo, rischio limitato, rischio elevato e rischio inaccettabile. Ogni livello prevede obblighi e regole proporzionali al livello di rischio: nello specifico quelli considerati a rischio inaccettabile vengono vietati, mentre per quelli con rischio elevato sono richiesti requisiti stringenti e quelli a rischio limitato invece sono tenuti a obblighi di trasparenza.
Tuttavia, oltre a vietare l’utilizzo di sistemi di intelligenza artificiale per creare deepfake sessuali non consensuali, l'intesa di queste ore posticipa anche le date entro le quali era prevista l'introduzione effettiva delle norme che regolano i sistemi ad alto rischio, "come quelli – spiega Reuters – che coinvolgono la biometria o relativi alle infrastrutture critiche e alle forze dell'ordine", posticipata al 2 dicembre 2027, rispetto alla precedente data del 2 dicembre 2026.
