ChatGPT sta pensando di generare porno con l’intelligenza artificiale? Cosa sappiamo sul piano di OpenAI
Da quando l'intelligenza artificiale è diventata di uso comune, si è capito fin da subito che se nelle mani sbagliate avrebbe potuto creare grossi danni. La creazione di contenuti porno deepfake e la loro condivisione lo ha mostrato chiaramente: il caso delle immagini deepfake di Taylor Swift viste 47 milioni di volte prima solo su X (fu Twitter) lo ha reso evidente al mondo intero.
Forse anche per questo l'azienda leader nel settore dell'IA potrebbe modificare le sue linee guida rispetto alla creazione di contenuti sessuali espliciti. È quanto emerge da una prima bozza del documento Model Sec, dove OpenAI spiega come si comportano ChatGPT e gli altri suoi modelli. Nel testo, appena diffuso, una nota di commento mette infatti in discussione il divieto di creare contenuti sessualmente espliciti, adottato finora dall'azienda.
Come potrebbero cambiare le regole sulla creazione di porno deepfake
Mercoledì 8 maggio 2024 OpenAI ha diffusouna prima bozza del suo documento Model Sec, il cui obiettivo è spiegare le linee di comportamento dei suoi modelli, compreso ChatGPT. Nel testo, in una nota di commento vicina al divieto relativo alla creazione di materiali sessuali, l'azienda ha rivelato che starebbe studiando come rendere possibile la generazione responsabile di contenuti espliciti.
Nel dettaglio, OpenAI ha spiegato che sta ragionando sul tema per valutare "se sia possibile fornire in modo responsabile la possibilità di generare contenuti NSFW in contesti adatti all'età attraverso l'API e ChatGPT". Con la sigla NSFW ("Not safe for work", letteralmente "Non sicuro per il lavoro") si indicano tutti quei contenuti sessuali, volgari o potenzialmente offensivi, tra i quali rientrano anche i materiali porno. Non è però ancora chiaro in che modo le regole potrebbero cambiare, ad esempio se il divieto verrà allentato per quanto riguarda la creazione di testo o le modifiche riguarderanno anche contenuti visivi.
I timori sulla sicurezza e la privacy delle immagini
La portavoce di OpenAI Grace McGuire, contattata dal giornale statunitense Wired, non si è troppo sbilanciata sulle intenzioni dell'azienda, ma si è limitata a spiegare che l'obiettivo di questo documento è indagare gli interessi di sviluppatori, clienti, politici e chiunque faccia parte del pubblico di ChatGPT e degli altri modelli.
Resta il fatto che preoccupano le implicazioni di questa possibile apertura di OpenAI alla creazione di contenuti sessuali. È vero infatti che, a prescindere dalle eventuali modifiche che verranno introdotte, l'impersonificazione, ovvero l'uso dell'immagine di una persona reale, senza il suo consenso esplicito, resterà comunque vietata, ma si teme che questo non sarà sufficiente. D'altronde finora non lo è stato, nonostante il divieto esplicito di creare porno deepfake. Solo qualche settimana fa, ad esempio,l'Inghilterra ha deciso di correre ai ripari autonomamente con una legge che rende reato la creazione di contenuti sessuali deepfake.
