0 CONDIVISIONI
video suggerito
video suggerito
Intelligenza artificiale (IA)

ChatGPT sta pensando di generare porno con l’intelligenza artificiale? Cosa sappiamo sul piano di OpenAI

Nella bozza di un documento sulle regole di comportamento di ChatGPT e degli altri modelli di intelligenza artificiale, OpenAI ha rivelato che sta valutando se sia possibile introdurre la creazione di contenuti sessuali espliciti in modo “responsabile”. Anche se non c’è ancora nulla di ufficiale, molti temono le conseguenze della fine del divieto sui contenuti sessuali.
0 CONDIVISIONI
Immagine
Attiva le notifiche per ricevere gli aggiornamenti su

Da quando l'intelligenza artificiale è diventata di uso comune, si è capito fin da subito che se nelle mani sbagliate avrebbe potuto creare grossi danni. La creazione di contenuti porno deepfake e la loro condivisione lo ha mostrato chiaramente: il caso delle immagini deepfake di Taylor Swift viste 47 milioni di volte prima solo su X (fu Twitter) lo ha reso evidente al mondo intero.

Forse anche per questo l'azienda leader nel settore dell'IA potrebbe modificare le sue linee guida rispetto alla creazione di contenuti sessuali espliciti. È quanto emerge da una prima bozza del documento Model Sec, dove OpenAI spiega come si comportano ChatGPT e gli altri suoi modelli. Nel testo, appena diffuso, una nota di commento mette infatti in discussione il divieto di creare contenuti sessualmente espliciti, adottato finora dall'azienda.

Come potrebbero cambiare le regole sulla creazione di porno deepfake

Mercoledì 8 maggio 2024 OpenAI ha diffusouna prima bozza del suo documento Model Sec, il cui obiettivo è spiegare le linee di comportamento dei suoi modelli, compreso ChatGPT. Nel testo, in una nota di commento vicina al divieto relativo alla creazione di materiali sessuali, l'azienda ha rivelato che starebbe studiando come rendere possibile la generazione responsabile di contenuti espliciti.

Nel dettaglio, OpenAI ha spiegato che sta ragionando sul tema per valutare "se sia possibile fornire in modo responsabile la possibilità di generare contenuti NSFW in contesti  adatti all'età attraverso l'API e ChatGPT". Con la sigla NSFW ("Not safe for work", letteralmente "Non sicuro per il lavoro") si indicano tutti quei contenuti sessuali, volgari o potenzialmente offensivi, tra i quali rientrano anche i materiali porno. Non è però ancora chiaro in che modo le regole potrebbero cambiare, ad esempio se il divieto verrà allentato per quanto riguarda la creazione di testo o le modifiche riguarderanno anche contenuti visivi.

I timori sulla sicurezza e la privacy delle immagini

La portavoce di OpenAI Grace McGuire, contattata dal giornale statunitense Wired, non si è troppo sbilanciata sulle intenzioni dell'azienda, ma si è limitata a spiegare che l'obiettivo di questo documento è indagare gli interessi di sviluppatori, clienti, politici e chiunque faccia parte del pubblico di ChatGPT e degli altri modelli.

Resta il fatto che preoccupano le implicazioni di questa possibile apertura di OpenAI alla creazione di contenuti sessuali. È vero infatti che, a prescindere dalle eventuali modifiche che verranno introdotte, l'impersonificazione, ovvero l'uso dell'immagine di una persona reale, senza il suo consenso esplicito, resterà comunque vietata, ma si teme che questo non sarà sufficiente. D'altronde finora non lo è stato, nonostante il divieto esplicito di creare porno deepfake. Solo qualche settimana fa, ad esempio,l'Inghilterra ha deciso di correre ai ripari autonomamente con una legge che rende reato la creazione di contenuti sessuali deepfake.

0 CONDIVISIONI
423 contenuti su questa storia
autopromo immagine
Più che un giornale
Il media che racconta il tempo in cui viviamo con occhi moderni
api url views