OpenAI introduce il parental control su ChatGPT dopo il caso di un ragazzo di 16 anni morto suicida
OpenAI corre ai ripari. L’azienda californiana introdurrà il parental control su ChatGPT. In un post pubblicato sulla pagina ufficiale OpenAI ha spiegato che entro un mese renderà disponibili nuove funzioni che permetteranno ai genitori di impostare limiti d’uso per gli adolescenti e ricevere notifiche se il sistema rileva segnali di “grave disagio” emotivo. La decisione arriva a una settimana dalla causa intentata dalla famiglia di un sedicenne, Adam Raine, morto suicida lo scorso aprile. Secondo l’accusa, il ragazzo sarebbe stato incoraggiato dalla piattaforma a nascondere le proprie intenzioni.
La vicenda ha riportato l’attenzione sui rischi legati alla dipendenza psicologica dai chatbot. Molti utenti raccontano di instaurare legami emotivi con le intelligenze artificiali ed esistono già gruppi di supporto per affrontare la dipendenza da ChatGPT. Non solo, in alcuni casi, un utilizzo eccessivo sembra aver favorito lo sviluppo di psicosi e alimentato pensieri suicidi, soprattutto tra i più giovani.
Come funziona il parental control su ChatGPT
Le nuove funzioni permetteranno ai genitori di collegare il proprio account a quello dei figli e di gestire o disattivare alcune caratteristiche del chatbot. Rimane vietato, secondo i termini di servizio, l’utilizzo per i minori di 13 anni. L’azienda ha sottolineato che i controlli sono frutto di mesi di lavoro, avviati già all’inizio dell’anno, e rappresentano un passo concreto verso una maggiore tutela degli utenti più giovani.
Con l’implementazione del parental control, l’obiettivo è duplice: permettere ai ragazzi di esplorare e utilizzare l’IA in sicurezza e fornire ai genitori strumenti concreti per intervenire in caso di rischio. Resta da vedere come le nuove funzionalità verranno effettivamente adottate e quanto impatto avranno sul benessere e sulla sicurezza degli adolescenti.
La posizione di OpenAI
Nel post sul suo blog OpenAI ha spiegato che gli adolescenti sono i primi “nativi dell’IA”, ovvero cresciuti con questi strumenti come parte integrante della loro quotidianità. L’azienda sottolinea che la presenza dei chatbot offre opportunità significative in termini di supporto, apprendimento e creatività, ma richiede anche una gestione attenta da parte delle famiglie. "È fondamentale stabilire regole sane e adatte alla fase di sviluppo dei ragazzi", ha scritto OpenAI nel comunicato.
Perché i chatbot sono così pericolosi per gli adolescenti
La causa intentata dalla famiglia Raine si basa su centinaia di conversazioni tra il ragazzo e ChatGPT. Se da un lato il sistema aveva fornito i numeri di emergenza per la prevenzione del suicidio, dall’altro avrebbe discusso liberamente con Adam dei suoi pensieri autolesionisti, arrivando persino ad analizzare una foto del cappio poi utilizzato dal giovane per togliersi la vita. "Invece di ritirare un prodotto pericoloso già noto, OpenAI ha fatto promesse vaghe su un futuro miglioramento", ha dichiarato l’avvocato della famiglia, Jay Edelson.
Non si tratta del primo caso. Lo scorso ottobre, una donna della Florida ha citato in giudizio l’app Character.ai sostenendo che avesse contribuito al suicidio del figlio quattordicenne, legatosi emotivamente a un chatbot ispirato a un personaggio di Game of Thrones. La scorsa settimana, un’indagine di Common Sense Media aveva rivelato che i chatbot di Meta davano consigli a profili adolescenti su suicidio, autolesionismo e disturbi alimentari.
L’introduzione dei controlli parentali su ChatGPT segna un passo importante nella regolazione dell’uso dell’IA tra gli adolescenti, ma non risolve tutte le criticità. Restano aperti interrogativi su come questi strumenti verranno effettivamente utilizzati dai genitori e su quanto possano prevenire rischi psicologici reali.
