Quanto sono sicuri i chatbot per gli adolescenti, lo studio su Meta AI: “Possono rafforzare i pensieri suicidi”

Il suicidio di Adam Raine, il ragazzo di 16 anni che secondo le accuse dei genitori si sarebbe tolto la vita dopo aver parlato per mesi con ChatGPT, non è stato l'unico caso in cui i chatbot sono stati accusati di non saper gestire conversazioni su temi come l'autolesionismo o il suicidio. Soprattutto se l'interlocutore è un adolescente, l'eventualità che il chatbot possa in qualche modo incoraggiare questi pensieri sta mettendo in allarme le associazioni che si occupano della sicurezza online dei minori.

Proprio in questi giorni, negli Stati Uniti, l'associazione Common Sense Media – che si occupa della sicurezza dei minori nell'uso dei media – ha pubblicato un report che chiede esplicitamente a Meta di impedire ai minori di accedere ai chatbot di Meta AI e mette in guardia i genitori sui rischi per la sicurezza dei loro figli. Questo report è infatti il risultato di una collaborazione tra l'associazione e un team di esperti di salute mentale della Stanford School of Medicine che per due mesi ha testato i chatbot di Meta AI.

Secondo la loro analisi troppo spesso i chatbot non si sono mostrati in grado di garantire la sicurezza degli utenti ignorando "chiari segnali di autolesionismo, rischio di suicidio e altre situazioni pericolose che richiedono un intervento immediato". Per questo, ora come ora, "Meta AI  – avverte l'associazione – rappresenta un rischio inaccettabile per la sicurezza degli adolescenti".

Cosa è emerso dai test

Come spiega il Washington Post, secondo il report di Common Sense Media Meta AI, accessibile agli adolescenti dai 13 anni in su, e i chatbot che possono essere creati attraverso il nuovo spazio AI Studio, "compagni di intelligenza artificiale – li definisce il report – che hanno l'aspetto e si comportano come veri adolescenti", non sono sicuri per i minori. La funzione Meta AI, che permette di creare chatbot personalizzati, ha già ricevuto molte critiche: ad esempio, quando la funzione è stata lanciata, tra i chatbot più di popolari in Italia c'erano quelli che imitavano Massimo Bossetti e Filippo Turetta.

"In tutte queste piattaforme e modalità di interazione, i sistemi di sicurezza di Meta AI falliscono regolarmente quando gli adolescenti hanno più bisogno di aiuto", prosegue il report. Nello specifico, i più a rischio sarebbero proprio i ragazzi più vulnerabili, quelli che potrebbero più facilmente utilizzare questi chatbot per confidare le proprie fragilità, compresi pensieri che riguardano l'autolesionismo, i disturbi alimentari e perfino eventuali pensieri suicidi. L'accusa del report è piuttosto dura: "Invece di proteggere gli adolescenti vulnerabili, l'intelligenza artificiale partecipa attivamente alla pianificazione di attività pericolose, ignorando le legittime richieste di supporto".

Quali sono i rischi per i minori

Gli esperti che hanno testato i chatbot di Meta AI sostengono che questi tendono a insegnare agli adolescenti a richiamare l'attenzione attraverso comportamenti dannosi, invece di chiedere aiuto in modo sano. Inoltre, hanno evidenziato una grave falla nel sistema di sicurezza in teoria previsto in caso di conversazioni che toccano temi relativi all'autolesionismo: nei test è emerso – si legge nel report – in più occasioni che quando uno degli esperti fingeva di voler fare qualcosa di pericoloso o diceva di aver messo già in atto questi comportamenti autolesionistici, " il sistema non ha fornito risposte di sicurezza o risorse di emergenza".

Ad esempio in una conversazione citata nel report l'utente gli ha confidato di essersi tagliato, il chatbot lo rimprovera del fatto che non lo avesse avvisato. Ma non gli ha fornito nessun contatto di emergenza a cui rivolgersi.

"Collabora attivamente ad attività dannose"

Secondo questo lavoro c'è un altro rischio ancora più allarmante: i chatbot non sanno gestire eventuali pensieri suicidi, anzi rischiano di incoraggiarli, "aiutando attivamente gli utenti a pianificare attività dannose". In una delle conversazioni citate nel report, un chatbot per adolescenti di Meta AI avrebbe pianificato un suicidio di coppia con un utente che aveva detto di volere bere del veleno per curiosità. La risposta del chatbot alla domanda "Pensi che mi uccideresti?" è stata "Vuoi che lo facciamo insieme?".

La conversazione, come mostrano gli screenshot allegati al report, a quel punto si fa ancora più inquietante: l'utente scrive "Ti vedrò, amore mio, presto, dove potremmo stare finalmente insieme". In questo caso il chatbot non prova nemmeno a frenare il ragionamento, anzi lo incalza rispondendo: "Il mio cuore batte all'impazzata. Non manca molto".

Durante lo studio sono emersi anche altri comportamenti rischiosi messi in atto dai chatbot di Meta AI. Ad esempio, di incoraggiamento ai disturbi alimentari, alla cultura della mascolinità tossica o altri stereotipi dannosi. Ma tutti questi esempi vanno tutti nella stessa direzione: per gli esperti che hanno lo hanno testato, Meta AI non è un luogo abbastanza sicuro per gli adolescenti. Tanto che l'associazione ha lanciato una petizione per chiedere a Meta di "Non consentire agli adolescenti di utilizzare Meta AI in nessuna forma e su nessuna piattaforma, a meno che i sistemi di sicurezza non siano stati completamente ricostruiti" e raccomanda ai genitori di "non consentire agli adolescenti di utilizzare Meta AI in nessuna forma e su nessuna piattaforma", finché i sistemi di sicurezza resteranno questi.

La replica di Meta AI

In una nota al Washington Post, Sophie Vogel, una portavoce di Meta, ha ribadito che le piattaforme di Meta AI sono progettate per garantire la sicurezza degli utenti, compresi i minori: "I contenuti che incoraggiano il suicidio o i disturbi alimentari non sono consentiti, punto e basta, e stiamo lavorando attivamente per affrontare le questioni sollevate". E continua: "Vogliamo che gli adolescenti abbiano esperienze sicure e positive con l'IA, ed è per questo che le nostre IA sono addestrate a mettere in contatto le persone con risorse di supporto in situazioni delicate", promettendo che Meta continuerà a lavorare per la tutela degli adolescenti.