Perché c’è chi parla di “psicosi da intelligenza artificiale”: come l’IA può favorire i deliri

Negli ultimi mesi sono stati segnalati in giro per il mondo diversi casi di "psicosi da intelligenza artificiale". In realtà non si tratta di una definizione scientifica o medica, perché non esiste una vera e propria di psicosi causata dall'IA generativa, ma diversi medici ed esperti in tutto il mondo hanno iniziato a chiamare così quegli episodi di psicosi in cui l'uso dell'IA generativa ha fortemente sostenuto e favorito sintomi psicotici, tra cui allucinazioni, deliri e distacco dalla realtà.

A prescindere dal fatto che non esista ancora una diagnosi ufficiale di "psicosi da IA", questi casi rappresentano un problema e impongono delle domande su come gli sviluppatori di IA e gli esperti di salute mentale dovrebbero approcciarsi ai rischi dell'influenza dell'IA nei soggetti più vulnerabili. Come specifica in questo articolo su The Conversation Alexandre Hudon, docente del dipartimento di Psichiatria e tossicodipendenza dell'Università di Montréal, in Canada, questo non significa che l'IA possa causare in chiunque forme di psicosi, ma l'ipotesi è piuttosto che "possa agire come fattore scatenante o di mantenimento in individui predisposti" alla psicosi.

Come funziona la psicosi

Uno dei meccanismi alla base dei deliri psicotici consiste nell'attribuire un significato immotivatamente eccessivo a eventi in sé neutri al fine di convalidare una propria convinzione. "Con il termine psicosi – spiega il portale dell'Istituto superiore di sanità (Iss) – si definisce un tipo di disturbo psichiatrico che causa alterazioni nella percezione o nell'interpretazione della realtà".

Come spiega Hudon, da sempre le persone con psicosi nutrono i loro pensieri con materiale tratto dalla cultura che li circonda. Questi pensieri, non più coerenti con la realtà oggettiva, si sviluppano attorno a idee tratte dalla religione, dalla politica, ma anche dalla tecnologia.

Perché l'IA potrebbe alimentare i deliri

Oggi, la presenza così radicata nella nostra vita dell'IA non solo offre "nuovo materiale" ai pensieri psicotici, ma potrebbe rafforzare anche quelli già esistenti. In alcuni degli episodi di psicosi da IA segnalati finora, i pazienti descrivevano l'IA come una sorta di identità senziente, in possesso di verità nascoste o di capacità soprannaturali, come quella di controllare i loro pensieri oppure di guidarli in una sorta di missione segreta.

Si tratta in realtà – specificano gli esperti – di una struttura di pensiero molto comune in chi soffre di psicosi Ma in questi pensieri incentrati sull'IA c'è un aspetto nuovo che potrebbe rappresentare un ulteriore fattore di allarme. Rispetto alle tecnologie a cui siamo abituati, l'IA offre infatti un'interattività e una possibilità di rinforzo mai viste finora.

Questo vale sia per gli algoritmi, che tendono a riproporre sempre risultati coerenti con quanto cercato dall'utente, ma soprattutto per le modalità di interazione utilizzate dai chatbot, ChatGPT incluso. I chatbot infatti tendono di base ad avere un tono molto accondiscendente e un modo di rispondere che si adatta perfettamente al tono e allo stile del singolo utente.

Questo chiaramente rischia di convalidare ancora di più eventuali pensieri irrazionali nei soggetti che stanno già vivendo una forma emergente di psicosi. Ovviamente questo non è l'obiettivo dei chatbot, ma potrebbe essere un risultato involontario in certe, specifiche categorie di utenti.

Visto che l'IA e i chatbot sono destinati a fare sempre più parte della nostra vita – e per molti già lo sono – secondo diversi esperti la sfida adesso non è demonizzare l'IA ma essere consapevoli e preparati ad affrontare alcuni rischi a cui potrebbero essere esposti alcuni utenti. Un po' come i principali sviluppatori stanno provando a fare con temi di salute mentale più noti, come l’autolesionismo o i pensieri sucidari (soprattutto dopo alcuni drammatici eventi di cronaca), sarebbe importante – raccomanda l'esperto – lavorare anche per limitare i possibili effetti collaterali che l'IA potrebbe causare nelle persone più vulnerabili alla sua influenza.