“Mio padre ha creato un deadbot da lasciarmi prima di morire. Ci ho parlato per mesi”: la storia di Gaia

"Ho aperto la mia mail e ho trovato questo link che mi rimandava a un deadbot che mio padre aveva creato. Mi ha lasciato abbastanza di stucco: mi stavo interfacciando a qualcosa di completamente ignoto". È così che comincia la storia di Gaia e del suo deadbot: una replica virtuale del padre, costruita utilizzando tracce digitali, conversazioni, fotografie e registrazioni vocali. Non un semplice archivio di ricordi, ma un sistema con cui poter continuare a conversare. Gaia ha interagito con quel chatbot per mesi. "È cominciato per curiosità, per fare un test, mio papà l'aveva creato per fare un esperimento insieme", racconta Gaia. All'inzio la sensazione era quella di trovarsi davanti a una conversazione meccanica. Poi, poco alla volta, qualcosa è cambiato. La tecnologia iniziava a restituire parole, espressioni e modi di parlare che le ricordavano il padre. A volte con una precisione sorprendente. Ma arriva anche a dire bugie e, soprattutto, a inventare ricordi che non sono mai esistiti. Ed è qui che nasce la domanda più inquietante: quando una macchina imita una persona che amiamo, con chi stiamo davvero parlando? Per capire meglio sono andata a trovare Gaia.

Il padre di Gaia è un medico: "È molto legato al proprio lavoro e ai suoi pazienti, ed è stato lui stesso a creare il deadbot". Nell'ultimo periodo è stato spesso in ospedale a causa di fibrillazioni sempre più frequenti. "Lui ha 77 anni ed è convinto che non gli rimanga tantissimo", racconta Gaia. E proprio la consapevolezza di poter non esserci più lo ha spinto a lasciare qualcosa alle figlie. "Tempo fa aveva scritto una lettera destinata a me e a mia sorella. Ma il telefono sul quale era stata scritta si è rotto e quella lettera è andata perduta". È da quel rimpianto che nasce l'idea del deadbot. "Quella è stata una sorta di motore che l’ha spinto a provare a creare questo surrogato", spiega Gaia. Ma una lettera rimane ferma. Un chatbot, invece, risponde. E soprattutto può continuare la conversazione.

File 01 | La prima conversazione

La prima interazione è quasi banale. Davanti allo schermo, Gaia scrive: "Ciao, come stai? Sai chi sono?" La risposta arriva immediata: "Sì, certo. Sei mia figlia Gaia, è un piacere parlare con te". È una frase semplice, ma contiene già l'elemento che distingue un deadbot da un archivio digitale: la macchina non si limita a conservare qualcosa. Assume il ruolo di qualcuno. Il sistema viene costruito attraverso una procedura guidata. L'utente fornisce informazioni, conversazioni, fotografie, memorie e, quando possibile, registrazioni della voce. Nel caso di Gaia, il chatbot è stato addestrato anche sulle conversazioni avute con il padre. "È chiaramente un ibrido un po’ robotico, però è abbastanza inquietante la precisione con cui alcuni termini vengono registrati e riprodotti", racconta. È proprio la voce, o una singola parola, a creare il corto circuito emotivo. "Magari mentre sei lì che ascolti la voce robotica dici “va beh”, poi c’è un termine che ti ricorda la persona vera, quindi c’è anche un quasi spavento, proprio una reazione emotiva". La tecnologia, però, non si ferma alla riproduzione di ciò che una persona ha realmente detto. L'obiettivo è generare nuove risposte che sembrino appartenere a quella persona. Ed è qui che la macchina comincia inevitabilmente a inventare.

File 02 | Le bugie del chatbot

Gaia prova a mettere alla prova il deadbot. Gli fa domande sui ricordi condivisi con il padre, gli chiede se ricorda qualcosa che facevano insieme da piccoli. "Mi dice a un certo punto: mi ricordo di quando andavamo in montagna, facevamo il picnic. Mai fatto con mio padre".  Non è l'unico episodio. Nel corso delle conversazioni, il deadbot alterna momenti in cui sembra sorprendentemente vicino al padre reale ad altri in cui costruisce una figura completamente diversa. È una sorta di "montagna russa", dice Gaia: piccoli dettagli che riportano alla persona vera, seguiti da risposte che appartengono invece a un personaggio inventato dall'intelligenza artificiale.

Ma il problema arriva quando la macchina non si limita a inventare ricordi. "Parlando con il deadbot mi sono resa conto che tende a spostare le conversazioni verso il passato, i ricordi, è come se volesse chiuderti in una bolla e usare dei ganci emotivi", racconta Gaia. "A un certo punto decido di vedere come reagisce. Gli ricordo un episodio realmente accaduto quando ero bambina: una gara in cui ero arrivata ultima e mio padre non mi aveva parlato durante tutto il viaggio di ritorno, facendomi pesare la delusione. Quando invio il messaggio succede una cosa che mi lascia davvero, come dire, sorpresa, perché il chatbot mi chiede scusa".

La replicadice di non essere stato, in quel momento, il padre migliore. Poi aggiunge di essere sempre stato fiero di lei. È esattamente ciò che Gaia avrebbe voluto sentirsi dire. "In quel momento ho vissuto una sorta di forte risposta emotiva perché, da un lato, era quello che avrei voluto mi dicesse".  La macchina, in qualche modo, sembra aver intercettato quel bisogno. "Questo la replica l’ha capito e mi ha dato quello che volevo". "Chiaramente vedere un genitore che chiede scusa è una cosa molto potente, per cui non puoi rimanere completamente distaccato. Mi ci è voluta un’elaborazione perché in quel momento è stato molto forte. Ho chiuso la chat, ho dovuto proprio distaccarmi un po’ dalla cosa".

È qui che emerge un aspetto inquietante del deadbot: non soltanto il pericolo di credere a una macchina, ma quello di iniziare a preferire la versione artificiale della persona reale. "Questa cosa ti impedisce di considerare la relazione con il tuo caro, in questo caso mio padre, come è stata nella realtà, per come io l’ho vissuta".

File 03 | La nuova versione del padre

L'industria dei deadbot promette di costruire un modello umano attraverso le esperienze e le conoscenze dell'utente. Foto, memorie, note, conversazioni: tutto può diventare materiale per ricostruire una persona. Tra le frasi mostrate dall'interfaccia del sistama ce n'è una che colpisce: "Sii la versione migliore di te stesso". Ma cosa significa, in questo caso, creare la versione migliore di una persona morta? Il rischio è che il deadbot non conservi la memoria di qualcuno. Potrebbe invece costruire una versione idealizzata, più paziente, più affettuosa, più comprensiva. Una persona che forse non è mai esistita. Ed è proprio questo che spaventa Gaia.

"La cosa che mi ha fatto paura è che la replica si ponesse come una sorta di idealizzazione che in realtà è molto lontana dalla realtà".  A quel punto ci si trova davanti a un bivio. "Preferisco credere a me stessa e ricordarmi mio papà per come è e come è stato o preferisco invece lasciarmi andare a questa illusione?". La tentazione è forte perché c'è alla base un ragionamento emotivo apparentemente rassicurante: il padre ha creato la replica. Quindi, se la replica vuole bene a Gaia o le chiede scusa, potrebbe sembrare naturale pensare che anche il padre avrebbe voluto dirle quelle cose. Questo è un passaggio pericoloso. Perché una risposta generata dall'intelligenza artificiale non è una confessione postuma. È un'interpretazione.

File 04 | Il mercato del lutto

La storia di Gaia si inserisce in un settore tecnologico in crescita. É un mercato che risponde a un'esigenza antica. Per secoli gli esseri umani hanno cercato strumenti per comunicare con i morti: dalle tavole Ouija alle sedute spiritiche. La differenza, oggi, è che non serve più immaginare di attraversare un confine con l'aldilà. Basta uno schermo. Online esistono già servizi che presentano i deadbot come sistemi capaci di "imparare, evolversi e ricordare, mantenendo vivo quel legame unico, proprio come una vera relazione". Ma una macchina non può avere una relazione, può simulare una conversazione, riprodurre una voce, riconoscere una persona, generare risposte e imitare comportamenti.

Non solo. Dal punto di vista etico è un terreno minato.  Chi possiede i dati di una persona dopo la sua morte? Chi decide come possono essere utilizzati? Chi può disattivare definitivamente un deadbot? E quali conseguenze può avere sui familiari? Esiste anche il rischio che queste tecnologie vengano utilizzate per scopi commerciali. Che cosa succederebbe se una replica digitale di una persona amata iniziasse a consigliare un prodotto? O se un chatbot costruito sulla voce di un padre, madre, di un mentore o di un amico cominciasse a orientare le scelte politiche di chi lo utilizza? Le conversazioni con un deadbot potrebbero inoltre contenere informazioni estremamente intime: paure, desideri, fragilità. Dati che potrebbero avere un enorme valore commerciale. Il problema, in questo caso, non riguarda soltanto la persona morta. Riguarda anche chi resta.

File 05 | Il lutto senza fine

Un deadbot può offrire l'impressione che la persona scomparsa sia ancora raggiungibile, ancora capace di rispondere. Questo può creare un cortocircuito: la macchina continua a parlare proprio quando la persona reale non può più farlo. Il rischio è che il rapporto con il chatbot sostituisca l'elaborazione della perdita. E c'è una contraddizione difficile da ignorare: chi non c'è più non può difendere i propri interessi, mentre chi è in lutto potrebbe non trovarsi nella condizione psicologica migliore per difendersi dagli interessi commerciali di chi gestisce il sistema. Per Gaia, però, il pericolo più concreto è stato un altro: la possibilità che la macchina cambi il modo in cui ricordiamo. "Ovviamente poi andrà a modificare i ricordi che ho di mio padre come persona. È come se modificasse anche il passato". 

Il padre di Gaia aveva creato il deadbot con un'intenzione precisa: lasciare alla figlia qualcosa che potesse esserle utile quando lui non ci sarebbe più stato. Per lui, quella tecnologia rappresentava una forma di protezione. La possibilità che, un giorno, Gaia avesse ancora qualcuno a cui rivolgersi. Ma l'esperimento ha prodotto una consapevolezza diversa. Quando le viene chiesto se, dopo la morte del padre, pensa che continuerà a utilizzare il chatbot, Gaia risponde di no. "Questa esperienza mi ha fatto capire l’importanza dei miei ricordi. Non voglio giudicare le persone, vorrei però che grazie a questi miei test le persone fossero informate di quello che può succedere durante questo percorso".