Scienziato perde due anni di lavoro per un clic sbagliato su ChatGPT: cosa è successo

Un clic sbagliato e due anni di fatica accademica sono svaniti nel nulla, senza possibilità di recuperare alcunché. È la disavventura raccontata da Marcel Bucher, professore di scienze delle piante all'Università di Colonia, che dopo aver utilizzato ChatGPT per semplificare il suo lavoro di ricerca si è visto cancellare in pochi istanti mesi e mesi di schemi, grafici ed elaborati. Il tutto per aver messo alla prova le regole sulla privacy di OpenAI, l'azienda sviluppatrice del chatbot più famoso del mondo.

Bucher ha deciso di raccontare la propria esperienza sulle pagine della rivista Nature sottolineando come, al di là dell'errore individuale, la vicensa apra alcuni interrogativi sul rapporto, sempre più stretto, tra l'intelligenza artificiale e lo svolgimento dell'attività scientifica.

Il chatbot come segretario e assistente

Per circa due anni Bucher aveva integrato ChatGPT Plus, la versione che prevede un abbonamento di circa 20 dollari mensili, nella sua attività professionale. Il modello di OpenAI era diventato un vero e proprio assistente. Dalla scrittura di e-mail alla preparazione delle lezioni, dalla strutturazione di domande di finanziamento alla revisione di articoli scientifici, fino all'analisi degli esami degli studenti. Ogni cosa passava dall'interazione con il chatbot, capace di ridurre drasticamente i tempi di organizzazione del lavoro e di evitare le incombenze più noiose.

Non si trattava però, come lo stesso docente ha tenuto a chiarire, di una cieca fiducia nella macchina. "Ero ben consapevole che modelli linguistici di grandi dimensioni come quelli alla base di ChatGPT possono produrre affermazioni apparentemente sicure ma a volte errate", ha scritto Bucher, descrivendo quelle che in gergo vengono definite le "allucinazioni" dell'IA.

Dati cancellati e non recuperabili

Il punto di non ritorno si è però verificato lo scorso agosto quando, curioso di capire se avrebbe avuto ancora accesso a tutte le funzioni del modello anche smettendo di fornire i suoi dati a OpenAI, Bucher ha deciso di disattivare temporaneamente l'opzione di consenso all'uso dei dati. Il risultato è stato immediato e irreversibile. "In quel momento, tutte le mie chat sono state eliminate permanentemente e le cartelle di progetto svuotate", ha scritto. "Non è apparso alcun avviso. Non c'era l'opzione per annullare. Solo una pagina bianca". Due anni di lavoro erano appena andati in fumo.

Convinto inizialmente di trovarsi di fronte a un errore tecnico, il professore ha provato a recuperare i dati cambiando browser e dispositivi, cancellando la cache, reinstallando l'applicazione e ripristinando le impostazioni. Ogni tentativo si è rivelato vano. Anche il contatto con l'assistenza clienti non ha portato a un esito diverso. "Le prime risposte sono arrivate da un agente AI", racconta Bucher. Solo dopo ripetute richieste è intervenuto un operatore umano, il quale non ha però potuto fare altro che confermare che i dati erano definitivamente persi e non recuperabili.

Perché la chat è stata cancellata: colpa delle regole di tutela della privacy su ChatGPT

Leggendo la lunga pagina sull'Informativa della Privacy sul sito di OpenAI, l'azienda spiega di raccogliere dati personali legati all’account, ai contenuti inseriti nelle chat e all’utilizzo tecnico del servizio, come indirizzo IP, dispositivo e modalità di accesso. Queste informazioni servono a far funzionare ChatGPT, migliorarne le prestazioni, prevenire abusi e adempiere agli obblighi di legge. I contenuti delle conversazioni possono inoltre essere utilizzati per addestrare i modelli ma, come il professor Bucher ha potuto constatare, l'utente ha la possibilità di revocare il consenso. Quando però la condivisione dei dati viene disattivata, entra in gioco il principio della "privacy by design": le chat vengono cancellate e non sono più recuperabili.

"OpenAI ha rispettato quello che considerava un impegno per la mia privacy come utente, cancellando le mie informazioni nel momento stesso in cui gliel'ho chiesto", ha sintetizzato Bucher, che però ora deve fare i conti con la perdita irreparabile di due anni di sforzi professionali.

Una forma di protezione quindi, ma che nel caso di Bucher, si è trasformata in una perdita irreparabile di materiale professionale. Per il docente, il problema è strutturale. "Se un solo clic può cancellare anni di lavoro, ChatGPT non può essere considerato completamente sicuro per un uso professionale", ha affermato, sottolineando l'assenza di avvisi chiari, sistemi di backup o anche solo di un periodo di recupero temporaneo.

Un monito per tutti

Al di là dei giudizi, il caso Bucher mette in luce una fragilità più ampia. Le università spingono sempre più verso l'integrazione dell'intelligenza artificiale nella ricerca e nella didattica, ma gli strumenti disponibili non sembrano ancora progettati secondo standard di affidabilità e responsabilità comparabili a quelli richiesti in ambito scientifico.

Per chiarire la questione, la rivista Nature ha fatto sapere di aver contattato l'azienda per un commento, ma la risposta non è cambiata rispetto a quanto è stato detto a Bucher. Oltre a inviare un messaggio di conferma prima di avviare l'operazione di rimozione dei dati (e quindi della chat), OpenAi non ha altri strumenti per gestire la cosa e tutto ciò che viene rimosso non può essere mai recuperato. La compagnia ha però tenuto a ricordare la buona pratica di effettuare backup personali per essere sicuri di non perdere ciò su cui si sta lavorando.