Usa ChatGPT per salvare il cliente dall’ergastolo, ma l’IA inventa tutto: avvocato multato per 5.000 dollari

Un avvocato del New Mexico è stato sanzionato con una multa salata per aver utilizzato con troppa leggerezza l'intelligenza artificiale nella stesura del ricorso contro la condanna all'ergastolo del suo cliente. Stephen Aarons, avvocato penalista di Santa Fe con oltre quarant'anni di esperienza, aveva presentato ai giudici una documentazione piena di nomi inventati, testimonianze mai avvenute e rapporti di polizia completamente distorti. Secondo la Corte Suprema dello Stato, il motivo di una simile imperizia era dovuto al fatto che il ricorso era stato generato da ChatGPT e che Aarons non si era preoccupato di verificare la correttezza di tutte le informazioni riportate. Un errore da studente svogliato che usa l'IA per barare sui compiti in classe, ma in questo caso le conseguenze sono state ben più pesanti di un brutto voto o una lavata di capo davanti alla classe. I giudici hanno infatti condannato il legale per oltraggio alla corte, comminando una multa da 5.000 dollari.

La testimonianza dell'IA con fatti inventati di sana pianta

Aarons è stato colto in fallo mentre stava lavorando alla difesa in appello di Oscar Renee Sandoval, condannato all'ergastolo per l'omicidio della madre dei suoi figli. Non proprio un furto della marmellata. Per preparare il ricorso, il legale ha quindi pensato bene di rivolgersi alla potenza dell'intelligenza artificiale. Dopo aver dato in pasto a ChatGPT le trascrizioni del processo e altro materiale relativo al procedimento, l'uomo ha quindi chiesto al chatbot di elaborare un "riassunto inattaccabile" della documentazione. Ponendo quella richiesta, Aarons ha però sottovalutato una delle caratteristiche peculiari dei modelli IA: quando la macchina non sa qualcosa, non si fa tanti scrupoli a inventare pur di offrire all'utente una risposta coerente e funzionale alla domanda iniziale.

Il risultato è stato proprio questo. Non trovando negli atti originali informazioni sufficienti a elaborare un documento capace di vincere con certezza il ricorso, l'IA ha cominciato a generare dichiarazioni mai rilasciate, attribuendole a testimoni inesistenti. Un caso da manuale di "allucinazione", che però è finito in un documento depositato in tribunale.

Il confronto in aula e il duro richiamo dei giudici

Usare l'IA in tribunale non è ovviamente illegale, ma i tribunali americani impongono chiari limiti per tutelare il giudizio umano. Da noi in Italia simili principi sono stati messi nero su bianco dalla legge 132 del 2025, la quale si è a sua volta adeguata all'AI Act dell'Unione Europa. In tutte queste disposizioni normative, il principio è sempre lo stesso: l'IA può essere usata per rendere più efficiente le procedure, ma non deve mai mancare il controllo da parte dell'essere umano. Esattamente ciò che Aarons non ha fatto.

Durante l'udienza avvenuta lo scorso 21 agosto, il gelae ammesso di aver utilizzato ChatGPT non sapendo fino a che punto il sistema potesse manipolare i dati e le informazioni in suo possesso. Aarons ha anche parlato di un errore commesso in buona fede e ha espresso il proprio pentimento. I giudici non hanno però ammorbidito la propria posizione. Come riporta l'agenzia Reuters, la giudice C. Shannon Bacon ha contestato apertamente al professionista la scarsa consapevolezza dei rischi ormai noti dell'intelligenza artificiale. Aarons è infatti un professionista affermato – basta dare un'occhiata al suo sito personale per accorgersi di non avere a che fare con un novellino del Foro – e doveva essere a conoscenza di tutte le controversie e i rischi di un simile comportamento.

La Corte Suprema ha quindi adottato una serie di provvedimenti nei confronti di Aarons. Oltre alla multa di 5.000 dollari, destinata al fondo statale per la tutela dei clienti, il tribunale lo ha dichiarato colpevole di oltraggio alla corte e lo ha escluso dal caso. I giudici hanno anche trasmesso il caso all'ordine degli avvocati del New Mexico, che ora potrà valutare ulteriori conseguenze disciplinari.

Il pentimento dell'avvocato

Dopo il pronunciamento della Corte, Aarons ha definito quanto accaduto una lezione per tutti i professionisti che utilizzano l'intelligenza artificiale. Ha spiegato di essersi affidato allo strumento senza conoscere adeguatamente i suoi limiti e ha auspicato che la commissione disciplinare consideri l'episodio come un errore in buona fede. La posizione espressa dal tribunale è stata però molto più severa. Nella decisione scritta i giudici hanno parlato di una mancanza di rimorso e di sufficiente attenzione nei confronti del proprio cliente.

Dopo la vicenda, Aarons ha completato un corso di formazione continua sull'utilizzo dell'intelligenza artificiale in ambito legale e ha suggerito che una formazione specifica possa diventare obbligatoria per gli avvocati.