L’IA può far parlare in tribunale le vittime di omicidio ma non è detto che sia giusto farlo

Negli Stati Uniti un uomo riconosciuto colpevole di omicidio colposo verrà nuovamente processato – e condannato –  perché la sua pena era stata influenzata da una video testimonianza della vittima realizzata con l'intelligenza artificiale. Sembra la trama di un episodio di Black Mirror, ma è ciò che sta succedendo in Arizona, dove la condanna a dieci anni di reclusione per Gabriel Paul Horcasitas è stata annullata in appello. Al centro delle motivazioni della corte c'è un video nel quale Christopher Pelkey, ucciso nel 2021, sembrava rivolgersi direttamente al giudice e al suo assassino. A realizzarlo era stata la sorella della vittima, utilizzando l'IA per ricrearne il volto e la voce.

La vittima tornata in aula grazie all'IA

Su Fanpage.it avevamo raccontato il caso nel maggio 2025. Vi lasciamo qui l'articolo. Christopher Pelkey, veterano dell'esercito, era stato ucciso a 37 anni durante una lite stradale a Chandler, cittadina dell'Arizona. Secondo le autorità, Horcasitas, allora 55enne, gli aveva sparato dopo che Pelkey era sceso dal suo furgone e si era avvicinato al veicolo dell'uomo, a un semaforo. Pelkey era disarmato. Durante l'udienza per la condanna, la famiglia aveva deciso di farlo "tornare" in tribunale. La sorella Stacey Wales aveva raccolto fotografie, video e registrazioni vocali e li aveva utilizzati per creare un avatar digitale con le sembianze e la voce di Chris. Farlo non è stato particolarmente complicato. Online ci sono diversi siti e app per realizzare i cosiddetti deadbot. È un fenomeno che la nostra giornalista Elisabetta Rosso ha recentemente raccontato in una puntata di Abisso.

Nel video, l'avatar spiegava di essere una versione di Chris Pelkey ricreata attraverso l'intelligenza artificiale. Poi si rivolgeva direttamente a Horcasitas, con un messaggio di perdono, spiegando che di essere dispiaciuto per le circostanze del loro incontro e che, in un'altra vita, forse sarebbero potuti diventare amici. "Credo nel perdono e in un Dio che perdona", aveva aggiunto la versione digitale di Pelkey, prima di congedarsi con una frase affettuosa rivolta alla famiglia. La sorella aveva spiegato di aver cercato, raccogliendo testimonianze di amici, familiari e persone che avevano conosciuto Chris, di capire che cosa avrebbe realmente voluto dire durante l'udienza.

Perché il video ha fatto annullare la sentenza

Secondo la Corte d'Appello dell'Arizona, il problema non era stato tanto l'utilizzo dell'IA, quanto il taglio in cui il video presentava come autentiche le parole di una persona che in realtà non poteva più pronunciarle. La corte ha stabilito che il filmato aveva oltrepassato il limite perché non documentava un evento realmente accaduto né registrava un momento della vita di Pelkey. Mostrava invece una rappresentazione della vittima e dei suoi pensieri, costruita a partire dall'immaginazione della sorella, che ha restituito una testimonianza dal forte peso emotivo.

Per la difesa di Horcasitas, tutto questo avrebbe contribuito a influenzare la decisione del giudice anche perché, ha sottolineato l'avvocata di Kristen Reller, se le stesse parole fossero state semplicemente lette dai parenti della vittima avrebbero avuto un effetto totalmente diverso.

Un precedente che può far scuola

Il caso Pelkey è considerato senza precedenti negli Stati Uniti e ci porta inevitabilmente a chiederci fino a che punto le potenzialità dell'intelligenza artificiale possano essere utilizzate in un'aula di tribunale. Qui non stiamo infatti parlando di modelli usati per velocizzare la raccolta della documentazione – pratica che, come dimostra il recente caso di un avvocato del New Mexico che ha usato con troppa leggerezza ChatGPT, non è comunque priva di grossi rischi – ma di una riproduzione di una persona deceduta alla quale vengono attribuite pensieri e dichiarazioni in grado di orientare l'esito di una sentenza. Il rischio di trasformare un processo in una commedia drammatica con avatar chiamati a recitare una parte è dietro l'angolo.

Non solo. Il grande timore degli esperti è che casi simili possano aprire la strada a un uso sempre più ampio di contenuti generati artificialmente nei tribunali. Intervistato dalla CBS, il professore di diritto all'Arizona State University Gary Marchant ha avvertito in particolare del rischio legato ai deepfake: sono relativamente semplici da creare e possono avere un forte impatto proprio perché giudici e giurie, come chiunque altro, tendono a credere a ciò che vedono. Per Horcasitas, dunque, l'accusa di omicidio colposo resta. Sarà però necessario tornare davanti a un giudice per stabilire nuovamente la pena, questa volta senza che il video generato dall'intelligenza artificiale possa contribuire alla decisione nello stesso modo.