Tetiana, 19 anni, è la prima vittima di un’arma guidata da IA. L’esperto: “È iniziato l’incubo dei robot killer”

Tetiana Bubynets: è questo il nome della ragazza ucraina di 19 anni, prima vittima documentata di un sistema d'arma completamente autonomo e guidato da intelligenza artificiale. La giovane è rimasta uccisa la scorsa settimana insieme ad altre due persone a seguito dell'impatto di un piccolo drone russo contro una stazione di servizio a Zaporizhzhia, nell'Ucraina sud-orientale. La morte di Tetiana non sarebbe una notizia all'interno di una guerra che ha già mietuto decine di migliaia di vittime, se non fosse per un dettaglio che potrebbe cambiare per sempre la storia dei conflitti armati: lei e le altre due persone non sono state uccise da altri esseri umani, né direttamente né indirettamente, bensì da un sistema d'arma totalmente autonomo e "guidato" dall'intelligenza artificiale.

Come infatti rivelato da un lungo reportage del New York Times – basato sulle analisi di una squadra forense sui rottami e sulle testimonianze di esperti e comandanti militari – il drone russo impiegato era stato semplicemente programmato per dirigersi in quell'area. Una volta sul posto, l'algoritmo a bordo ha scansionato l'ambiente, ha riconosciuto i serbatoi di propano in base al proprio addestramento visivo e ha scelto autonomamente di colpire uccidendo anche Tetiana e altre due persone che casualmente si trovavano nelle vicinanze, "vittime collaterali" di decisioni prese non da altri esseri umani, ma da un algoritmo. L'era distopica dei robot killer capaci di prendere decisioni di vita o di morte, riducendo gli umani a semplici dati, è ufficialmente iniziata.

Per analizzare le conseguenze etiche e geopolitiche di questa drammatica svolta, Fanpage.it ha intervistato Fabrizio Battistelli, Presidente dell'Istituto di Ricerche Internazionali Archivio Disarmo nonché sociologo esperto di sicurezza interna e internazionale, di gestione dei conflitti, di sociologia dei processi di pace.

La scorsa settimana una studentessa universitaria di 19 anni, Tetiana Bubynets, è rimasta uccisa insieme ad altre due persone a seguito dell'impatto di un piccolo drone russo contro una stazione di servizio a Zaporizhzhia, nell'Ucraina sud-orientale. Si tratta della prima vittima documentata di un sistema d'arma completamente autonomi e guidato da intelligenza artificiale.

Si tratta di una vicenda emblematica. Era un evento nell'aria da tempo, qualcosa che in forma meno evidente era già accaduto di recente, ma ora il tema del mancato controllo umano sulle armi è emerso in tutta la sua drammaticità. Finora si è sempre parlato di droni semi-autonomi; oggi, a causa del costante incremento tecnologico e operativo, stiamo assistendo alla transizione verso armi del tutto autonome, del tutto prive della supervisione dell'uomo. Questo scenario apre problemi enormi e viola frontalmente il diritto internazionale umanitario, che richiede la responsabilità diretta dell'operatore in ogni fase dell'azione sul campo. Insomma, possiamo dire che è davvero iniziato l’incubo dei robot killer.

Ci spiega come funzionano concretamente queste tecnologie e come avviene il passaggio all'autonomia decisionale?

I droni nascono originariamente come sistemi di sorveglianza e ricognizione. Successivamente sono stati impiegati per l'individuazione degli obiettivi e, infine, sono diventati veri e propri sistemi d'arma in grado di colpire e bombardare. Finora la prassi accettata prevedeva la presenza dell'uomo nel ciclo decisionale (human in the loop): l'algoritmo individua il bersaglio e invia i dati all'operatore (il pilota di droni, affiancato da esperti di elettronica e intelligence), il quale mantiene l'ultima parola e impartisce il comando di attacco.

Oggi assistiamo a uno scivolamento progressivo – quello che gli americani definiscono creeping – verso la modalità human off the loop: l'uomo viene del tutto estromesso e il drone, giunto nell'area prescelta, valuta in autonomia se ciò che inquadra sia un bersaglio valido da distruggere. È esattamente la dinamica verificatasi a Zaporizhzhia. Ma a farne le spese è stata una civile, una studentessa di 19 anni che solo per caso si trovava nei pressi del target dei russi.

Oltre allo scenario ucraino, queste tecnologie guidate dall'IA sono usate anche nel conflitto a Gaza?

A Gaza, per quanto noto finora, le tecnologie di IA vengono impiegate ancora all'interno dello schema con controllo umano. L'algoritmo analizza il contesto e segnala all'operatore militare la presenza di un soggetto corrispondente al presunto profilo di un miliziano. All'operatore viene concesso un margine di tempo ridottissimo, di pochissimi secondi, per confermare l'attacco. Benché l'umano tenda quasi sempre ad assecondare l'indicazione della macchina, formalmente resta garantita la facoltà di decidere se premere o meno il grilletto. A Zaporizhzhia, al contrario, siamo passati alla totale assenza del controllo umano.

Quello di Zaporizhzhia è quindi il primo caso confermato di attacco gestito da un'arma del tutto svincolata dall'intervento umano?

È il primo caso reso pubblicamente noto e documentato. È probabile che ve ne siano stati altri in precedenza, ma questo è il primo di cui si abbiano prove certe. L'aspetto ancor più grave riguarda i rottami del drone, nei quali è stato rinvenuto un modulo di calcolo prodotto dall'azienda statunitense Nvidia. Nonostante i proclami sull'embargo di tecnologie strategiche, questi microprocessori commerciali a doppio uso (civile e militare) continuano a circolare sul libero mercato e, attraverso triangolazioni commerciali molto semplici, finiscono nelle mani delle forze russe.

Anche aziende della difesa italiane, penso ad esempio alla Leonardo, stanno progettando o realizzando sistemi d'arma di questo tipo?

Più che una questione di progettazione aziendale, il punto è che quasi tutti i sistemi d'arma attuali, al livello tecnologico raggiunto, possono essere resi autonomi. L'unico ostacolo resta di natura giuridica e politica: il diritto internazionale umanitario stabilisce infatti la necessità del Controllo Umano Significativo (CUS), ovvero l'obbligo che vi sia sempre una persona responsabile della decisione e delle sue conseguenze.

Su questo tema è in corso un duro confronto alle Nazioni Unite, nell'ambito della Conferenza di Ginevra sulle armi convenzionali. Da un lato vi sono diversi Paesi, in particolare alcuni Paesi BRICS, che chiedono la proibizione esplicita delle armi ad IA prive di controllo umano. Dall'altro ci sono le grandi potenze – Stati Uniti, Russia, Israele e la Cina che tentenna – opposte a nuove regolamentazioni, sostenendo che le norme generali esistenti siano già sufficienti. I Paesi europei, tra cui Italia e Francia, mantengono una posizione intermedia: vietare l'uso dell'IA autonoma contro bersagli umani (ammettendola solo su infrastrutture inanimate) e prescrivere sempre il CUS in ogni altra operazione.

Qual è la sua risposta a chi sostiene che l'IA nelle armi serva a ridurre i cosiddetti "danni collaterali". In fondo – dicono alcuni – tramite l'intelligenza artificiale si potrebbero portare colpi più precisi, evitando un gran numero di vittime civili. La convince questa tesi?

Risponderei con un "no comment". Ma è giusto argomentare: questa tesi non è che un pretesto avanzato da settori dell'industria bellica e da alcuni ricercatori per promuovere una deregolamentazione di queste tecnologie. Come osservava il sociologo Zygmunt Bauman, la società tardo-moderna tende a una deresponsabilizzazione generale, rendendo le decisioni adiafore, ossia prive di un soggetto che se ne assuma la responsabilità morale e legale.

L'orizzonte è inquietante perché si sta ipotizzando di mettere in interazione diretta algoritmi diversi fra loro. Si sta pensando di fare lo stesso persino in campo nucleare: un algoritmo rileva un presunto attacco nemico e un altro algoritmo predispone automaticamente la risposta. Attualmente, tra le grandi istituzioni, mi pare che solo il Papa abbia espresso parole chiare sui rischi enormi che sta correndo la civiltà umana con un impiego sconsiderato dell'intelligenza artificiale anche in ambito bellico.

Guardando ai prossimi anni, ritiene che si riuscirà a regolamentare questo settore o l'uso di armi autonome si amplierà ulteriormente?

Fino a un anno e mezzo fa si intravedeva qualche timida apertura al dialogo all'interno dell'amministrazione Biden. Oggi, con l'amministrazione Trump e con le posizioni rigide di Paesi come Russia e Israele, le prospettive di un accordo internazionale sono scarse e prevale il pessimismo.

Questo non significa che ci si debba arrendere. È fondamentale che la società civile continui a fare pressione sui governi. Un esempio centrale è la campagna internazionale Stop Killer Robots – a cui come Archivio Disarmo abbiamo conferito il premio Colomba d'Oro per la Pace – che raccoglie centinaia di organizzazioni e scienziati in tutto il mondo per ottenere un trattato di proibizione delle armi autonome. La sproporzione di forze con il potere politico è evidente, ma il dibattito pubblico va tenuto aperto.