Droni killer a guida IA, l’allarme di Boyd: “I terroristi stanno imparando dalla guerra in Ucraina”

Il drone russo che a Zaporizhzhia ha colpito a morte la diciannovenne Tetiana Bubynets e altri due civili volava senza controllo umano. Ma non ha scelto di uccidere. Il raid mostra i limiti dell’intelligenza artificiale più che la sua efficacia militare. È l’analisi di Bradley Boyd, ex ufficiale dell’Esercito e dei Marines degli Stati Uniti, oggi accademico a Stanford. I russi avevano scelto come obiettivo una stazione di servizio. Il software del drone avrebbe dovuto riconoscerne e colpirne una parte precisa, forse i serbatoi di propano. Invece ha urtato un muro ed è esploso vicino ad alcuni civili. “Con ogni probabilità è stato un attacco fallito”, dice Boyd a Fanpage.it. “Mette a nudo le carenze della tecnologia”.

La distinzione conta. Non siamo di fronte a una macchina che vaga sul campo di battaglia scegliendo le proprie vittime. Sul piano operativo e giuridico, il raid è assimilabile al lancio di un “normale” missile a guida autonoma. Esseri umani hanno scelto l’obiettivo e ordinato l’attacco. L’automazione è intervenuta solo alla fine. Per Boyd il pericolo più grave è un altro. La guerra in Ucraina mostra a governi, terroristi e cartelli della droga come trasformare componenti commerciali a basso costo in armi autonome. Tra i rottami dei droni russi è stato trovato un Nvidia Jetson Orin: un minicomputer acquistabile da chiunque per poche centinaia di euro. Parliamo di un pc nato per la robotica civile e il riconoscimento delle immagini, è adatto a impieghi militari avanzati.

“L’Ucraina sta mostrando al mondo come costruire sistemi d’attacco economici”,  avverte Boyd. L’esercito dei robot killer resta fantascienza. Lo scenario di droni a buon  mercato lanciati da criminali su una folla per seminare panico e mandare in tilt servizi e sistemi di sicurezza e paralizzare una città, è invece piuttosto realistico. Intanto, la guerra resterà violenta, imprevedibile, di fatto incontrollabile. Non ci saranno mai conflitti combattuti solo tra droni, con poche vittime o punte. E il problema più difficile non sarà inventare tecnologie per distruggere più obiettivi. Sarà sempre quello, tutto umano, di trovare soluzioni politiche e fermare la carneficina.

Colonnello Boyd, siamo certi che il drone che ha ucciso i tre civili a Zaporizhzia fosse autonomo?
Gli elementi disponibili lo fanno pensare. Un drone pilotato a distanza ha bisogno di un’antenna per controllare il velivolo e di un’altra per trasmettere le immagini di telecamera e sensori. Secondo quanto ricostruito dal New York Times, questo drone non le aveva. Si affidava solo al computer di bordo.

L’episodio segna una svolta?
Non credo. Sembra un impiego limitato della visione artificiale in un ambiente elettromagnetico degradato, dove comunicazioni e sistemi di navigazione possono essere disturbati. Telecomandare un drone diventa difficile. Un drone autonomo ha maggiori chance di raggiungere il bersaglio, in teoria. Il drone era stato programmato per individuare e colpire una parte precisa della stazione di servizio. Non ci è riuscito. Ha urtato qualcos’altro ed è esploso. È diventato letale perché c’erano civili nelle vicinanze. L’attacco non sembra tecnologicamente sofisticato. Semmai, mostra i limiti del sistema.

Quindi il drone non ha deciso da solo di attaccare la stazione di servizio?
Ritengo che l’obiettivo fosse già stato scelto da esseri umani. Di solito, una piattaforma di intelligence, sorveglianza o ricognizione individua il bersaglio. I militari decidono di colpirlo e lanciano l’arma nella sua direzione. Il sistema di bordo trova poi l’oggetto designato e completa l’attacco.

Che cosa accade se alcuni civili entrano nell’area dopo il lancio? Deve essere possibile annullare l’attacco?
Non necessariamente. In genere non si pretende che un missile guidato possa essere richiamato se un civile entra all’improvviso nell’area dell’obiettivo dopo il lancio. Da questo punto di vista, il drone di cui parliamo non è molto diverso dai vecchi missili a guida autonoma. E il problema giuridico di fondo resta lo stesso: chi ordina l’attacco deve aver valutato se l’obiettivo è legittimo, se il danno previsto è proporzionato e quali precauzioni servono per evitare vittime civili.

E chi risponde della morte di civili provocata da un’arma autonoma?
Può stabilirlo solo un’indagine. La responsabilità può essere distribuita tra più persone. Dipende da com’è stato scelto l’obiettivo, dal progetto dell’arma e da come ha funzionato. La morte di civili, però, non rende automaticamente illegale un attacco. Se l’obiettivo era militarmente legittimo e sono stati rispettati i principi di distinzione, proporzionalità e precauzione, potrebbe non esserci una responsabilità penale individuale. Anche se alcuni civili sono stati uccisi. Sulla base delle sole informazioni pubbliche, non vedo elementi che permettano di definire automaticamente questo attacco un crimine di guerra.

Anche l’Ucraina usa droni autonomi. Il fatto che si stia difendendo da un’aggressione cambia qualcosa?
Sia chi attacca sia chi si difende deve rispettare il diritto bellico. Il diritto dell’Ucraina a difendersi non crea regole diverse per l’impiego di una determinata arma.

Quanto divergono le tecnologie e i modi di utilizzo russi e ucraini delle armi autonome?
Le tecnologie sono simili ma i sistemi ucraini sembrano più avanzati. Pare che adesso i russi abbiano meno remore. Nel caso in questione potevano usare una testata con meno potenza esplosiva per mettere fuori uso la stazione di servizio, invece di distruggere tutto.

I sostenitori delle armi autonome dicono che le macchine potranno ridurre le vittime militari e civili in guerra. È credibile?
L’automazione può migliorare alcuni aspetti dell’individuazione dei bersagli. Ma non renderà prevedibile la guerra e non eliminerà la violenza. Occorre distinguere tra la natura della guerra e il suo carattere. Il carattere cambia di continuo: un tempo si combatteva a cavallo. La natura della guerra, invece, resta violenta e imprevedibile. L’intelligenza artificiale non cambierà questo dato.

Quanto sono vicine Russia, Ucraina o altre potenze all’impiego di grandi sciami autonomi?
Coordinare più sistemi in un ambiente conteso è molto difficile. Durante uno spettacolo, i droni possono comunicare liberamente e volare insieme per disegnare forme nel cielo. Sul campo di battaglia, il nemico cerca di interrompere le comunicazioni con la guerra elettronica. Oggi nessuno è in grado di usare un grande sciame autonomo in modo militarmente efficace.

Come potrebbe essere il campo di battaglia nel 2036?
Una parte sempre maggiore del processo di selezione e attacco dei bersagli sarà automatizzata. La questione politica è se le società accetteranno un sistema nel quale gli esseri umani decidono cosa distruggere e le macchine vanno a cercarlo e lo distruggono. Ma andiamo in questa direzione. Le attività più vicine al fronte saranno le prime ad essere automatizzate.

Quale sarà la sfida più difficile per i comandanti militari e per i leader politici?
Capire se la distruzione tattica sta producendo il risultato strategico e politico voluto. Gli eserciti possono continuare a distruggere mezzi e infrastrutture. Non significa che il conflitto si avvicini alla fine. Con l’automazione, il problema potrebbe diventare ancora più difficile.

Non dobbiamo immaginarci futuri conflitti con un cielo pieno di robot killer che decidono chi deve vivere e chi deve morire sulla base di semplici dati?
No. Il pericolo più immediato è la proliferazione. L’Ucraina sta mostrando al mondo come costruire sistemi d’attacco economici. Le organizzazioni terroristiche e i cartelli della droga osservano. Possono capire quali componenti servono e acquisire le competenze necessarie. Nei prossimi vent’anni, la diffusione di capacità d’attacco a corto raggio e a basso costo sarà un problema serio per i governi. Pochi droni economici, magari stampati in 3D e dotati di piccole cariche esplosive, potrebbero essere lanciati contro una folla. Con conseguenze enormi. La risposta saranno sistemi non cinetici efficaci contro i droni. I governi non hanno ancora il pieno controllo di queste tecnologie. La difesa anti-drone dovrebbe diventare una priorità di investimento non solo per le forze armate, ma anche per le agenzie di sicurezza interna.