Prima la richiesta, poi la conferma. Alla fine i robot in grado di uccidere entreranno a far parte dell’arsenale della polizia di San Francisco. Con otto voti a favore e tre contrari il Consiglio dei Supervisori ha deciso che i gradi più alti della polizia potranno guidare dei robot dotati di esplosivi e usarli uccidere delle persone ma solo in situazione estremamente critiche.

I casi per cui è pensata questa tecnologia non sono molti e riguardano soprattutto situazioni in cui la morte di un individuo potrebbe consentire di mettere al sicuro la vita di altri. Una cosa che succede, ad esempio, quando c’è un attentatore che tiene sotto tiro degli ostaggi. Prima di questa richiesta i robot erano già impiegati dalla polizia per interventi delicati come lo smaltimento di bombe inesplose.

Il collegamento è facile. Questa presa di posizione si scontra con la prima legge della robotica teorizzata nei romanzi di Isaac Asimov: “Un robot non può recar danno a un essere umano né può permettere che, a causa del suo mancato intervento, un essere umano riceva danno”. La riflessione che c’è dietro però è più complessa. Ne abbiamo parlato con Fabio Fossa, docente di etica per la tecnologia del Politecnico di Milano.

Inizio obbligatorio. Stiamo già infrangendo le leggi di Asimov?

Le leggi di Asimov sono pensate per robot autonomi, capaci di prendere delle decisioni. Si tratta di una tecnologia che noi non abbiamo, almeno non ancora. Noi abbiamo sistemi che si muovono seguendo delle istruzioni, a volte più dettagliate, a volte meno. Nel caso dei robot di San Francisco parliamo di un contesto di dipendenza totale. Si muovono solo con un operatore esterno.

Una delle critiche più citate sui robot di San Francisco è che questo potrebbe essere solo l’inizio.

Il tema dell’escalation è fondamentale, e così anche quel processo che si chiama slippery slope, collina scivolosa. Partiamo da una base che sembra innocua e poi si arriva velocemente a una condizione che al punto di partenza definiremmo inaccettabile. La condizione dell’escalation è reale.

Cosa cambia tra un robot in grado di uccidere e un agente che ha lo stesso ruolo?

Se vengono introdotti robot in grado di uccidere, allora aumenta la distanza tra chi prende la decisione di uccidere e chi la esegue. Questa distanza ha benefici in termini sicurezza: non esponi un soggetto umano al rischio di essere ferito o ucciso.

E non dovrebbe essere meno pericoloso per le forze dell’ordine?

Certo, per un poliziotto è meno pericoloso. Ma poi manca un soggetto sul campo che sia empatico, allenato e istruito per evitare di utilizzare la forza in modo letale. Un’opzione che dovrebbe essere scelta solo quando non ci sono altre soluzioni.

I robot killer possono cambiare il lavoro della polizia?

Spesso pensiamo che avere determinati strumenti a disposizione non ha poi un impatto su quello che facciamo. Pensiamo che un robot capace di esercitare una forza letale sia solo un altro strumento che la polizia ha a disposizione. Non è così, gli strumenti che abbiamo in mano cambiano anche il modo in cui prendiamo le nostre decisioni.

In che modo?

Facciamo anche un altro passaggio. Come mai questi robot sono stati concepiti solo come forza letale? Perché non hanno anche sistemi che possono aiutarci a dissuadere un aggressore? Questo ci insegna molto sulla nostra relazione con i robot e su cosa vogliamo da loro.

Negli ultimi anni l’Unione europea si sta mostrando uno dei pochi organi politici capaci di regolare il mercato. Riuscirà a frenare l’avanzata dei robot killer?

In Europa abbiamo un approccio più cauto, che alcuni percepiscono come un ostacolo allo sviluppo ma permette di mettere i valori culturali al centro del progresso tecnologico. È molto diverso da quello della Silicon Valley dove invece l’importante è fare e non importano le conseguenze.