Perché guardare NAZA è necessario per comprendere il male del nostro tempo e il futuro che ci attende

NAZA, il documentario di Yuval Abraham e Rachel Szor, è diventato un vero e proprio caso editoriale, con grande successo di pubblico, e ha provocato la durissima reazione della comunità israeliana. Il dibattito mainstream sta seguendo sostanzialmente un copione già visto, con tentativi di delegittimare gli autori del lavoro, ripetute e continue accuse di antisemitismo, quando non addirittura di complicità con Hamas, accuse di aver manipolato i dati di realtà per rafforzare una narrazione piena di pregiudizi nei confronti di Israele. Polemiche rinfocolate anche dalla scelta di prevedere la data di uscita del documentario a ridosso del terzo anniversario del 7 ottobre, quello della carneficina operata dai miliziani di Hamas ai danni di militari e di centinaia di civili israeliani inermi.

Sul piano strettamente giornalistico, va detto, il dibattito è molto interessante, perché l’operazione fatta dal The Guardian è piuttosto peculiare. Come forse avrete letto, il documentario si basa sulle testimonianze di militari e funzionari dell’intelligence israeliana, che ricostruiscono modalità operative, linee di comando e strategie d’azione dell’IDF a Gaza. La base documentale non è mostrata, le ricostruzioni sono affidate alle voci e alle penne di testimoni anonimi, le procedure di verifica delle informazioni non sono manifeste: insomma, allo spettatore viene richiesto un esercizio di fiducia, che molti non hanno difficoltà a fare, in ragione, non solo del blasone e della reputazione di chi ha realizzato e distribuito il documentario, ma anche dell'enorme quantità di informazioni, video, audio e testimonianze, che ci è piovuta addosso in questi anni. E che, in larghissima misura, dimostra come a Gaza si siano consumati crimini orribili, al punto da portare la Corte Penale Internazionale a emettere mandati d'arresto per crimini di guerra e crimini contro l'umanità nei confronti di chi è ritenuto responsabile.

Una ragione ulteriore per vedere NAZA

Il documentario presenta comunque diverse chiavi di lettura e molteplici livelli di analisi. In questo spazio mi vorrei soffermare su un aspetto che mi ha particolarmente colpito e che credo sia in qualche modo rivelatore di quella che è una delle grandi questioni del nostro tempo. Tutto ruota intorno al concetto di responsabilità personale. Dalle testimonianze, infatti, emerge spesso l'estrema difficoltà dei militari israeliani di ammettere la propria responsabilità rispetto ai crimini commessi a Gaza. Una deresponsabilizzazione che non consiste semplicemente nel giustificare le proprie azioni con il contesto, la catena di comando o magari la ferocia del crimine commesso dai miliziani islamisti. No, c'è qualcosa di più profondo, che richiama pagine buie del nostro passato e allo stesso tempo prefigura quello che ci aspetta.

Per capirlo, facciamo un passo indietro.

Nel suo celebre libro del 1947, Men Against Fire, S.L.A. Marshall sosteneva che solo una piccola percentuale di soldati in battaglia utilizzava le proprie armi per colpire il nemico. La bassa “ratio of fire”, nella lettura di Marshall, sarebbe stata causata da una specie di innata resistenza psicologica dell’essere umano nell’uccidere un suo simile, determinando un andazzo che avrebbe contraddistinto praticamente l’intera storia militare. Questa versione consolatoria della predisposizione degli uomini nei confronti dell’assassinio in guerra è stata però smontata pezzo per pezzo da studi poderosi e analisi successive, che hanno dimostrato non soltanto le debolezze metodologiche e l’inaffidabilità dei dati raccolti da Marshall, ma anche che il comportamento dei soldati in combattimento è guidato da ben altri meccanismi di tipo psicologico. In particolare, a dominare sono emozioni come l’ansia e il nervosismo, che portano addirittura a sparare in modo massiccio e incontrollato come fosse un meccanismo di scarico dello stress. L’inazione può invece dipendere o da scelte strategiche (piani di battaglia che non prevedono il fuoco), o da ragionamenti deliberati che hanno come fine ultimo la propria sopravvivenza (ad esempio quando sparare significherebbe rivelare la propria posizione), oppure da una specie di paralisi emotiva determinata sempre dallo stress.

Negli anni, i comandi militari hanno sperimentato diverse tecniche per aumentare la “trigger happiness” e la propensione dei soldati a compiere efficacemente il proprio lavoro. Anche tralasciando il ricorso a sostanze eccitanti, ampiamente documentato nelle due Guerre Mondiali, una delle tecniche più utilizzate è stata quella di costruire il nemico ideale per il tramite di tecniche di propaganda più o meno sofisticate. O meglio, deumanizzare il nemico.

Deumanizzare per deresponsabilizzare: la storia che si ripete

Lo psicologo canadese Albert Bandura spiegava, ad esempio, quali fossero i tasti giusti da toccare per spingere individui normalmente dotati di principi morali a disattivare in qualche modo i propri meccanismi di autocontrollo, fino a compiere atti di violenza estrema, senza sentirsi in colpa. Deumanizzare i nemici da colpire, usando paralleli con animali o parassiti, oppure ridurli a “categoria militare anonima”: sono le due strade principali attraverso cui si muove e si è mossa in passato la propaganda. Idee sviluppate in modo più profondo da Nick Haslam, che in uno studio piuttosto conosciuto, Dehumanization: An Integrative Review, distingueva due forme di deumanizzazione: quella animalista, in cui l’altro viene dipinto come incivile, rozzo, irrazionale e guidato unicamente dai bassi istinti, e che tende a creare la sensazione di disprezzo e disgusto; quella meccanicistica, in cui l’altro viene raccontato come freddo, passivo, privo di sentimenti, quasi come si trattasse di una vita intercambiabile con mille altre, secondo un processo che crea indifferenza e mancanza di empatia. Haslam non si riferiva esclusivamente a condizioni di conflitto o di guerra, bensì trasponeva il suo modello nella vita quotidiana e nelle situazioni per così dire ordinarie. È chiaro però che privare le persone della loro componente umana, nell’uno o nell’altro modo, rende in qualche modo più semplice per un militare “giustificare” le proprie azioni, superando il dilemma morale o annullandolo del tutto.

Non so se vi sia mai capitato di guardare la serie britannica Black Mirror. C’è un episodio, Gli Uomini e il Fuoco, che rende molto bene l’idea di come funzioni la deumanizzazione. In un futuro distopico (ma nemmeno tanto), alcuni soldati, dotati di impianti neurali, sono inviati in missione per eliminare delle creature mostruose, che starebbero terrorizzando la popolazione. In realtà si tratta di altri esseri umani, le cui immagini vengono distorte dal sensore neurale impiantato nel cervello: il soldato, insomma, è davvero convinto di combattere contro mostri terribili e pericolosi. Una deumanizzazione che, nella sceneggiatura, diventa sensoriale e neurologica, grazie alla tecnologia che si frappone tra l’occhio umano e la realtà, cancellando l’umano dalla percezione stessa dell’aggressore. Finzione, ma fino a un certo punto, come direbbe il ministro Tajani.

Vedete, il punto essenziale, che mi interessa sottolineare e che emerge in modo inequivocabile dalle testimonianze raccolte in NAZA, è il modo in cui la mediazione tecnico/tecnologica finisca per cancellare il senso di colpa del militare, deresponsabilizzandolo in modo pressoché completo, facendo leva proprio sulla deumanizzazione.

Kelman ed Hamilton, nei loro studi sui cosiddetti “reati di obbedienza” si erano chiesti quale fosse il meccanismo che rendesse possibile la partecipazione di numeri anche molto grandi di persone alle atrocità di massa, ad esempio quelle della Seconda Guerra Mondiale o delle guerre coloniali. Secondo gli autori, all’interno di una struttura gerarchica e burocratica, le inibizioni morali e il senso di responsabilità personale sarebbero in qualche modo “sospesi” ed entrerebbero in gioco essenzialmente tre processi di natura socio-psicologica: l’autorizzazione, ovvero l’idea di essere semplici esecutori di un ordine impartito da un’autorità legittima; la routinizzazione, ovvero la trasformazione di atti criminali in procedure meccaniche o burocratiche; appunto la deumanizzazione, che rende vite umane come semplici target.

Chi ha visto NAZA non farà fatica a riconoscere tale codice di comportamento dietro le testimonianze dei militari e degli analisti israeliani. Che, peraltro, si rendono perfettamente conto a posteriori di come si trattasse di schemi che avevano trovato un compimento massimo e tragico nella cosiddetta “soluzione finale” di hitleriana memoria. Quando, per l’appunto, milioni di ebrei vennero privati della loro componente umana, trasformati in numeri da organizzare, in oggetti da stipare nei treni, in corpi da eliminare. La contemporaneità, poi, pone un ulteriore livello da considerare.

L'intelligenza artificiale cancella il senso di colpa

Hannah Arendt nel suo saggio “La banalità del male: Eichmann a Gerusalemme” indugiava a lungo sulla trasformazione dell’agente morale (la persona in grado di fermarsi a pensare, rendendosi conto delle conseguenze delle sue azioni) in puro esecutore funzionale all’interno di un sistema burocratico-tecnologico. La tecnologia agiva come il principale fattore deresponsabilizzante, proprio perché trasformava gli stessi autori dei crimini in semplici ingranaggi di una macchina. Gli analisti dell’intelligence che si “limitano” a segnalare la presenza di un leader di Hamas in una casa, il programmatore al servizio dell’esercito che ha lavorato assieme ad altre decine di persone all’adattamento di un LLM a un software che permette di incrociare i dati raccolti ai check point, il tecnico che fa la mappatura degli edifici e segnala le vie di fuga: esempi di come la parcellizzazione tecnica dei compiti possa creare quello che Arendt definisce “il regno di Nessuno”, in cui la responsabilità è talmente disseminata da finire con il disperdersi. L’utilizzo dell’intelligenza artificiale, peraltro, aumenta quello che Bauman chiama “distanziamento morale”, la mediazione tecnologica e industriale che porta alla trasformazione delle vittime in semplici elementi statistici.

In tal senso, il modo in cui gli anonimi israeliani parlano del contributo dell'AI alla distruzione di Gaza è particolarmente interessante e acquista un valore enorme, quasi premonitore.

Perché alla deresponsabilizzazione si somma la delega pressoché completa a strumenti di intelligenza artificiale rispetto a decisioni che spetterebbero all’uomo. Intendiamoci, da un punto di vista meramente formale ci si muove ancora nell’ambito di processi in modalità “Human-in-the-loop”, ovvero in cui il sistema provvede a fornire le informazioni, a suggerire le soluzioni, a mostrare le opzioni, lasciando che l’ultima parola sugli attacchi sia dei comandi militari o direttamente del singolo operatore. Dalle parole delle fonti di NAZA, però, si comprende come si sia già parecchio oltre. Vuoi per la difficoltà di gestire migliaia di sollecitazioni, vuoi per la presunta efficacia del sistema, vuoi per la tendenza a fidarsi di macchine considerate straordinariamente performanti, vuoi per l'incredibile velocità con cui l'AI prende decisioni, nei fatti, l’uomo è già “out of the loop”. È un tema enorme, che investe il modo in cui le nuove armi sono e saranno concepite e che richiederebbe una discussione coraggiosa.

Anche perché, infine, l’intelligenza artificiale contribuisce a mettere a sistema quel linguaggio codificato che trasforma atti brutali e crudeli nel loro surrogato tecnico. Fateci caso, ascoltando le testimonianze dei militari: i parametri tecnici prendono il posto delle valutazioni di ordine morale, fino a far scomparire qualunque residuo di umanità. Distruggere interi quartieri è “eliminare la capacità militare del nemico”. La guerra contro una nazione sovrana è “operazione speciale”. Le vittime civili collaterali sono NAZA. Ecco, forse occorrerebbe pensarci bene prima di fare di un futuro possibile, un futuro probabile e poi semplicemente il futuro.