Il regolamento per leggere le nostre chat in cerca di reati, Zanero (Polimi): “È una china scivolosa”

Foto delle vacanze. Qualche giorno di riposo al mare, con tutta la famiglia. Volete tenere qualche stampa, per evitare di dimenticare le immagini da qualche parte nella memoria del telefono. Nella foto c’è tutta la famiglia in costume. Selezionate gli scatti. Mandate tutto. Arriva un avviso: “Hai mandato una mail con del materiale pedopornografico. Abbiamo avvisato le autorità competenti”. O peggio. Non arriva nulla e in qualche procura in Europa si apre un fascicolo con il vostro nome sopra. Leggendo le analisi uscite negli ultimi giorni, questa è una delle prospettive a cui può portare il Chat Control, il regolamento europeo che punta a monitorare alcuni spazi di conversazioni online per trovare materiali legati a reati che riguardano i minori: dagli abusi sessuali alla pedopornografia.

Su Fanpage.it ne abbiamo già parlato diverse volte. Qui potete trovare un approfondimento sul regolamento e sullo stato della sua approvazione. E qui invece un focus sulle piattaforme che effettivamente vengono interessate, visto che dopo il voto in Parlamento Europeo del 9 luglio il testo è stato modificato ancora. Sui social si è sollevato un dibattito abbastanza acceso, per capire però cosa cambia esattamente abbiamo parlato con Stefano Zanero, esperto di cybersecurity e docente del Politecnico di Milano.

Qual è lo scopo del regolamento noto come Chat Control?
L’obiettivo dichiarato è arginare la diffusione di immagini pedopornografiche. È un fine che nessuno può contestare. Il mezzo scelto, tuttavia, è quello di imporre un'analisi preventiva dei contenuti scambiati nelle chat private.

Non è un passaggio semplice. Quali sono i problemi?
Il primo problema è che identificare automaticamente un contenuto a sfondo sessuale che coinvolge minori non è affatto banale. Certo, si potrebbe pensare che un'immagine di un minore nudo sia automaticamente classificabile come proibita ma dipende dal contesto. Se, per esempio, l'immagine in questione è la fotografia di un bimbo al mare che un genitore sta inviando all'altro, comprendiamo subito che il contesto la rende non significativa. Un computer, però, non potrà mai analizzare o comprendere questo aspetto.

L’Unione Europea sta discutendo il Chat Control 1.0. Ma la commissaria Henna Virkkunen ha proposto un testo per il Chat Control 2.0, dove viene inclusa anche la crittografia end-to-end.
Oggi quasi tutte le nostre app di messaggistica privata, da WhatsApp a Signal, sono cifrate end-to-end. I messaggi sono leggibili solo dal mittente e dal destinatario (Telegram fa eccezione, in quanto l'operatore ha la possibilità di leggervi i messaggi). Nel momento in cui si impone la censura dei contenuti, si richiede implicitamente che la crittografia end-to-end possa essere aggirata dal fornitore, annullandone di fatto l'efficacia.

C’è una strada per applicare il Chat Control senza entrare nelle chat?
L'unico modo sarebbe eseguire la scansione sull'endpoint, ovvero scansionare gli allegati direttamente sul dispositivo che li invia o li riceve. Questa ipotesi era stata ventilata da Apple in passato, ma fu poi scartata proprio per via del problema dei falsi positivi. Poiché gli algoritmi commetteranno inevitabilmente errori, sia per questioni di contesto sia per imperfezioni tecniche, e considerando che parliamo di reati penali, sarà sempre necessario verificare se una segnalazione sia corretta o meno. L'unico modo possibile è impiegare operatori umani che analizzino queste segnalazioni.

Parliamo di un numero enorme di segnalazioni.
Sì, si genera un volume enorme di potenziali segnalazioni da guardare manualmente, violando inevitabilmente la riservatezza delle comunicazioni, perché non c'è nessun altro modo tecnico per farlo. Anche cercando di aggirare alcuni problemi tecnici, non si risolve la questione fondamentale: l'analisi viene affidata ad algoritmi che, di fatto, non sono adeguati all'enorme volume di messaggi che ci scambiamo ogni giorno. Si tratta di un problema noto nella teoria dell'individuazione delle attività malevole: si chiama Base Rate Fallacy.

Facciamo un esempio con un altro caso.
Funzionerebbe allo stesso modo se decidessimo di installare telecamere negli aeroporti per identificare automaticamente i criminali ricercati basandoci su una lista di volti. La Base Rate Fallacy si basa sul fatto che ci sono molte meno immagini pedopornografiche che meme innocui su WhatsApp, così come ci sono molti meno criminali che cittadini normali in un aeroporto. Di conseguenza, il fattore preponderante non è tanto la capacità dell'algoritmo di trovare i contenuti illeciti, ma quanto spesso scatterà per errore su quelli buoni. Questo crea un vero e proprio diluvio di falsi positivi, motivo per cui questo tipo di sistemi tipicamente fallisce nella pratica.

I reati per cui viene introdotto il Chat Control riguardano tutti gli abusi sui minori.
Qualsiasi reato che colpisca i bambini è chiaramente una motivazione fortissima, che a livello personale trovo cogente e che merita ogni sforzo possibile. Dall'altro lato, però, è anche una potente leva retorica per far passare normative controverse sulla sorveglianza. Quando si solleva il dubbio che questi strumenti possano poi essere usati per altri scopi, si viene spesso accusati di ricorrere all'argomento della "china scivolosa". Sarebbe un'obiezione corretta, se non avessimo già visto succedere esattamente questo in passato.

Qualche esempio?
Basti pensare al filtraggio sul DNS: nato per bloccare esclusivamente i siti pedopornografici, si è lentamente esteso ai siti terroristici, poi a quelli di gioco d'azzardo e scommesse, per arrivare infine alla pirateria informatica. Lo strumento, una volta creato, viene inevitabilmente usato per altro. Finché si tratta di bloccare l'accesso a un sito, potremmo considerarlo un modello ancora vivibile ma l'intervento all'interno delle chat personali è la definizione stessa di censura cinese. La differenza sostanziale tra WhatsApp e WeChat in Cina è proprio che su quest'ultima ci sono censori che leggono ciò che gli utenti si scrivono.

Quali strumenti ci sono per arginare questi reati?
La finalità di proteggere i minori è condivisa da chiunque, ma bisogna chiedersi se il mezzo scelto porti effettivamente a quel risultato. Più di 800 esperti europei di cybersecurity hanno firmato lettere aperte per segnalare queste criticità. In quelle lettere abbiamo sottolineato l'esistenza di approcci alternativi, attualmente ignorati, che andrebbero nella vera direzione del contrasto al fenomeno. Ad esempio, il pericolo maggiore per i minori non risiede solo nella diffusione del materiale, ma soprattutto nell'adescamento. L'adescamento va contrastato prima di tutto con l'educazione, un aspetto e un investimento su cui la normativa attuale risulta estremamente fumosa e carente. Se si dovesse scegliere da dove iniziare, la prevenzione educativa sarebbe il punto fondamentale da cui partire, eppure è il grande assente in queste direttive.