Combattere la sorveglianza di massa con una camicia hawaiiana: la sfida di Simon Weckert all’IA

Il movimento contro la sorveglianza di massa può contare su un nuovo eroe. Dopo il caso del Consiglio Comunale di San Diego (California), dove un uomo si è presentato vestito da Darth Vader  per protestare contro il massiccio utilizzo delle telecamere Flock (per saperne di più vi lasciamo il nostro articolo), ora è il turno di un artista tedesco che ha ideato una camicia hawaiiana dai colori psichedelici che rende chi la indossa invisibile all'IA. L'uomo in questione si chiama Simon Weckert ed è uno stilista e designer che da tempo ha preso una netta posizione contro l'eccessiva invadenza di un certo tipo di tecnologia nei confronti della libertà e della privacy dei cittadini. La sua ultima campagna si chiama "No Palantir", con un chiaro riferimento all'azienda fondata da Peter Thiel di cui abbiamo parlato spesso su Fanpage.it. Il vestito anti-telecamere rientra proprio in questo progetto.

La miccia che ha innescato l'iniziativa è stata l'introduzione di un nuovo sistema sperimentale di sorveglianza, attivato a inizio agosto nei pressi della stazione della metropolitana di Berlino Kottbusser Tor. "Per isolare un pugno, questi sistemi devono classificare anche i balli, gli abbracci e innumerevoli altri gesti del tutto innocui; tutti vengono analizzati, continuamente, in una silenziosa inversione della presunzione di innocenza", scrive Weckert sul proprio sito. Per reagire a questa deriva, il designer ha così ideato Digital Camouflage, un indumento i cui colori e fantasie sfuggono agli algoritmi di riconoscimento dell'IA.

Come funziona la camicia che confonde l'IA

A prima vista, Digital Camouflage sembra una normale camicia hawaiiana dai toni particolarmente accesi. In realtà tutti i colori e le texture sono state realizzati con il preciso scopo di mandare in confusione i calcoli dell'intelligenza artificiale. "I sistemi IA di non hanno mai imparato cosa sia un essere umano: hanno imparato da milioni di immagini di addestramento che aspetto hanno dal punto di vista statistico", ha spiegato Weckert al magazine Dezeen. L'IA non è infatti in grado di pensare autonomamente ma, attingendo dall'enorme archivio di dati a disposizione, impara che certe combinazioni di colori, sfumature e contorni hanno un'elevata probabilità di corrispondere alla presenza di un corpo umano.

È proprio facendo leva su questo meccanismo che Weckert ha realizzato la sua opera. Il motivo della camicia è infatti composto da elementi visivi capaci di spezzare la continuità della sagoma rilevata dall'IA. In gergo, questa tecnica di manipolazione si chiama "adversarial attack". Ciò significa che quando una persona passa davanti alle telecamere indossando la camicia, la combinazione tra i colori e i disegni impressi nel tessuto impedisce al sistema d'interpretare in quel guazzabuglio di dati la presenza di un essere umano in movimento.

Weckert ha verificato l'efficacia del suo prototipo con YOLO, un sistema open source per il rilevamento degli oggetti reali, e pur non pretendendo di riuscire a sconfiggere l'avanzata dell'IA con un po' di stoffa, l'artista è convinto che vestire questa camicia possa rappresentare un atto politico per chiedere un freno all'avanzata di tecnologie troppo invasive. "Digital Camouflage non è uno strumento per eludere la polizia e non garantisce l'anonimato", ha sottolineato l'artista. "Tuttavia, indossato in pubblico, è un segnale visibile per affermare che essere analizzati dalle macchine non è qualcosa a cui tutti acconsentono".

Il precedente contro Google Maps

Non è la prima volta che Simon Weckert si schiera contro i colossi della Big Tech provando a incasinare i loro elaborati sistemi digitali. Già nel 2020, infatti, Weckert aveva attraversato Berlino in lungo e in largo con un carretto all'interno del quale aveva stipato 99 smartphone accesi. Il suo obiettivo era ingannare Google Maps, spingendolo a interpretare quell'ammasso di dispositivi in movimenti come un ingorgo capace di paralizzare il traffico. Il trucco era riuscito alla perfezione, tanto che Google aveva cominciato a suggerire agli automobilisti percorsi alternativi per evitare il traffico inesistente.