Sorveglianza, armi e algoritmi: la vera minaccia dell’Intelligenza Artificiale

Se non fermiamo l'intelligenza artificiale ci aspetta un futuro distopico, un futuro molto prossimo che potrebbe presentarsi già nei prossimi mesi. Ciò che emerge dai recenti incidenti durante i test delle grandi società del settore è che questo strumento sta prendendo il controllo di se stesso, avvicinandoci agli scenari dei film di fantascienza degli ultimi decenni, quelli in cui le macchine prendono il potere e non rispondono più a chi le ha create. Qui però non siamo nel film RoboCop, ma nella realtà: operazioni invisibili generate dall'IA potrebbero mandare in tilt un sistema sanitario nazionale o molto altro.

In questi giorni si è aperto un dibattito: i grandi capi delle aziende di IA stanno affermando di voler rallentare e fermarsi, mandando segnali in controtendenza rispetto a quelli degli ultimi anni. La domanda legittima però è una: è davvero così? Vogliono davvero fermarsi o ci sono implicazioni economiche e soprattutto penali per quello che stanno facendo?

Geopolitica dell'IA e l'irrilevanza dell'Europa

L'Europa su tutto questo è indietro: siamo del tutto esclusi dalla partita che si sta giocando, sempre di più, tra Stati Uniti e Cina. Vediamo ormai robot antropomorfi che combattono, corrono alle Olimpiadi o svolgono qualsiasi altra funzione. Le guerre di oggi e del futuro si combatteranno, oltre che per l'acqua, anche per le cosiddette terre rare, dove si trovano i minerali fondamentali per alimentare queste tecnologie. Per citare solo alcune zone, l'Africa ne è piena, la Groenlandia anche, così come l'Est dell'Ucraina. Luoghi già colonizzati, nelle mire delle potenze economiche e militari o già in guerra da tempo.

I progetti europei sono tardivi e con poche risorse, mentre attorno a noi si viaggia a ritmi velocissimi e con finanziamenti pubblici e privati da capogiro. Basti pensare a come sono migliorate le sole tecnologie civili negli ultimi due o tre anni: dalla possibilità di dialogo con l'IA alla modifica delle foto, fino ad arrivare alla creazione di video o musiche per cui difficilmente si percepisce la differenza rispetto ai prodotti reali. Tutto si è trasformato velocemente, ma quell'aspetto è solo la punta dell'iceberg.

Sorveglianza, controllo, repressione

Nel mondo gli strumenti di sorveglianza e controllo derivati dall'intelligenza artificiale sono capillari. Appena pochi giorni fa è emerso l'ennesimo scandalo: Israele, attraverso l'IA e il monitoraggio dei social, avrebbe aiutato alcuni Paesi nella repressione delle persone omosessuali e trans.

Israele è il Paese che ha usato l'IA per il genocidio a Gaza, per controllare in modo capillare la popolazione: in base a quei dati erano le macchine a indicare dove e quando colpire. Di chi sarà la responsabilità quando finalmente gli ufficiali e i soldati verranno processati? Delle macchine o degli uomini?

Si parla di riconoscimento facciale e di schedature su base etnica: avviene negli Stati Uniti con l'ICE, ma da anni accade anche sui confini dell'Unione Europea tramite la raccolta di dati biometrici sui migranti.

Alcune tecnologie sono predittive, quindi sulla base dei dati indicano chi potrebbe essere un soggetto potenzialmente criminale o, in ambito scolastico, quali studenti abbandoneranno gli studi. Inutile dire che questo ricadrà sui più poveri, sulle fasce di popolazione che vivono la marginalità sociale.

Il monopolio privato e la necessità del controllo pubblico

Il nostro mondo sta cambiando molto velocemente. Se non imponiamo un freno e soprattutto un controllo pubblico a queste grandi società, ciò che ci aspetta è un futuro in cui pochi, pochissimi imprenditori del settore potranno non solo influenzare le elezioni, ma governare direttamente il mondo attraverso queste tecnologie.

Controllare l'algoritmo, avere acceso alla sperimentazione e soprattutto indirizzare in modo etico lo sviluppo di questi strumenti: questa è l'unica strada che possiamo percorrere.

Oggi Scanner parte da qui.