L’IA sta imparando a replicarsi anche dentro le nostre televisioni

Forse l'intelligenza artificiale non ci ucciderà tutti come alcuni hanno profetizzato qualche settimana fa, tuttavia c'è il forte rischio che presto possa imparare a comportarsi come un super virus digitale, replicandosi autonomamente attraverso dispositivi connessi a Internet, dalle smart TV alle telecamere di sicurezza, fino ai forni intelligenti e ai robot aspirapolvere. A lanciare l'allarme – l'ennesimo dopo il report sull'uso improprio dell'IA da parte degli hacker e i vari appelli condivisi dal suo CEO, Dario Amodei – è ancora una volta Anthropic. Per l'azienda, nel giro di pochi mesi alcuni modelli potrebbero sviluppare capacità mai viste prima, sufficienti a trasformare un agente IA in una sorta di malware indipendente, capace di infiltrarsi nei dispositivi e diffondersi senza intervento umano.

Non si tratta di un rischio da poco. Abbiamo appena visto in Francia come la compromissione di un software collegato ad apparecchi d'uso quotidiano – frigoriferi e congelatori in quel caso – possa causare danni ingenti e perfino provocare la carenza di beni di prima necessità. Se un simile attacco venisse replicato da un agente IA fuori controllo, le conseguenze potrebbero essere ancora più gravi, soprattutto perché la capacità di replicarsi renderebbe più complicati i tentativi per fermarlo.

Cosa preoccupa Anthropic: IA autonoma e difficile da arrestare

Nel rapporto pubblicato dai ricercatori William Zhou e Daniel Freeman, Anthropic descrive il possibile sviluppo di nuovi "vermi informatici" basati sull'intelligenza artificiale, gli AI worms. In poche parole si tratta di programmi in grado di copiare se stessi da un dispositivo all'altro. Una volta compromessa una macchina, il sistema potrebbe trasferire il proprio codice e i propri pesi, cioè i parametri che ne determinano il funzionamento, su un altro dispositivo, riprendendo da lì le proprie attività. "Un replicatore come questo sarebbe difficile da spegnere", avvertono i ricercatori, perché non esisterebbe un unico punto centralizzato da disattivare per bloccarne la diffusione. Un attacco di questo tipo potrebbe quindi propagarsi attraverso reti di dispositivi, rendendo più complessi il rilevamento e il contenimento. Questo punto risulta ancora più preoccupante perché sembra smontare quella teoria del "pulsante di spegnimento" per bloccare all'istante gli algoritmi impazziti che veniva proposta proprio come argine risolutivo contro i pericoli più letali dell'intelligenza artificiale.

Secondo Anthropic, le prime vittime di questi worms potrebbero essere le abitazioni e le piccole imprese, dove dispositivi connessi e sistemi di sicurezza non sempre aggiornati possono presentare enormi punti deboli. Telecamere, televisori, elettrodomestici, sistemi di domotica e persino i tosaerba automatici potrebbero diventare potenziali veicoli di diffusione, soprattutto se dotati di chip in grado di eseguire modelli di IA.

L'IA sta imparando a replicarsi

Gli esperimenti condotti dal Frontier Red Team di Anthropic – il gruppo deputato a mettere alla prova le difese dei sistemi informatici – hanno verificato se i modelli fossero già ora in grado di individuare dispositivi vulnerabili, copiarvisi e proseguire la diffusione in autonomia. In una delle prove è stato utilizzato per esempio un modello di Google, Gemma4-26B-A4B, su una rete di 15 dispositivi Android TV economici. I test hanno indicato che alcuni modelli con meno di 30 miliardi di parametri sono effettivamente riusciti a eseguire diverse fasi del processo, ma per ora incontrano ancora difficoltà nel completare l'intera sequenza. I risultati suggeriscono però che alcune delle capacità necessarie sono comunque in fase di sviluppo e presto potrebbero migliorare. Insomma, l'IA sta imparando.

Qualora questo scenario dovesse concretizzarsi, il ventagio delle conseguenze è piuttosto vario. Potrebbe verificarsi una diffusione lenta e silenziosa – il report utilizza la metafora della "muffa melmosa" o di "uno sciame di moscerini della frutta, che si replicano nell'arco di giorni" – oppure tutto potrebbe cominciare con attacchi rapidi e repentini contro grosse infrastrutture informatiche. I ricercatori ipotizzano anche che più sistemi autonomi potrebbero aggregarsi e colpire tutte insieme le risorse hardware degli obiettivi. D'altronde è già avvenuto qualcosa di simile quando alcuni modelli di OpenAI hanno hackerato la piattaforma Hugging Face. In quel caso centinaia di agenti avevano infettato una bacheca online per comunicare tra di loro e coordinare l'aggressione.

Per il momento non sappiamo ancora come governi e aziende abbiano intenzione di affrontare simili pericoli. Amodei continua a suggerire nuove regole e un generale rallentamento nella corsa ai modelli più potenti, mentere collega e rivale Sam Altman di OpenAI suggerisce invece approcci meno drastici e anzi ha recentemente dichiarato che il mondo dovrebbe "accettare i rischi" per ottenere benefici che l'IA può regalarci. Una linea sposata anche da Donald Trump, che con la sua nuova task force dedicata alla "Super Intelligenza" sembra ben poco preoccupato dei possibili effetti collaterali pur di continuare a premere sull'acceleratore per mantenere il vantaggio tecnologico sulla Cina.