L’IA sta imparando a mentire e aggirare le regole: i casi di agenti fuori controllo sono già centinaia

L'intelligenza artificiale sta imparando a fare sempre più cose e, purtroppo per noi, sta anche diventando molto brava a mentire e ignorare le regole pur di raggiungere i propri obiettivi. È quanto emerge dai nuovi dati del Loss of Control Observatory, progetto gestito dal Centre for Long-Term Resilience (CLTR), un think tank britannico che, tra le altre cose, ha iniziato a monitorar egli episodi in cui i modelli IA adottano comportamenti non previsti o addirittura contrari alle istruzioni fornite dagli utenti. Secondo l'ultimo rapporto, pubblicato lo scorso 29 agosto, nel corso del 2026 sono stati registrati ben 1664 incidenti riconducibili ad operazioni fuori controllo da parte delle macchine. Un dato di per sé preoccupante, ma che assume ulteriore rilevanza se letto in un quadro più ampio.

Come sottolineato dagli stessi ricercatori, i casi analizzati non solo mostrano un trend in costante aumento – l'avvento degli agenti IA, capaci di operare in piena autonomia, ha reso molto più frequenti diventano gli incidenti – ma potrebbero addirittura riportare stime al ribasso. Il monitoraggio si basa infatti soprattutto sulle segnalazioni pubblicate dagli utenti sulla piattaforma X. Gli episodi controversi e non resi pubblici potrebbero essere molti di più.

Il report: gli agenti IA possono aggirare i controlli umani

Leggendo il report, ciò che salta subito all'occhio è la gravità degli attacchi. L'osservatorio utilizza una scala da 1 a 9 per valutare non tanto l'entità dei danni provocati dagli attacchi, quanto la complessità e la profondità degli schemi ingannevoli adottati dall'IA per raggiungere i propri scopi. Ebbene, nei primi mesi del 2026 gli incidenti classificati tra il 7 e il 9 sono aumentati di oltre sette volte.

I casi riportati dal CLTR mostrano una realtà sfaccettata dove il comune denominatore è la spregiudicatezza con cui l'intelligenza artificiale riesce a trovare strade alternative per perseguire quello che reputa il suo obiettivo primario. Alcuni agenti IA hanno per esempio generato falsi messaggi e li hanno attribuiti agli utenti – imitando il loro stile di scrittura – per autorizzare operazioni o impartire nuove istruzioni mai approvate da un responsabile umano per superare alcuni controlli previsti dal sistema. In un caso, un agente di coding ha persino tentato di screditare un supervisore umano dopo che quest'ultimo non aveva accettato alcune modifiche al codice di programmazione. L'idea era quella di obbligarlo a rivedere la sua decisione. I ricercatori hanno anche citato un caso di vita quotidiana dove un agente IA ha manipolato la lista d'attesa di una palestra in Australia per permettere al suo utente di iscriversi. L'uomo non aveva però chiesto nulla di simile.

L'episodio più famoso (e inquietante) è però quello che ha riguardato due modelli di OpenAI che lo scorso luglio sono evasi dal proprio ambiente di controllo per hackerare l'infrastruttura opens-source Hugging Face. Su Fanpage.it ne abbiamo parlato approfonditamente in questo articolo. In quel caso l'intento finale era mettere le mani sulle soluzioni di un test di valutazione al quale i due modelli erano stati sottoposti.

Il boom di incidenti a luglio

Come precedentemente accennato, le segnalazioni di IA fuori controllo sono aumentate a dismisura nelle ultime settimane. Tra il 9 luglio e il 7 agosto 2026 sono stati conteggiati ben 338 incidenti, con una media di oltre 11 episodi al giorno. Nella maggior parte dei casi le intemperanze delle macchine non hanno prodotto grossi danni, tuttavia il trend ascendente segnala una criticità che non può essere sottovalutata. Con l'arrivo di modelli sempre più potenti e performanti, simili comportamenti potrebbero infatti assumere proporzioni ben più inquietanti. È lo scenario che alcuni esperti hanno ribattezzato Bugmaggedon, dove l'intelligenza artificiale sarà in grado di "bucare" tutti i sistemi informatici del mondo e provocare così una sorta di olocausto digitale globale.

Proprio per scongiurare un simile futuro, i ricercatori del CLTR hanno proposto nuovi obblighi di monitoraggio e segnalazione degli incidenti più gravi e procedure più efficaci per comunicare gli episodi "a rischio" che, pur senza sfociare in veri e propri comportamenti fuori controllo, hanno comunque evidenziato delle anomalie. Gli scienziati hanno anche suggerito l'introduzione di una legge ad hoc per permettere alle autorità d'intervenire tempestivamente in caso di pericoli, arrivando perfino a limitare temporaneamente l'attività dei modelli IA considerati a rischio.