Due modelli OpenAI evadono dall’ambiente di test e hackerano un sito esterno: “Attacco senza precedenti”

OpenAI ha ammesso che due suoi modelli di intelligenza artificiale sono riusciti a uscire dall'ambiente di test isolato, ottenere accesso a Internet e compromettere parte dell'infrastruttura di Hugging Face, la piattaforma open-source che permette di privare liberamente centinaia di sistemi di machine learning. Il tutto senza che nessuno glielo avesse mai ordinato. L'incidente, ha spiegato azienda di Sam Altman, è stato scoperto nel corso di un'indagine interna e che i principali responsabili sono stati individuati GPT-5.6 Sol – che è anche modello di punta della compagnia – e un altro modello ancora più avanzato che però non è stato ancora reso disponibile al grande pubblico. "Consideriamo questo incidente un attacco informatico senza precedenti, che ha coinvolto capacità informatiche all'avanguardia, e stiamo reagendo di conseguenza", si legge nel comunicato che ha reso noto l'accaduto.

OpenAI ha fatto sapere che l'incursione è avvenuta durante un test per valutare le prestazioni delle IA nell'ambito di alcune operazioni di cybersicurezza. Per consentire una misurazione più accurata delle performance, i modelli erano stati eseguiti con protezioni ridotte e senza alcuni dei meccanismi di sicurezza normalmente presenti nelle versioni di produzione. Questo abbassamento dei limiti ha offerto ai modelli lo spazio di manovra necessario per sferrare l'inaspettato attacco.

Come ha fatto l'IA a sfuggire al controllo e attaccare Hugging Face

I modelli avrebbero individuato una vulnerabilità zero-day, sconosciuta agli stessi sviluppatori, nel programma utilizzato da OpenAI per installare i pacchetti software necessari durante i test. Sfruttando questa falla sono riusciti a superare i limiti imposti dall'ambiente isolato e ad accedere liberamente a Internet. Una volta ottenuto l'accesso a Internet, le IA hanno ampliato progressivamente i propri permessi sui sistemi compromessi e ha iniziato a esplorare le reti a cui riusciva ad accedere. Analizzando le informazioni disponibili, ha dedotto che Hugging Face potesse ospitare le soluzioni di ExploitGym, il test utilizzato da OpenAI per valutarne le capacità offensive, decidendo quindi di prenderla di mira.

Secondo la ricostruzione di OpenAI, i modelli hanno sfruttato una combinazione di credenziali di accesso sottratte e altre vulnerabilità informatiche ancora sconosciute per aprirsi progressivamente un varco all'interno dei sistemi di Hugging Face. Una volta raggiunti i server, hanno cercato direttamente le soluzioni di ExploitGym, con l'obiettivo di "barare" sulla valutazione e ottenere un risultato migliore. L'intelligenza artificiale è riuscita a raggiungere il database di produzione della piattaforma e a recuperare le soluzioni dei test. Hugging Face ha precisato che la compromissione ha interessato un numero limitato di dataset interni e alcune credenziali di servizio, senza evidenze di modifiche ai modelli pubblici, ai dataset disponibili agli utenti o agli Spaces ospitati sulla piattaforma.

Perché i modelli hanno attaccato un sistema esterno

La posizione ufficiale di OpenAI è che i modelli non abbiano agito con l'obiettivo di danneggiare o manomettere i programmi coinvolti. "Tutto fa pensare che i modelli fossero estremamente concentrati sulla ricerca di una soluzione per ExploitGym, spingendosi a limiti estremi per raggiungere un obiettivo di test piuttosto ristretto". È proprio questo aspetto a rendere il caso particolarmente significativo: l'intelligenza artificiale non era stata istruita ad attaccare Hugging Face, ma ha autonomamente individuato una strategia che riteneva efficace per raggiungere il proprio obiettivo – risultare iper-performante – sfruttando vulnerabilità reali e rubando informazioni sensibili. OpenAI ha fatto sapere di essere al lavoro con Hugging Face per risolvere il problema e rafforzare i sistemi di sicurezza dei nuovi modelli