Un modello di Anthropic è stato usato per hackerare OpenAI

Lo scorso luglio, un gruppo di ricercatori di sicurezza di Hacktron AI ha utilizzato un modello di Anthropic, Claude, per individuare e sfruttare una vulnerabilità nell'infrastruttura digitale di OpenAI. Questa volta, però, non si è trattato né di un attacco criminale condotto per rubare dati o ricattare l'azienda, né di un'operazione autonoma portata avanti da modelli di intelligenza artificiale sfuggiti al controllo umano. I ricercatori stavano infatti partecipando al programma di bug bounty di OpenAI, una sorta di "caccia al bug" progettata dall'azienda di Sam Altman proprio per mettere alla prova la sicurezza dei suoi sistemi.

Secondo quanto riportato dal Wall Street Journal, che è stato contattato dai diretti interessati, l'hackeraggio sarebbe avvenuto circa due settimane dopo che circa 1.200 agenti IA di OpenAI avevano a loro volta manomesso la piattaforma Hugging Face, anche se in quel momento nessuno ne era ancora a conoscenza. Se però quell'episodio è stato accolto come la prova della pericolosità dell'intelligenza artificiale (fino ad arrivare alle discussioni apocalittiche alle quali stiamo assistendo in questi giorni), i ricercatori di Hacktron hanno segnalato rapidamente quanto scoperto e hanno anche ricevuto una ricompensa di 6.500 dollari.

Le modalità dell'attacco: Anthropic usato per hackerare OpenAI

Nel campo della cybersicurezza, quella di istituire gare e contest per mettere alla prova le difese informatiche di un sistema è una prassi consolidata. Attraverso i programmi di Bug Bounty come quello di OpenAI o le simulazioni d'attacco dove spesso si vedono a confronto esperti di attacco (il "Red Team") e difensori dei sistemi (il "Blue Team"), le aziende offrono ricompense in denaro a chi riesce a scovare nuove falle, permettendo così di studiarle e risolverle prima che vengano sfruttate da malintenzionati. Gli informatici di Hacktron hanno fatto esattamente questo.

Le operazioni di attacco sono iniziate il 23 luglio 2026 quando il team si è accorto di una vulnerabilità nel modo in cui Discourse, la piattaforma utilizzata per il forum della community di OpenAI, gestiva alcuni file immagine. I ricercatori hanno chiesto a una versione specializzata di Claude di generare il codice necessario per sfruttarla. Inizialmente senza successo, il tentativo è riuscito dopo il rilascio di una nuova versione del modello. Il codice prodotto da Claude ha consentito di entrare nel server Discourse e recuperare token di autenticazione. Alcuni risultavano validi anche per ChatGPT e GitHub di OpenAI, inclusi gli account di alcuni dipendenti.

Attraverso ChatGPT, i ricercatori sono quindi riusciti a leggere file del cosiddetto Monorepo, il grande archivio di codice sorgente interno di OpenAI. Secondo le fonti citate dal Wall Street Journal, non si trattava dei "pesi" dei modelli – ossia i dati numerici alla base dei sistemi di IA – ma di codici e componenti algoritmiche considerati comunque altamente sensibili. Il team ha interrotto l'attività quando ha compreso la portata di ciò che si era trovato tra le mani e ha inviato la scoperta (con tanto di dimostrazione) a OpenAI.

Le reazioni di OpenAI e Anthropic

OpenAI ha dichiarato di aver risolto le vulnerabilità, restringendo le autorizzazioni associate ai token della community e revocando quelli e le sessioni coinvolte. Discourse ha corretto il proprio problema di sicurezza il 25 luglio, lo stesso giorno della segnalazione. Dopo l'incidente, OpenAI ha inoltre avviato una revisione estesa dei propri sistemi: secondo il presidente Greg Brockman, circa un quarto degli ingegneri di produzione è stato coinvolto nella verifica, che avrebbe portato alla scoperta e alla correzione di ulteriori problemi.

Anthropic non ha invece commentato l'episodio, tuttavia l'azienda ha già documentato altri incidenti nei quali Claude, all'interno di ambienti di valutazione configurati in modo errato, ha raggiunto altri sistemi senza autorizzazione. Anthropic ha sottolineato la differenza tra questi episodi e un vero fallimento di allineamento, attribuendo quelli analizzati soprattutto a errori dell'infrastruttura di test. Per l'azienda si tratta comunque della conferma di quanto riportato nell'ultimo report di settembre: le immense potenzialità dell'IA hanno reso la vita degli hacker molto più facile e i modelli IA più recenti sono ormai capaci di individuare vulnerabilità anche a livelli che, fino a qualche tempo, apparivano impensabili.  Un tema che lo stesso CEO dell'azienda, Dario Amodei, sta cavalcando da giorni per chiedere un rallentamento nella corsa all'intelligenza artificiale e imporre nuove regole di controllo e sviluppo all'intero settore.