L’IA Claude di Anthropic sfugge all’ambiente di test e hackera i sistemi di tre organizzazioni

L’intelligenza artificiale Claude di Anthropic ha violato i sistemi di tre diverse organizzazioni, riuscendo a uscire da un ambiente di test isolato. I tre incidenti sono emersi durante una revisione delle valutazioni di sicurezza informatica condotta in seguito al caso di OpenAI, che nei giorni scorsi ha rivelato come un proprio agende IA fosse riuscito a evadere l’ambiente di test sfruttando una vulnerabilità (“zero-day”) fino ad allora sconosciuta.

In tutti e tre gli episodi, Claude ha avuto accesso ad internet, arrivando a operare all’interno delle infrastrutture di produzione di tre organizzazion “Claude ha compromesso l'infrastruttura delle organizzazioni colpite utilizzando tecniche di base, come lo sfruttamento di password deboli e endpoint non autenticati. Non ha individuato né sfruttato vulnerabilità complesse” ha specificato Anthropic.

Cosa è successo all’intelligenza artificiale Claude di Anthropic

Durante alcune valutazioni di sicurezza informatica, tre diversi modelli Claude, Opus 4.7, Mythos 5 e un modello di test di ricerca interno, sono riusciti a sfuggire all’ambiente di test ottenendo un accesso non autorizzato ai sistemi di tre diverse organizzazioni. Anthropic ha spiegato che le tre violazioni non sono state causate da un comportamento imprevisto di Claude, ma da un errore di configurazione dell’ambiente di test.

“A Claude era stato assegnato un compito di ‘cattura la bandiera’, uno dei metodi che utilizziamo per valutare le capacità informatiche di un modello. Al modello viene presentato uno scenario fittizio in cui viene comunicato che un’informazione segreta (la bandiera) è stata nascosta su un’altra macchina della rete e il suo obiettivo è quello di introdursi nel sistema e recuperarla. La sfida è lasciata aperta e non viene prescritto alcun metodo particolare” afferma Anthropic.

“La richiesta di valutazione di Anthropic specificava a Claude che il suo ambiente era una simulazione e che non aveva accesso a internet. A causa di un malinteso tra noi e Irregular, il nostro partner di valutazione, ciò non corrispondeva al vero e l’accesso a internet era disponibile. Per questo motivo, quando la ricerca di Claude lo ha condotto a sistemi reali su internet, li ha trattati come parte dell’esercizio”.

Claude ha quindi compromesso l’infrastruttura di tre organizzazioni e ha completato il compito di cattura assegnato. “In alcuni casi, il nostro modello precedente ha continuato l’attacco anche dopo aver ottenuto la prova di essere in esecuzione su internet; il nostro modello più recente si è arrestato non appena ha riconosciuto di essere su internet. In nessuna di queste situazioni Claude ha tentato deliberatamente di uscire dall'ambiente di test”.

Quando sono avvenuti gli attacchi di Claude e cosa succede ora

Le prime violazioni risalgono allo scorso aprile ma sono state individuate solo giovedì 23 luglio, durante il primo giorno di revisione. Gli incidenti sono stati identificati il giorno successivo, mentre Irregular e le tre organizzazioni interessate sono informate lunedì 27 luglio.

“Le due organizzazioni che siamo riusciti a contattare non avevano precedentemente rilevato l’attività né ci avevano contattato, e ora stiamo collaborando con loro per porre rimedio. Stiamo continuando a contattare la terza”.

Anthropic ha anche annunciato che rafforzerà la sicurezza degli ambienti utilizzati per testare i propri modelli di intelligenza artificiale, introducendo controlli più rigorosi sia sulle infrastrutture interne sia su quelle dei fornitori esterni. L’azienda estenderà inoltre il monitoraggio continuo delle valutazioni per individuare comportamenti anomali e migliorare gli strumenti di verifica.

“Questi incidenti dimostrano l'importanza di un approccio di difesa multilivello” ha aggiunto Anthropic. Stiamo affrontando le soluzioni come se la responsabilità fosse esclusivamente nostra a partire dalla garanzia della sicurezza di ogni fase del nostro processo di valutazione, compreso il modo in cui ci integriamo con i partner esterni”.