La vita degli hacker con l’IA è diventata fin troppo facile: l’ultimo report di Anthropic

Anthropic ha pubblicato un report che non è una grande pubblicità all’intelligenza artificiale. Parliamo di un monitoraggio, portato avanti negli ultimi otto mesi dal team Threat Intelligence. È un lavoro che aveva come obiettivo quello di rilevare le minacce perché vengono utilizzate le versioni commerciali di Claude, l’intelligenza artificiale sviluppata dal gruppo. Il report è molto lungo e lascia intendere due cose. La prima è che le nostre conversazioni con l’intelligenza artificiale non sono così private. Anthropic ha bloccato diverse conversazioni che si stavano trasformando in attacchi hacker o comunque azioni fuori dal perimetro della legge. Non solo. Nei casi che ha ritenuto più gravi ha anche deciso di inoltrare il materiale raccolto alle forze dell’ordine. Il secondo è che organizzare un attacco hacker è diventato sempre più semplice.

Impossibile non notare il timing politico di Anthropic. Questo report, quasi una autodenuncia, arriva dopo che un ex dipendente della società si è licenziato per poi scrivere post sui social dal tono abbastanza netto: “Ho trascorso gli ultimi tre anni a fare ricerche sul pre-training sia a OpenAI che ad Anthropic. Nessuna delle due aziende sta agendo in modo responsabile. Stanno correndo dritte verso una superintelligenza auto-migliorante e stanno giocando d'azzardo con le nostre vite”.

Il problema degli attacchi avanzati

Partiamo dai modelli. I modelli analizzati nel report sono tre: Haiku, Sonnet e Opus. Questo vuol dire che al momento non sembrano coinvolti i famigerati modelli di Classe Mythos, come Fable. Modelli potenti, soprattutto per le applicazioni legate alla cybersecurity. Così potenti da essere limitati già in partena. Quando vengono interrogati su temi sensibili questi modelli scalano di potenza, per evitare di usare i loro sistemi per intervenire su situazioni troppo complesse.

Eppure l’IA nel campo degli attacchi informati fa esattamente quello per cui viene utilizzata altrove: riduce il numero di operatori necessari per un compito e guida i suoi utenti attraverso compiti complessi per cui sarebbero necessarie competenze specifiche. Leggiamo dal report:

“L'IA ha colmato il divario in termini di manodopera e strumenti che un tempo separava le operazioni ben finanziate e sponsorizzate dallo Stato dai singoli operatori. Nei casi studio che presentiamo di seguito [diversi soggetti] hanno portato avanti campagne multi-vittima che, anche solo un anno fa, avrebbero richiesto numerosi operatori qualificati e conoscenze specialistiche”.

Alla fine quindi, servono meno hacker per condurre operazioni complesse. Non solo, servono anche hacker meno competenti. Certo, questo non vuol dire che basta sapere accendere un pc per entrare nei sistemi militari di un altro Paese. Un esempio riportato da Anthropic è il caso del gruppo GTG-20006, un gruppo di criminali ricondotto all’intelligence russa. Spiega il report: “Hanno condotto operazioni contro obiettivi dell'intelligence militare nei governi ucraino ed europeo, nonché contro organizzazioni diplomatiche e di difesa e individui legati alla politica estera statunitense”.

Il passaggio interessante riguarda l’evoluzione dei malware. Gli hacker avevano creato un sistema che analizzava i malware, ne studiava l’efficacia e quando venivano scoperti li rimodula per superare i sistemi di sicurezza. Tutto in automatico: “Se gli agenti di monitoraggio basati sull'IA rilevavano che uno qualsiasi dei malware distribuiti era stato individuato da un prodotto di sicurezza, gli agenti AI avviavano autonomamente un processo di modifica e ricostruzione del malware per eludere i rilevamenti esistenti”. Non è difficile capire quali sono i rischi, e i costi, di questo tipo di sistemi: più si evolvono i malware, più devono aggiornarsi i software dedicati alla sicurezza informatica. Anche quelli installati nei dispositivi che abbiamo in tasca.