I nuovi modelli di OpenAI verranno addestrati senza Internet: si teme che siano troppo inaffidabili

L'intelligenza artificiale rischia di diventare una minaccia letale per le difese informatiche di tutto il mondo e correggere le vulnerabilità che la stessa IA ci aiuta a scovare – come nel recente caso di PHP, di cui abbiamo parlato qui – potrebbe non essere più sufficiente. Questo timore è nell'aria ormai da mesi, più o meno quando i modelli di nuova generazione hanno iniziato a scoprire autonomamente falle nei sistemi di sicurezza e a sfruttarle per attaccare siti, piattaforme e portali istituzionali. L‘aggressione a Hugging Face da parte di centinaia di agenti IA avvenuta lo scorso luglio è stata la miccia che ha portato molti addetti ai lavori, con in testa il patron di Anthropic, Dario Amodei, a valutare un cambio di direzione per l'intero settore, prima di arrivare a un punto di non ritorno.  Ora, però, è lo stesso Sam Altman, CEO di OpenAI che finora ha rifiutato l'idea di uno stop totale allo sviluppo dei modelli più potenti, ad ammettere che la velocità con cui i modelli sviluppano nuove e sempre più efficaci capacità di attacco rischia di superare quella delle organizzazioni chiamate a difendersi.

"Non credo più che saremo in grado di risolvere tutti i bug con una semplice patch", ha affermato Altman in occasione di un recente intervento alla Stanford Graduate School of Business. Il problema, ha spiegato, è che aziende e istituzioni non stanno ancora affrontando la minaccia con la necessaria serietà. Un po' curioso, visto che a dirlo è proprio una delle persone ai vertici dell'intero settore. D'altronde, lo stesso Altman aveva fatto discutere qualche settimana fa quando, nel corso di un'intervista, aveva sostenuto che le persone dovrebbero accettare alcune conseguenze negative per poter beneficiare dei progressi e delle opportunità che l'IA promette di offrire in futuro. Intanto, però, proprio ieri OpenAI ha dichiarato che comincerà ad addestrare i nuovi modelli in ambienti offline, visto che le precedenti versioni si sono dimostrate inaffidabili una volta connesse a Internet in tempo reale.

Nuovi modelli addestrati senza accesso a Internet

La decisione è stata presa da OpenAI in seguito ad alcuni incidenti nei quali degli agenti di IA hanno sfruttato configurazioni errate per raggiungere risorse esterne all'ambiente di ricerca. Anche Anthropic ha adottato restrizioni analoghe per i suoi modelli più avanzati. In pratica, i modelli potranno consultare contenuti web archiviati e interagire con versioni simulate della rete, senza poter modificare sistemi esterni o agire liberamente su servizi online.

L'obiettivo è riprodurre le condizioni necessarie all'addestramento, riducendo il rischio che un agente autonomo esca dai confini prestabiliti, come invece è successo diverse volte soltanto negli ultimi mesi. Il vantaggio di questa scelta può essere duplice: limitare gli attacchi accidentali e impedire che i modelli sfruttino vulnerabilità reali durante gli esperimenti. Gli ambienti controllati possono inoltre rendere più semplice monitorare le azioni degli agenti e riprodurre gli incidenti per comprenderne le cause.

Non mancano però le controindicazioni. Come sottolineato dalla testata specializzata TechCrunch, un ambiente simulato non riproduce necessariamente la complessità e l'imprevedibilità delle dinamiche di Internet. I modelli potrebbero quindi comportarsi diversamente nel mondo reale, mentre le copie archiviate rischiano di diventare rapidamente obsolete. Inoltre, costruire e mantenere infrastrutture isolate richiede risorse, competenze e procedure complesse che rischiano di appesantire un'industria che già ora fatica a ricavare utili nonostante l'impennata dei ricavi. Per ora, dunque, la soluzione di Altman sembra quella di "recintare" i modelli in fase di addestramento nella speranza di contenere i danni. Cosa succederà quando gli stessi modelli verranno liberati e dotati di un accesso al web non sembra però ancora ben chiaro nemmeno agli stessi sviluppatori.