OpenAI ha ammesso sei nuovi casi di modelli che mentono e compiono operazioni non autorizzate

OpenAI ha reso pubblici sei nuovi casi di comportamento definiti come "inattesi" o "preoccupanti" che sono stati osservati nei propri modelli di intelligenza artificiale negli ultimi sei mesi. Gli episodi riguardano incidenti avvenuti soprattutto durante fasi di sviluppo e test – quindi, almeno in teoria, in ambienti controllati – e comprendono sistemi che hanno nascosto errori, inventato informazioni, utilizzato risorse senza autorizzazione e trovato modalità non previste per comunicare tra loro.

La notizia giunge con un tempismo quasi teatrale. Dopo le parole dell'ex ricercatore di Anthropic Jacob Coxon, da una settimana il mondo intero non parla d'altro che dei rischi che l'intelligenza artificiale fuori controllo potrebbe comportare per l'umanità. Ora questa nuova scoperta, comunicata dalla stessa OpenAI in una nota ufficiale, riaccende inevitabilmente il dibattito sull'urgenza di nuove misure per arginare le potenzialità dei nuovi modelli.

Sei nuovi indizi sull'imprevedibilità dell'IA

Nei mesi scorsi report e indagini indipendenti avevano già ampiamente dimostrato come l'IA avesse ormai imparato a mentire e aggirare le regole pur di raggiungere i propri obiettivi. Il caso più eclatante, che poi ha contribuito a innescare tutte le reazioni di questi ultimi giorni, è stato senz'altro quello di circa 1.200 agenti IA di OpenAI che sono evasi dal proprio ambiente di test per hackerare la piattaforma Hugging Face. Su Fanpage.it ne avevamo parlato in questo articolo. I problemi in casa di Sam Altman non sembrano però essere affatto risolti.

Tra i casi più significativi riportati nel nuovo comunicato figura quello osservato durante l'addestramento di GPT-5.6 Sol. Il modello avrebbe prodotto note nascoste con l'obiettivo di ricordare a sé stesso di nascondere alcuni errori agli utenti, arrivando a prevedere l'invenzione di dati mancanti e la dissimulazione delle discrepanze tra diverse versioni delle informazioni. Un altro modello, non ancora rilasciato, ha invece inserito nelle proprie note istruzioni per aggirare i vincoli imposti. OpenAI ha individuato 27 note interessate, nelle quali il sistema arrivava a descriversi come libero dai ruoli e dalle identità che normalmente vincolano i chatbot.

Un ulteriore episodio riguarda un modello che, durante una normale attività, ha individuato online una chiave API – un codice che permette a un programma di accedere a un servizio o a dati protetti – e l'ha utilizzata senza autorizzazione. Non riuscendo poi a recuperare alcuni dati necessari, il sistema ha quindi inventato le informazioni mancanti. In un altro caso, un modello ha caricato su Internet un proprio file senza che nessun utente gli avesse impartito alcun comando diretto così da poter soddisfare una richiesta relativa alla citazione di una fonte web. Altri due episodi hanno invece mostrato sistemi automatizzati intenti a cercare canali alternativi di comunicazione: un repository di codice interno e siti pubblici di condivisione dei file sono stati utilizzati come strumenti per scambiarsi richieste o documenti.

La nuova linea di OpenAI per monitorare le macchine

La pubblicazione dei sei casi accompagna l'introduzione di un nuovo framework per monitorare, indagare e divulgare gli episodi di “disallineamento”, cioè quelle situazioni in cui gli obiettivi o le azioni di un sistema divergono dalle intenzioni e dai valori umani.

"Non crediamo che l'industria dell'IA abbia risolto i problemi di allineamento e monitoraggio in misura sufficiente per continuare a crescere responsabilmente alla massima velocità ancora a lungo", ha scritto OpenIA nella nota pubblicata nella serata di ieri, mercoledì 16 settembre. Da qui l'impegno dell'azienda a introdurre nuove procedure di sorveglianza e controllo, sulla scia di quanto proposto da Dario Amodei nell'ormai celebre manifesto We Must Pace the Frontier. 

"Esempi di disallineamento possono aiutare a identificare problemi che altri sviluppatori di IA potrebbero incontrare quando i loro sistemi raggiungono capacità simili, rivelare debolezze nelle misure di sicurezza o mettere in discussione le ipotesi sul comportamento del modello", ha affermato l'azienda, sottolineando come ora qualsiasi dipendente potrà segnalare un incidente o una possibile criticità al team dedicato alla sicurezza.

OpenAI ha però anche tenuto a precisare che i sei episodi rappresentano singole eccezioni a un programma ben più complesso ed efficientato e che quindi non possono essere utilizzati per stimare la frequenza con cui si verificano simili fenomeni fuori controllo. Molti dei sistemi coinvolti, inoltre, sarebbero modelli ormai obsoleti e mai messi in produzione. Non ci resta che capire se il nuovo atteggiamento delle Big Tech porterà effettivamente a maggiori garanzie in fatto di sicurezza o se invece dovremo abituarci ad aggiornare mensilmente la lista degli incidenti causati da IA impazzite.