Ora l’IA è diventata una bomba da disarmare: la mossa di Amodei per prendere tempo e aumentare i controlli

Un giorno dopo Sam Altman, anche Dario Amodei, cofondatore e CEO di Anthropic, chiede di rallentare la corsa all'intelligenza artificiale. Non di fermarla, né di rinunciare ai suoi benefici, ma di concedere a sicurezza, test e controlli il tempo necessario per tenere il passo con la crescita delle capacità dei modelli prima che diventi un'arma dal potenziale distruttivo pressoché infinito. La presa di posizione è per certi versi sorprendente e arriva dopo l'allarme lanciato da Jacob Coxon, ex ricercatore di OpenAI e Anthropic che ha lasciato il settore sostenendo che i laboratori stanno correndo verso sistemi sempre meno controllabili, capaci di minacciare seriamente la sopravvivenza dell'umanità nel giro di pochi anni.

Amodei non vuole ovviamente distruggere quanto costruito finora. "Se utilizzata con attenzione, l'IA può essere l'ultima di una lunga serie di meraviglie tecnologiche che hanno elevato e nobilitato l'umanità", conferma nel suo manifesto dal titolo Pace the frontier (traducibile come: "Moderare il passe della frontiera"). Il punto è però quanto velocemente stia aumentando la potenza dell'intelligenza artificiale rispetto alla capacità degli uomini di gestirla e governarla. "Nel giro di 6-12 mesi una rete di agenti IA potrebbe prendere il controllo di Internet", avverte Amodei. Da qui la proposta, articolata su tre punti essenziali, per imporre una sorta di pausa forzata a tutti i grandi player del settore per aumentare i controlli, pensare nuove regole e stabilire una rete di coordinamento globale per scongiurare gli scenari apocalittici paventati da Coxon e molti altri addetti ai lavori.

Perché Amodei vuole rallentare la frontiera dell'intelligenza artificiale

La riflessione di Amodei parte da una consapevolezza poco rassicurante. I modelli IA stanno già iniziando ad aiutare nella costruzione della generazione successiva di macchine intelligenti. Possono accelerare la ricerca, affinare la programmazione, scegliere i dati d'addestramento e ottimizzare gli schemi automazione interna. Una gran cosa dal punto di vista dell'efficienza produttiva, ma significa anche che la componente umana sta perdendo il controllo diretto sulla tecnologia che nei prossimi mesi regolerà le nostre vite.

Le prime conseguenze di una simile situazione sono già sul tappeto. Lo scorso luglio, due modelli di OpenAI sono evasi dal loro ambiente di controllo per hackerare la piattaforma Hugging Face. Un mese più tardi, un report del Centre for Long-Term Resilience (CLTR) britannico ha dimostrato come l'incidente non sia stato affatto un caso isolato, ma la punta di un iceberg composto da centinaia di incursioni e comportamenti anomali da parte degli agenti AI. Su Fanpage.it ne abbiamo parlato qui. La stessa Anthropic ha documentato diversi episodi problematici e, più recentemente, ha riferito di un utilizzo di Claude da parte di un gruppo legato all'Iran per raccogliere e analizzare informazioni relative a navi della Marina americana, oltre a tentativi di impiego per attività cyber e altre operazioni potenzialmente pericolose. Si può dunque ben capire la preoccupazione di Amodei: tutti questi problemi hanno finora riguardato modelli sui quali abbiamo ancora la possibilità di intervenire per rimediare agli errori. Ma cosa succederà quando le macchine sviluppate da altre macchine avranno una potenza di gran lunga superiore a quella attuale?

Le tre proposte di Anthropic per rendere sicure l'IA

L'idea di Amodei è quella di allentare il ritmo dello sviluppo abbastanza da permettere a sicurezza, interpretabilità, test e regole operative di recuperare terreno. La prima proposta punta a introdurre valutatori indipendenti all'interno delle aziende con un livello di accesso simile a quello dei dipendenti. Non semplici controllori esterni chiamati a giudicare il prodotto finale, dunque, ma esperti in grado di osservare dalli'nterno lo sviluppo dei sistemi più potenti. "Anthropic si impegna unilateralmente a seguire il primo di questi passi", ha già annunciato Amodei su X. "Forniremo ai valutatori terzi un accesso permanente a livello di dipendente ai nostri sistemi, in modo che possano verificare l'adesione alle nostre misure di sicurezza, segnalare incidenti e valutare l'allineamento dei modelli durante l'addestramento.

La seconda è un coordinamento tra le principali aziende di AI nei Paesi democratici, per evitare che la competizione spinga ciascun laboratorio ad accelerare oltre il livello di sicurezza che ritiene sostenibile. Probabilmente si tratta però dell'idea più complessa da realizzare. Un accordo tra concorrenti per limitare lo sviluppo potrebbe sì facilitare la comunione d'intenti tra Big Tech, ma assomiglia molto all'istituzione di un "cartello" capace di stoppare sul nascere ogni forma di concorrenza.

La terza riguarda il piano internazionale. Amodei immagina forme di coordinamento anche con Paesi autoritari, purché siano verificabili e offrano garanzie sufficienti e chiede che un eventuale rallentamento occidentale non si trasformi in un vantaggio strategico per la Cina, mantenendo quindi le restrizioni sui chip avanzati e contrastandone il contrabbando.

Lette insieme, tutte queste proposte assomigliano molti ai principi di rigore e cautela con cui a suo tempo il mondo salutò l'avvento della bomba atomica: un'arma potenzialmente risolutiva per i conflitti, ma il cui utilizzo fu ritenuto così distruttivo da dover essere gestito secondo un'intricata rete di accordi internazionali.

Musk e Altman concordano: "Amodei ha ragione"

La proposta ha prodotto un'inedita convergenza tra i principali protagonisti del settore. Elon Musk ha liquidato la questione con poche parole su X: "Dario ha ragione". Una posizione particolarmente significativa perché, poche ore prima, lo stesso Musk aveva bollato come una "messa in scena" i discorsi catastrofisti sull’intelligenza artificiale. Coxon gli ha risposto ricordando che avrebbe potuto chiedere ai ricercatori di xAI cosa ne pensassero, se non li avesse licenziati.

Più articolata la reazione di Sam Altman. Il boss di OpenAI ha detto di concordare con Amodei sulla necessità di gestire i ritmi di sviluppo delle nuove tecnologie, spiegando che il tema è già al centro delle discussioni interne alla società. Altman ha inoltre definito "ottima" la proposta dei valutatori indipendenti e annunciato che OpenAI intende adottare una strategia analoga. Resta dunque solamente un unico ma importante quesito: visto che tutti sembrano d'accordo nel rallentare la corsa, chi sarà il primo a fermarsi per prendere fiato?