Un ex ricercatore di Anthropic teme che l’IA ci ucciderà tutti entro 10 anni: “È corsa verso l’endgame”

"Le persone che costruiscono l'IA credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio". Queste parole non sono la profezia apocalittica di un attivista tecno-scettico, ma il grido d'allarme di chi quelle macchine ha contribuito fino a ieri a crearle e addestrarle. A pronunciarle è Jacob Coxon, ex ricercatore di Anthropic, la Big Tech di Dario Amodei. Negli ultimi mesi, l'azienda è finita al centro della bufera a causa della sua nuova famiglia di modelli, Mythos, considerati talmente potenti da rappresentare una minaccia per tutti gli altri sistemi informatici. Forse anche questo ha convinto Coxon a licenziarsi da Anthropic e affidare a un lungo thread su X tutte le sue preoccupazioni sul futuro che ci attende.

"Ho trascorso gli ultimi tre anni a fare ricerche sul pre-training sia a OpenAI che ad Anthropic. Nessuna delle due aziende sta agendo in modo responsabile", afferma Coxon. "Stanno correndo dritte verso una superintelligenza auto-migliorante e stanno giocando d'azzardo con le nostre vite."

Un declino che non si può fermare

Per Coxon, l'ipotesi di un'intelligenza artificiale capace di diventare una minaccia per l'esistenza stessa dell'umanità non è affatto remota. "Non sottovalutate il potere di questa tecnologia", ha spiegato. "Presto questi saranno sistemi sovrumani in grado di hackerare qualsiasi cosa, rivoluzionare qualsiasi campo dall'oggi al domani e acquisire vero potere e risorse".

Il ricercatore sostiene di aver ascoltato per anni dirigenti e scienziati discutere privatamente di uno scenario in cui, entro la fine del decennio, modelli sempre più autonomi e potenti potrebbero sfuggire alla capacità umana di controllarli. Dopotutto lo stesso Bill Gates, non proprio un carneade del mondo tech, proprio pochi giorni fa aveva avanzato tesi molto simili, sottolineando come i grandi player del settore stiano volutamente sottovalutando i pericoli dell'IA. Vi lasciamo qui l'articolo di Fanpage.it nel quale abbiamo affrontato l'argomento. Arrestare il processo sembra però impossibile.

"In OpenAI, molti non hanno interiorizzato profondamente la poste in gioco per la civiltà. In Anthropic, è sono ben compreso ciò che è in ballo, ma sono bloccati in una corsa per arrivarci per primi: credono che nessun altro agirà responsabilmente, quindi devono farlo loro stessi, nonostante il rischio". Una nefasta riproposizione di quel paradosso della sicurezza che porta le nazioni ad armarsi fino ai denti nella convinzione di scongiurare un conflitto, finendo poi per scivolare inevitabilmente in guerra perché il nemico diventa troppo potente e minaccioso. "É una corsa verso l'endgame", afferma Coxon, per il quale la possibilità di lasciare questa scommessa ai board delle aziende private rappresenta un pericolo troppo grande.

Per questo l'appello di Coxon è rivolto soprattutto ai ricercatori rimasti nei laboratori per non accettare l'idea che la corsa sia inevitabile e chiedere nuove e radicali condizioni di sicurezza. Secondo Coxon, l'attacco subito dall'infrastruttura di Hugging Face – ne abbiamo parlato in questo articolo – ha dimostrato che una forma di coordinamento nel settore sia effettivamente possibile, anche se probabilmente saranno necessarie misure ben più drastiche, come un temporaneo divieto sul miglioramento delle capacità dei modelli, per evitare il peggio. "Se sei un ricercatore di laboratorio, ti esorto a considerare come saranno i prossimi anni", recita l'ultimo post di Coxon. "Vuoi avviare una corsa all'RL superintelligente senza una comprensione rigorosa della sua mente? Dovresti chinare la testa solo perché ‘sta succedendo comunque' o cogliere questo momento per chiedere condizioni diverse?"

L'ammissione del responsabile di Anthropic

Il lungo thread di Coxon è stato subito ripreso da giornali, media e altri esperti del settore. Molti addetti ai lavori si sono trovati d'accordo con la visione catastrofista del ricercatore. Anche alcuni importanti esponenti di Anthropic hanno commentato i post, ammettendo l'esistenza di un tema su cui le big tech dovranno al più presto fare i conti.

"Jacob qui ha ragione, crediamo davvero con sincerità che l'IA potrebbe uccidere tutti gli esseri umani", ha scritto Evan Hubinger, responsabile dell'Alignment team di Anthropic, ossia la divisione che si occupa proprio di mantenere sicuri e controllabili i modelli IA. "Personalmente penso che ci sia più del 10% di probabilità entro il prossimo decennio. Credo che Anthropic stia facendo del suo meglio, ma non abbiamo ancora un piano per risolvere il problema dell'allineamento per la superintelligenza e non siamo chiaramente sulla strada giusta per farlo".