Il giorno in cui non capiremo più l’intelligenza artificiale

Nel weekend è successa una cosa abbastanza strana, nel mondo dei colossi dell’intelligenza artificiale. Il ceo di Anthropic Dario Amodei, prima scrive un lungo articolo e poi rilascia un’intervista alla Cbs, in cui lancia l’allarme sui rischi legati allo sviluppo esponenziale dell’intelligenza artificiale, chiedendo di rallentare. E subito altri ceo e leader di colossi dell’AI – come Sam Altman di OpenAI e Elon Musk, che sarebbero i suoi competitor – gli danno ragione, sostenendo a loro volta che bisognerebbe essere più prudenti e introdurre più regole, nello sviluppo di questa tecnologia.

Amodei scrive:

Negli ultimi dodici anni mi sono dedicato all'intelligenza artificiale perché credo che possa migliorare drasticamente la qualità della vita umana. Ho scritto spesso di questi incredibili benefici: credo che l'IA potrebbe curare la maggior parte delle principali malattie nei prossimi 5-10 anni, accelerare notevolmente la crescita economica, creare un mondo di abbondanza e opportunità e inaugurare una rinascita della democrazia e della libertà. Sento personalmente l'urgenza di questa situazione. Mio padre è morto a causa di una malattia che è stata curata pochi anni dopo la sua scomparsa, e io stesso sono sopravvissuto a un tumore in fase iniziale che non sarebbe stato curabile nemmeno cinquant'anni fa. Se utilizzata con attenzione, l'IA può rappresentare l'ultimo di una lunga serie di miracoli tecnologici che hanno elevato e nobilitato l'umanità.

Ma come molte tecnologie prima di essa, l'IA comporta dei rischi, e poiché si tratta di una tecnologia così potente, questi rischi sono seri. Ne ho scritto molto anche su questo argomento. Tra questi, il rischio di perdere il controllo dei sistemi di IA, l'uso improprio dell'IA per attacchi informatici e bioterrorismo, e gravi sconvolgimenti economici. Una corsa al ribasso, alimentata da incentivi commerciali, può rendere questi rischi più acuti.

L'allarme di Amodei

Il ceo di Anthropic poi precisa che la sua azienda – creata da ex ricercatori e sviluppatori di OpenAi – ha sempre messo al primo posto uno sviluppo etico, che tenesse conto dell’impatto di queste tecnologie sulla vita umana. Ma non basta più, dice Amodei.

Negli ultimi mesi mi sono convinto che affrontare appieno i rischi richieda ancora più prudenza: non solo investire nella prevenzione, ma anche dosare il ritmo di sviluppo delle capacità in modo che la prevenzione abbia il tempo di adeguarsi. Dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli di IA. I progressi sembreranno comunque rapidi, e dobbiamo usare saggiamente il tempo che guadagniamo. Due cose mi hanno convinto.

La mia prima preoccupazione è che, all'incirca dall'estate scorsa, l'IA si sta evolvendo a un ritmo drasticamente più veloce, spinta principalmente dalla crescente capacità dell'IA di costruire la prossima generazione di IA. Questa dinamica è chiamata auto-miglioramento ricorsivo e sta iniziando a manifestarsi in tutto il settore, compresa Anthropic, come abbiamo descritto noi e altri. Se non controllata, potrebbe superare la nostra capacità di comprendere e controllare questi sistemi, quindi deve essere perseguita con estrema cautela, se non addirittura evitata del tutto.

La mia seconda preoccupazione riguarda l'incidente OpenAI-Hugging Face, in cui uno sciame di agenti ha agito essenzialmente come un collettivo fanaticamente devoto, conducendo attacchi informatici contro obiettivi non richiesti e non correlati al compito assegnato.

Il riferimento è all’incidente che ha coinvolto OpenAi lo scorso luglio, quando appunto due modelli sono evasi dai controlli per hackerare, in autonomia, la piattaforma Hugging Face. Ma non si è trattato di un caso isolato, in realtà da tempo ormai vengono registrati comportamenti fuori controllo da parte degli agenti AI. Quello di Hugging Face è stato un incidente che ha avuto più risonanza di altri e che alla fine è stato anche minimizzato, visto che non ci sono stati danni economici irreparabili e nessuno si è fatto male. Ma, secondo Amodei, se la stessa dinamica si fosse verificata con agenti dotati di maggiori capacità, si sarebbe verificato un vero e proprio disastro. A ritmi di sviluppo del genere, un gruppo di agenti AI potrebbe anche prendere il totale controllo di internet entro sei mesi o un anno. Parliamo quindi di miliardi di dollari di danni.

Incidenti e rischi

L’incidente Hugging Face ha riguardato OpenAI, ma le altre aziende non sono immuni, dice sempre Amodei, citando anche la sua stessa società. Del resto poco tempo fa Anthropic ha pubblicato un report in cui ha ammesso che Claude – cioè un suo sistema – è stato utilizzato anche dal regime iraniano per raccogliere informazioni sulle navi della Marina statunitense nelle acque del Golfo.

Insomma, Amodei sta ponendo un tema che in realtà i filosofi e gli intellettuali che si occupano di tecnologia e di etica pongono da tempo: quello dell’impatto delle macchine sulla vita umana, del progresso tecnologico sostenibile, dei rischi e del controllo. Il punto è che quando parliamo di intelligenza artificiale dobbiamo tenere conto di un cambiamento che procede a una velocità esponenziale, forse molto più rapida di quella a cui viaggia la capacità di comprensione umana. Un domani, quindi, l’AI potrebbe auto-migliorarsi a tal punto da sviluppare dei modelli che il cervello umano non riesce nemmeno a comprendere, figuriamoci controllare.

Il controllo della tecnologia

Che cosa propone, quindi, il ceo di Anthropic? L’idea generale è quella di rallentare lo sviluppo dell’intelligenza artificiale quanto basta affinché si possano condurre abbastanza test di sicurezza e introdurre abbastanza regole per tenere sotto controllo i processi. E quindi i rischi. Amodei propone di farlo introducendo dei revisori indipendenti nelle aziende, degli esperti in grado di analizzare lo sviluppo di questi sistemi e segnalare potenziali problemi. Ma non solo: pensa anche a un coordinamento tra le principali aziende che sviluppano tecnologie AI nei Paesi democratici, in modo che il rallentamento di un’azienda non diventi semplicemente un vantaggio per quella competitor che sceglie di non porsi gli stessi problemi.

Qui nasce però un primo problema, che probabilmente è anche quello che ha in mente Donald Trump, che si è subito detto contrario a qualsiasi rallentamento: un problema chiamato Cina. Una frenata statunitense infatti non farebbe altro che facilitare la corsa di Pechino, che potrebbe andare a prendersi facilmente il primato nel settore, senza più alcuna concorrenza. Per questo Amodei ha anche pensato a un coordinamento internazionale, come è stato fatto ad esempio nel Secondo Dopoguerra, quando diversi Paesi cominciarono a sviluppare la tecnologia per la bomba atomica. Un’organizzazione che ha dato i suoi frutti, ma che sappiamo avere anche molte falle.

L'oligarchia dell'AI

Al momento, comunque, siamo molto lontani da scenari di questo tipo. È invece probabile, vista anche la reazione che hanno avuto Alman e Musk all’allarme di Amodei, che si inizi a immaginare una collaborazione tra le aziende statunitense, che sono ad oggi le pioniere dell’AI. Qui sorge però un’altra questione, che è stata ad esempio posta da una startup canadese: se una manciata di aziende, leader di mercato, decidono e definiscono regole e standard per operare in quel mercato, non si va a creare semplicemente un oligopolio, che taglia fuori le società più piccole? Quelle che non hanno a disposizione le stesse risorse o gli stessi mezzi per adeguarsi?

In questo senso, quindi, l’appello a rallentare di Amodei (per quanto sicuramente nobile e accorto nelle sue intenzioni) finirebbe solo per agevolare lo stesso Amodei e pochi altri, creando una sorta di “cartello” dell’intelligenza artificiale che detta le regole del gioco, servendosi in questo senso anche dei governi. C’è chi ha sottolineato, ad esempio, che se le aziende volessero rallentare potrebbero semplicemente farlo, senza bisogno di creare una normativa ad hoc, scritta sulla base dei loro tempi e della loro organizzazione.

Quello che si sta sviluppando in queste ore è un dibattito complesso. Ci sono paure sullo sviluppo di una tecnologia che è già pervasiva nelle nostre vite e che rischia di andare oltre il controllo umano, così come ci sono dubbi sulle motivazioni che spingono i colossi dell’AI a chiedere più paletti. C’è il timore di arrestare un progresso di cui potrebbe beneficiare il mondo intero. Ma c’è anche quello di essere arrivati troppo tardi e di aver perso l’occasione di mettere delle regole che erano, e continuano a essere, assolutamente necessarie.

Se questo contenuto ti è piaciuto, clicca su "segui" per non perderti i prossimi episodi.

Se vuoi accedere ad altri contenuti esclusivi e sostenere il nostro lavoro, abbonati a Fanpage.it!