L’intelligenza artificiale è davvero un pericolo per l’umanità, con Riccardo Luna

Nel giro di pochi giorni, un ex ricercatore e i principali ceo delle aziende che sviluppano modelli di intelligenza artificiale hanno previsto scenari apocalittici per il prossimo futuro. Il problema è che è hanno ragione. E che le cose stanno ancora peggio, se possibile. Ne parliamo con Riccardo Luna.

Oggi rispondo alla domanda di Roberto:

“Ma l’intelligenza artificiale è davvero un pericolo per l’umanità?”

Caro Roberto, questo è quel che nei giorni scorsi hanno detto – testuale – un po’ tutti quelli che stanno lavorando a questa nuova tecnologia. Ad aprire le danze è stato il ricercatore Jason Coxon che il 9 settembre scorso si è dimesso da Anthropic, una delle aziende più quotate nello sviluppo di modelli di intelligenza artificiale, denunciando che le aziende del settore stanno costruendo una tecnologia incontrollabile e pericolosa per l'umanità. Sono le parole di Coxon, tuttavia, ad aver generato l’allarme: secondo l’ex ricercatore di Anthropic, infatti, l'AI potrebbe mettere a rischio l'intera umanità entro la fine del decennio.

Uno si aspetterebbe che Anthropic quereli Coxon. E che le altre aziende che costruiscono modelli di intelligenza artificiale intervengano per dire che sono problemi che riguardano la sola Anthropic.

E invece no.

Perché Dario Amodei, il fondatore e ceo di Anthropic ha scritto sul suo blog un articolo che ha rincarato la dose rispetto a quanto detto dal suo ex ricercatore. Cito testuale le parole di Amodei: “Dobbiamo rallentare il passo con cui miglioriamo le capacità dei modelli di intelligenza artificiale”. Il motivo? Ancora una volta, rischi esistenziali per la specie umana. Cito ancora Amodei: “Il rischio di perdere il controllo dei sistemi di IA , l'uso improprio dell'IA per attacchi informatici e bioterrorismo, e gravi sconvolgimenti economici”.

Amodei dice di rallentare, quindi. Ma la cosa sorprendente è che a seguito delle sue parole lo dicano anche altri. Lo dice Sam Altman di Open AI, lo dice Demis Hassabis, da molti considerato il vero genio dietro lo sviluppo dei modelli di Intelligenza Artificiale, lo dice persino Elon Musk.

Detta semplice: è chi sta costruendo l’intelligenza artificiale e ci sta facendo un mare di soldi a dirci che questa tecnologia rischia di sfuggirgli di mano, e ci consiglia di rallentarne lo sviluppo. E la cosa più sorprendente ancora è che è la politica, chi dovrebbe regolare queste tecnologie, che sta facendo orecchie da mercante: “La bufala sull'intelligenza artificiale ricorda la truffa sul riscaldamento globale, quando tutti sarebbero dovuti morire a causa del caldo", ha detto Donald Trump. Che ha aggiunto: “L'unico controllo di cui l'IA ha bisogno è un presidente forte e intelligente (con un quoziente intellettivo elevato) e gli Stati Uniti ne hanno uno".

Volessimo fare una battuta potremmo dire che l’uscita di Trump alimenta i dubbi di Coxon, Amodei e compagnia, anziché rassicurare. Ma il paradosso è comunque evidente: chi sviluppa la tecnologia è più preoccupato di chi dovrebbe regolarla. Come mai? Chi ha ragione? Ma soprattutto, non è che c’è sotto qualcos’altro, dietro queste dichiarazioni?

Per capirci qualcosa, ho chiesto a un collega che su queste faccende di solito è molto ben informato. Il suo nome è Riccardo Luna, è stato direttore di Wired, dell’AGI e Digital Champion per il Governo Renzi. Grande sostenitore del valore di internet, che aveva proposto di insignire col Nobel per la pace, Luna ha di recente pubblicato un libro intitolato “Cosa è andato storto”, edito da Solferino, in cui racconta come di fatto la rivoluzione digitale si sia rivelata, almeno in parte, una promessa tradita.

È con lui che proveremo a sciogliere questo paradosso. A rispondere alla domanda di Roberto. E a capire, cioè, se davvero l’IA è una minaccia esistenziale per l’umanità, se è davvero in grado di distruggerci nel giro di un decennio.

Partiamo, però, dalla più semplice delle domande:  perché Amodei, seguito da Altman e Musk, si è improvvisamente messo a parlare dei rischi dell'intelligenza artificiale?

“Allora, concentriamoci intanto su Dario Amodei, che è il fondatore di Anthropic, l’amministratore delegato, ed è quello che ha tirato il freno, seguito dagli altri. Perché lo fa? Intanto perché non si può permettere di passare per il cattivo. Qualche giorno prima un suo dipendente si era dimesso dicendo che né Anthropic né OpenAI facevano abbastanza davanti ai rischi mortali che l'umanità correrebbe a causa dell'intelligenza artificiale.

Non si può permettere di passare come cattivo anche perché sta conducendo un'operazione per quotare Anthropic in borsa a una valutazione stratosferica e non si può permettere di far vedere al mondo che non ha a cuore la sicurezza dell'umanità, ecco. Tra l'altro è un tratto comune alla Silicon Valley e alla sua storia quello di voler passare per i buoni. Loro non stanno cercando soltanto di fare delle aziende enormi e con un potere sconfinato. Lo stanno facendo per noi, lo stanno facendo per il bene del mondo.

Questo è stato un tratto comune a tutta la storia della Silicon Valley. Pensate ai discorsi che faceva Mark Zuckerberg che ha fatto fino a poco tempo fa e poi quello che è emerso invece nei processi che diceva davvero degli obiettivi aziendali. Quindi ecco, intanto c'è questa ricerca di passare nella storia dalla parte dei buoni.

La seconda cosa che sicuramente è vera e che negli ultimi mesi nei laboratori si sono visti che i rischi dell'intelligenza artificiale non sono fantascienza, sono reali.

C'è stato il famoso caso di questo agente di OpenAI che è uscito dal controllo dei suoi ricercatori ed è andato a prendere possesso del sistema operativo di un altro sito di Hugging Face, quindi questo è quello che dice Amodei quando dice che oggi questi agenti non controllati potrebbero prendere il controllo di internet.

Prendere il controllo di internet vuol dire prendere il controllo, faccio degli esempi, del traffico aereo, del traffico dei treni e del funzionamento degli ospedali, cioè qualcosa davvero di esistenziale. Quindi questa cosa esiste. Come esiste il fatto che oggi questi strumenti li puoi usare per costruire armi biologiche.

Proprio un paio di giorni prima dell'allarme di Amodei, Anthropic ha pubblicato un report in cui si dice questo rischio di armi biologiche è reale, abbiamo fermato alcune ricerche in cui degli interlocutori ci chiedevano ai nostri large language model, i nostri modelli, come costruirli. Quindi questa cosa esiste ed è possibile. C'è pure un altro aspetto che secondo me invece è quello che alla fine diventa ancora più importante ed è la concorrenza con la Cina.

In questo momento i modelli cinesi aperti costano di meno, ci vuole meno tempo a farli, sul mercato vanno a un prezzo concorrenziale e questa è una cosa che gli Stati Uniti non si possono permettere. Credo che la parte più interessante infatti della del documento con cui Dario Amodei ha chiesto di frenare non è quella in cui dice "Siamo disposti a accettare ispettori, ispezioni, eccetera, eccetera", ma quella in cui dice "Fermate la Cina". Fermate la Cina.

Quindi in questo momento Amodei fa questo ragionamento. Lui ha vinto la competizione negli Stati Uniti, gli Stati Uniti sono in vantaggio nella competizione in Cina, fermiamo tutto, cristallizziamo la situazione così, mettiamo l'agenzia regolatoria, rallentiamo tutti insieme in modo che si consolidi il vantaggio che ha acquisito fino a questo momento”.

Sgombriamo il campo dal primo grande equivoco, quindi: Amodei, Atlman, Musk non sono dei benefattori, né dei filantropi. Non lo erano prima, quando facevano un sacco di soldi con l’IA, non lo sono ora che ne paventano i rischi. E se dicono queste cose ora, se ci parlano dei rischi ora, è perché ora gli conviene farlo. Soprattutto Anthropic e Open AI che stanno per quotarsi in borsa. Questo però è un problema loro. Il nostro problema è un altro, semmai. Davvero abbiamo riposto la nostra fiducia, e una marea di soldi, accettando di perdere posti di lavoro e di accettare la crescita smisurata dei consumi energetici e una corsa alle materie prime che farà morti e feriti per una tecnologia che potenzialmente può distruggere il genere umano? Ma soprattutto: cosa intendono esattamente Amodei e Altman quando dicono che l'IA è una minaccia esistenziale per l'umanità? In che modo concretamente uno strumento che risponde alle nostre domande, dalle più stupide alle più complesse, può sterminare il genere umano? Non è che lo dicono perché vogliono vendere al mercato l’idea che hanno per le mani una tecnologia potentissima, ma che nel contempo sanno tenerla a bada? In altre parole: non è che sta cosa dell’IA come cavaliere dell’apocalisse è, alla resa dei conti, una gigantesca trovata di marketing per un settore che ha bisogno di un sacco di soldi, ma non ha ancora capito come guadagnarli?

“Allora, sul fatto che l'intelligenza artificiale ci faccia correre dei rischi esistenziali e non soltanto il rischio di una disoccupazione di massa, che comunque è comunque un rischio esistenziale perché se tutta l'umanità restasse improvvisamente senza lavoro, ha voglia a pensare di vivere col reddito di cittadinanza globale. Ecco, questo fatto dei rischi globali spesso viene sminuito, no?

Alcuni dicono che è uno strumento di marketing della Silicon Valley per convincerci che hanno tra le mani una tecnologia così potente e quindi a tirare ancora più investimenti. Qualcuno ha paragonato anche, di autorevole devo dire, ha paragonato l'intelligenza artificiale, questi Large Language Model, a una caffettiera o a cose di questo tipo sminuendone la potenza.

Ecco, io credo che in realtà sia riduttivo e non so se mi ritrovo nel titolo di un libro che in questo momento va per la maggiore che dice testualmente "Se qualcuno la costruisce moriremo tutti". Però è chiaro che i rischi in questo momento ci sono e a parte appunto quello della disoccupazione di massa, ce ne sono due molto chiari che sono venuti fuori proprio in questi mesi.

Il fatto che questi strumenti possono essere utilizzati per costruzione di armi biologiche e ancora più, secondo me, significativo, il fatto che questi agenti hanno dimostrato di saper mentire, di saperci ingannare e di poter perseguire obiettivi collaterali a quelli che noi umani gli abbiamo dato e quindi uscire dal nostro controllo.

Visto che il mondo vive connesso e quasi tutte le cose che ci fanno che funzionano e che ci fanno funzionare sono connesse alla rete, oggi un agente cattivo, malevolo collegato alla rete è in grado di fare davvero tanti danni.

Quindi è per questo che c'è bisogno di regole, è per questo che l'appello non va accettato per come l'ha presentato Amodei, ma va preso sul serio, un allarme, un un senso di allarme di consapevolezza va va interiorizzato e va fatto nostro, secondo me, quello che ha detto Papa Leone nella sua magnifica enciclica Magnifica humanitas. È ora di disarmare l'intelligenza artificiale".

Ok, quindi. La minaccia è seria e non è una trovata di marketing. Ma a questo punto c’è un altro paradosso da chiarire. Come mai la politica, e in particolare il governo americano, non hanno colto la palla al balzo per assurgere a grandi regolatori dell’Intelligenza Artificiale, come fanno di solito? Perché Trump ha respinto con forza i dubbi delle aziende che sviluppano questi modelli? Per fare un esempio: è come se chi vende automobili dica che ha messo in circolazione automobili senza freni, e chieda al governo di ritirarle dal mercato. Ma invece il governo dica no, che non ha senso intervenga, perché i freni delle auto funzionano benissimo. O comunque che quelle auto possono circolare senza freni. Anche qui, ovviamente, la risposta va cercata tra le pieghe della corsa al primato dell’IA tra Stati Uniti e Cina.

“La reazione dei governi americano e cinese è stata molto diversa in realtà. La reazione del governo americano è stata avanti tutta, come è sempre stato dal primo giorno della presidenza Trump. Questo è uno strumento per consolidare il predominio americano sul mondo. Non possiamo permetterci di rallentare, anzi dobbiamo accelerare per poter dominare il mondo e tra l'altro, quindi sottomettere anche la Cina che è il considerato rivale più pericoloso.

E tra l'altro il consigliere per l'intelligenza artificiale di Donald Trump, David Sacks, è stato anche molto sarcastico, anche con efficacia, perché ha detto ad Altman e a Musk, "Perché ci chiedete il permesso di rallentare in base al fatto che stareste sviluppando una tecnologia troppo pericolosa? Se è troppo pericolosa, fermatevi da soli. Chi ve lo impedisce?". E quindi, come dire, è chiaro che se tu devi mettere una macchina sul mercato la metti con i freni, la metti che è perfettamente funzionante.

Se è una macchina che ti fa schiantare su un muro, non la metti sul mercato. Questo è un po' il punto di Trump, anche se va detto che nella base elettorale di Trump una parte importante, quella che fa capo all'ideologo Steve Bannon, praticamente i fondatori del movimento MAGA, è molto, molto contraria a uno sviluppo dell'intelligenza artificiale senza regole.

C'è una parte importante che in questo momento si riconosce addirittura nelle posizioni del senatore democratico Bernie Sanders, che ha chiesto un bando assoluto a ulteriori sviluppi di intelligenza artificiale senza controlli e garanzie. Quindi devo dire, Trump in questo momento fronteggia anche una parte importante dei suoi elettori che non si fida dell'intelligenza artificiale.

Per la Cina è completamente diverso. La Cina in questo momento sta rimontando e non giustifica, non accetta l'idea che gli americani trasformino lo sviluppo dell'intelligenza artificiale in una guerra fredda. Tra l'altro più volte si sono detti disponibili a un accordo internazionale, hanno creato un organismo internazionale qualche mese fa con sede a Shanghai con 29 Paesi che hanno aderito per stabilire standard di ispezioni, controlli, eccetera.

Ovviamente nessun Paese Occidentale ha accettato, ma quel giorno quando è partito questo organismo internazionale, la WAICO, era presente il segretario generale delle Nazioni Unite. Quindi io credo che la Cina in realtà abbia interesse a un accordo, perché, essendo un Paese autocratico, essendo una dittatura, un'intelligenza artificiale fuori controllo non serve neanche a una dittatura. La dittatura ha bisogno di controllo, quindi secondo me la Cina messa attorno a un tavolo un accordo lo cercherebbe”.

Attenzione, però. Perché come tutto ci insegna, dietro ogni grande questione di principio ci sono una mare di soldi che ballano. Lo dicevamo prima, no? Le aziende che sviluppano modelli di intelligenza artificiale hanno raccolto un sacco di soldi, hanno speso un sacco di soldi, e probabilmente andranno in borsa per raccogliere altre vagonate di soldi. Il problema è che faticano a guadagnare un sacco di soldi. E se rilanci all’infinito senza trovare il modo di farci dei soldi veri, prima o poi qualcuno te ne chiederà conto. E la bomba esplode.

“Allora, certo che c'entrano i soldi in questa vicenda. L'unica cosa che conta per tutti sono soltanto i soldi, quindi gli investimenti in questo momento fatti in intelligenza artificiale negli Stati Uniti sono colossali. Tra l'altro sono investimenti spesso incrociati, perché per dire Google investe in Anthropic che però fa un contratto con Google per i data center di Google. Nvidia che vende chip a tutti, investe in tutte queste aziende. Quindi c'è anche un sistema di investimenti di debiti incrociati davvero pericoloso per la tenuta.

Quello è il punto che oggi tutti questi investimenti non fanno intravedere, ovviamente, come accade con la tecnologia, un solo vincitore. Quindi alcune aziende necessariamente falliranno e il problema è se a fallire non saranno tutte le aziende americane, perché la concorrenza dei cinesi in questo momento è davvero importante. In tutto il Global South si usano i modelli aperti cinesi, che sono appunto aperti, scaricabili sul computer, più competitivi, eccetera eccetera.

E anche nelle università e nei centri di ricerca si usano i modelli cinesi, questo per le aziende americane che appunto stanno investendo tre cifre da capogiro, non è accettabile e quindi certo i soldi c’entrano moltissimo”.

Insomma, alla fine dei conti, il problema è più serio di quanto immaginavamo. Perché sì, l’intelligenza artificiale può essere una minaccia esistenziale per l’umanità, e non solo in potenza. E sì, anche se non lo fosse, può causare squilibri sistemici difficili da risolvere, come la crisi occupazionale di chi in tutto il mondo lavora nelle professioni intellettuali. E sì, anche se non metteranno in crisi i lavoratori di tutto il mondo, devono ancora trovare il modo di guadagnare dei soldi. E c’è il rischio concreto che quell’enorme mole di capitale di rischio e debito che stanno accumulando, alla fine, ci ricada comunque tutto addosso, se per caso la bolla esplode. Quindi, in definitiva, che deve fare la politica di fronte a tutto questo?

“La politica dovrebbe fare la politica, cioè se se è vero che siamo davanti a una nuova rivoluzione industriale, è una tecnologia così potente è stata paragonata al fuoco, all'elettricità, la politica deve regolare come in questi casi devi fare e fare in modo che i benefici siano distribuiti fra tutti e che non nessuno venga lasciato indietro. Quindi oggi la proposta di Dario Amodei, di Sam Altman, e di Elon Musk, anche Demis Hassabis si è accodato, non Mark Zuckerberg, va sostanzialmente respinta.

Sono giocatori in campo, non possono fare anche gli arbitri, non possono essere loro a dare le regole, non possono essere loro a decidere le modalità delle ispezioni nei laboratori. Questa cosa deve essere affidata a organismi internazionali, proprio un anno fa all'Assemblea delle Nazioni Unite c'è stato un appello di undici Premi Nobel che chiedevano la creazione di un organismo internazionale per sorvegliare lo sviluppo dell'intelligenza artificiale. Questa cosa sarebbe dovuta avvenire entro la fine del 2026.

Tra qualche giorno si apre una nuova Assemblea Generale dell'ONU, è necessario riportare lì dentro la discussione e far sì che la da là dentro parta una spinta per un organismo internazionale che sorvegli per tutti, per il benessere di tutti, al beneficio di tutti, lo sviluppo dell'intelligenza artificiale.

Credo che con questa Presidenza americana, con Donald Trump, questa cosa sia impossibile, ma come col clima, non è che perché Trump ha detto è impossibile che gli sforzi negoziali e i tentativi di decarbonizzare si devono fermare. Bisogna andare avanti lo stesso e aspettare che gli Stati Uniti cambino, magari lo faranno presto, già con le elezioni di midterm”.

Forse ha ragione Trump, quindi. Forse affinché qualcuno se ne occupi tocca aspettare un presidente intelligente. E che magari non prenda soldi da quelli che dovrebbe regolamentare.