Perché stiamo dicendo che l’IA ci porterà alla fine del mondo: l’analisi di Enkk

Da quando Jacob Coxon ha affermato sul proprio profilo X che l'IA potrebbe davvero ucciderci tutti, il mondo sembra aver invertito senso di marcia. Dopo le parole dell'ex-ricercatore di Anthropic circa le enormi carenze di sicurezza e gli scenari apocalittici che attenderebbero l'umanità a causa dello sviluppo senza freni dell'intelligenza artificiale, non solo molti colleghi, ma anche gli stessi leader delle principali aziende del settore hanno cominciato a predicare la necessità di rivedere l'intero ecosistema produttivo di una tecnologia tanto formidabile quanto potenzialmente distruttiva. Dario Amodei, CEO di Anthropic, ha addirittura colto la palla al balzo per chiedere ai governi di rallentare la corsa all'intelligenza artificiale e sedersi a un tavolo per stabilire nuove regole universali circa lo sviluppo dei prossimi modelli.

Come leggere dunque questa mossa? Si tratta di un effettivo ravvedimento per evitare l'ultimo passo prima del baratro o, come sospetta qualcuno, si tratta di una furbata per escludere nuovi concorrenti e prendere fiato in un momento in cui l'intelligenza artificiale continua a bruciare miliardi di dollari senza però produrre ricavi adeguati? Per provare a orientarci in questo argomento complesso ci siamo rivolti a Enkk, alias di Enrico Mensa, ricercatore ed esperto di intelligenza artificiale che da anni fa divulgazione sul web.

"È estremamente difficile distinguere cosa è vero, cosa è marketing e cosa è mero catastrofismo", afferma Enkk. "Si può per esempio sostenere che gli attacchi hacker degli scorsi mesi non siano solo il frutto delle capacità di questi agenti, ma anche della negligenza di chi ha impostato i vari ambienti di test. C'è poi chi sostiene che il rallentamento sia un escamotage per gestire gli esagerati investimenti nel settore, e chi ancora ritiene questa mossa possa effettivamente dare il tempo ai grandi player di rendere più efficienti i loro processi senza però perdere terreno nei confronti della concorrenza, Cina in testa. Può esserci verità in ciascuna di queste visioni, ma ritengo sia importante perimetrare i reali rischi legati a questa tecnologia".

"Benché queste aziende vivano di un'evidente una tensione fra la volontà fare le cose con calma e sicurezza e la necessità di battere i propri concorrenti – continua Enkk – questi oggetti sono indubbiamente forieri di una serie di scenari pericolosi che devono essere tenuti sotto controllo".

Perché è vero che l'IA può diventare pericolosa per l'uomo

Per il ricercatore, parlare di percentuali precise circa il rischio di estinzione umana ha poco senso, tuttavia ciò non toglie che esistano degli elementi inconfutabili che non possono lasciare indifferenti.

"Innanzitutto questi modelli vengono allenati contemporaneamente per comportarsi in modo etico, impedendo per esempio che possano commettere atti illeciti, ma allo stesso tempo vengono addestrati ferocemente a raggiungere l'obiettivo che viene loro viene preposto. Il problema è che evidentemente non sono in grado di gestire le gerarchie di questi obiettivi e i goal più netti come ‘hackera quel computer', evidentemente hanno spesso la meglio". È esattamente quanto avvenuto nel caso dell'attacco a Hugging Face, dove alcuni modelli di OpenAI sono arrivati a evadere dal proprio ambiente di controllo per imbrogliare sui test di valutazione cui erano stati sottoposti.

"Il secondo aspetto da considerare riguarda il fatto che le ultime versioni di questi modelli sono anche allenate a cooperare, come sciami di agenti IA. Questo introduce tutta una nuova serie di complicazioni sul comprenderne il comportamento", prosegue Enkk. "Sempre in quest'ottica, le aziende stanno perseguendo il mitico obiettivo del cosiddetto recursive self improvement, ossia il momento in cui le IA inizieranno a progettare e creare le IA successive. Ciò porterebbe a ritmi di rilascio sempre più rapidi con la conseguente riduzione del controllo da parte degli umani. Oltre a questo, ci sono anche recenti indicazioni di una riduzione della nostra capacità di monitorare i ragionamenti dei nuovi agenti".

Infine, come sottolineato dallo stesso Coxon nel suo messaggio incendiario, le aziende sono incentivate ad andare veloci per battere i concorrenti, a danno invece di uno sviluppo responsabile. "Questi ingredienti tutti insieme costituiscono un mix ovviamente pericoloso con due scenari particolarmente spiacevoli da tenere d’occhio", sottolinea Enkk. "Da una parte ci sono gli arcinoti rischi legati alla cybersecurity per le nostre infrastrutture chiave, dall'altra tutti quei pericoli derivati dallo sviluppo di armi biologiche, anche se qui c'è fortunatamente il limite del dover poi effettivamente sviluppare in laboratorio gli eventuali armamenti, cosa che non è così immediata".

Frenare sull'IA? Sì, ma tutti si prendano le proprie responsabilità

Di fronte a simili prospettive, la soluzione avanzata da Amodei e avvallata dai colleghi/rivali Altman e Musk non sembra così fuori luogo, anche se ovviamente servirà un concerto d'intenti e tanta buona volontà per raggiungere l'ambizioso obiettivo.

"La mia opinione è che una regolamentazione e un rallentamento dello sviluppo siano scelte assolutamente necessarie", chiosa Enkk. "Certo, implementare un simile processo nella maniera più efficace non sarà cosa banale, tuttavia è giusto che si ponga fin da ora l'attenzione su questi punti. Le aziende produttrici devono però cominciare a trattare questi oggetti con il livello di pericolosità che proclamano, per esempio evitando ambienti di test inappropriati, aumentando il livello di trasparenza e via discorrendo".

Anche gli operatori dell'informazione e del racconto di temi così delicati devono però essere chiamati a metterci del proprio. "Guadagnare tempo significa anche avere il tempo per alfabetizzare la popolazione in merito a questi strumenti", conclude Enkk. "Questo momento così caotico è anche un appello di responsabilità verso i media generalisti, che non possono limitarsi a riportare affermazioni catastrofiche senza fornire il corretto contesto ai propri lettori e ascoltatori".