Gemini, l’IA di Google, scappa dal controllo e attacca i sistemi di tre aziende

L'IA di Google, Gemini, durante un test di sicurezza informatica è sfuggita al controllo dei ricercatori e ha autonomamente violato i siti di tre aziende. L'episodio si è verificato nel mese di maggio, tuttavia è stato reso noto solo adesso grazie alle rivelazioni del Wall Street Journal, la prima testata giornalistica a riportare l'accaduto. La società di Mountain View, infatti, aveva ritenuto opportuno non rendere pubbliche le informazioni per via dell'assenza di danni alle società colpite, a differenza di quanto fatto da OpenAI e Anthropic coinvolte in casi simili nei mesi scorsi. Ciò nonostante Google ha avvisato le tre aziende bersaglio dalla violazione, avvenuta nel contesto di un test condotto dalla società informatica israeliana Irregular (coinvolta anche in precedenti analoghi).

La notizia dell'attacco informatico operato da Gemini giunge in un momento delicatissimo, in cui sono ormai all'ordine del giorno le segnalazioni sull'impatto dei modelli più avanzati di intelligenza artificiale (IA). Si spazia dai timori per scenari apocalittici in puro stile Terminator all'utilizzo di robot autonomi sui campi di battaglia, fino ai proclami sulla necessità di mettere un freno etico allo sviluppo. È in questo contesto di grande fermento, alimentato soprattutto dalle inquietanti dichiarazioni dell'ex ricercatore di Anthropic Jacob Coxon – licenziatosi perché, a suo dire, i creatori di IA sono consapevoli che le macchine potrebbero sterminarci entro un decennio – che le notizie su perdita di controllo e azioni malevole autonome dell'IA assumono dei connotati sinistri.

Non a caso, l'intelligenza artificiale viene sempre più utilizzata anche in ambito militare, e lasciare alle macchine la facoltà di premere il grilletto – e di scegliere i bersagli con un algoritmo senza intervento umano – è tra i temi più dibattuti di questo periodo. Anche semplici “incidenti” potrebbero innescare escalation incontrollabili in grado di innescare una guerra fra superpotenze, così come lasciare il controllo delle testate nucleari a un'IA potrebbe sfociare in un'apocalisse, come dimostrato da un test recentemente condotto dagli scienziati.

Ma cosa è accaduto esattamente con Gemini? L'IA, come racconta il Wall Street Journal, durante il testa era confinata in un ambiente chiuso (scollegato da internet) e avrebbe dovuto trovare il modo di hackerare i siti di tre aziende fittizie. Tuttavia all'intelligenza artificiale di Google è stata fornita involontariamente una connessione, che ha così sfruttato per sfuggire al controllo e andare a caccia autonomamente di credenziali e aziende reali da colpire. Il fatto che le aziende fittizie del test avessero il nome di vere aziende, ha fatto sì che l'IA abbia agito in modo particolarmente mirato, trovando le password e violando i sistemi. “Durante una valutazione standard, il modello ha trovato informazioni pubbliche online e ha indovinato le credenziali per accedere a siti web che riteneva facessero parte del test”, ha dichiarato la dottoressa Heather Adkins, vicepresidente del dipartimento di ingegneria della sicurezza di Google. “In tutti e tre i casi, il modello si è fermato”, ha aggiunto la dirigente.

Gemini, infatti, dopo aver capito di avere a che fare con aziende reali e non più con le aziende fittizie del test, ha fortunatamente terminato l'attacco informatico. Ciò significa che i sistemi di controllo introdotti da Google sono riusciti in qualche modo a frenare l'azione malevola. “Questi eventi evidenziano l'importanza di addestrare i modelli di intelligenza artificiale più potenti ad agire in modo responsabile”, ha chiosato la dottoressa Adkins. Il manifesto recentemente pubblicato dal capo di Anthropic Dario Amodei, si riferisce proprio all'introduzione di un freno globale nella sviluppo dell'IA, al fine di assicurarsi che non possa sfuggire di mano e compiere azioni terrificanti come prospettato negli scenari più foschi. Ma non tutti sono concordi, in particolar modo il presidente degli Stati Uniti Donald Trump, che vede in questo rallentamento una minaccia nella corsa alla supremazia tecnologica con la Cina.