Per il premio Nobel Geoffrey Hinton abbiamo solo un anno per evitare che l’IA ci sfugga di mano

Geoffrey Hinton è uno dei pionieri dell'intelligenza artificiale moderna. Psicologo e informatico, Hinton ha lavorato per decenni alle reti neurali artificiali, contribuendo allo sviluppo delle tecniche che hanno gettato le basi di quel deep learning che oggi è alla base di tutti i moderni modelli di IA. Grazie alle sue ricerche, nel 2024 ha ricevuto il Premio Nobel per la Fisica insieme a John J. Hopfield "per le scoperte e le invenzioni fondamentali che consentono l'apprendimento automatico attraverso le reti neurali artificiali". Come un padre preoccupato per la crescita della sua creatura, negli anni Hinton è però diventato una delle voci più critiche circa una tecnologia che rischia di essere troppo potente per poter essere controllata. Nel 2023 il ricercatore ha anche abbandonato il suo decennale incarico presso Google per poter esprimere con maggiore libertà tutti i propri dubbi sull'intelligenza artificiale, dall'impatto sul mondo del lavoro al rischio che le risposte standardizzate dei chatbot possano, alla lunga, finire per distruggere il pensiero critico umano.

L'ultimo avvertimento è arrivato da Capitol Hill, dove lo scorso 17 settembre Hinton ha partecipato a un briefing a porte chiuse con senatori e deputati statunitensi. L'incontro è stato organizzato dal senatore indipendente del Vermont Bernie Sanders, che ha invitato esponenti di entrambi i partiti. Al termine della riunione, Hinton ha indicato in circa un anno, "ma non molto di più", il tempo che il Congresso potrebbe avere per introdurre adeguate misure di sicurezza prima che diventi più difficile mantenere il controllo sull'IA. Le sue dichiarazioni sono state riprese dalla CNBC.

Perché il tempo stringe: l'auto-miglioramento dell'intelligenza artificiale

Il punto centrale del suo ragionamento riguarda la velocità con cui stanno cambiando le previsioni sulla cosiddetta superintelligenza. Secondo Hinton, in passato si parlava di 30 o 50 anni, poi di 10 o 20, tuttavia oggi molti ricercatori considerano possibile un arrivo nell'arco di pochi anni. Certo, non si tratta di una scadenza scientificamente condivisa, tuttavia il premio Nobel vede delle avvisaglie preoccupanti. Una su tutte, la possibilità che i sistemi di IA diventino capaci di contribuire autonomamente alla progettazione di sistemi ancora più avanzati. Modelli di IA che realizzano altri modelli di IA. È il fenomeno che il ricercatore definisce "auto-miglioramento ricorsivo" e che su Fanpage.it abbiamo recentemente affrontato anche con il professor Luciano Floridi. Vi lasciamo qui l'articolo.

"La situazione sfuggirà di mano se non interveniamo", è l'avvertimento di Hinton, che ha chiesto di "rallentare" la corsa sfrenata ai nuovi modelli di IA e di imporre nuove regole e controlli strutturati per monitorare passo passo l'evoluzione dei nuovi sistemi. Una posizione che si allinea dunque all'appello di Dario Amodei, CEO di Anthropic, che a metà settembre ha pubblicato una lista di proposte per disinnescare il pericolo dell'intelligenza artificiale prima che possa sfuggire al controllo umano.

Nel suo intervento Hinton ha inoltre richiamato il recente episodio che ha coinvolto agenti di IA e la piattaforma Hugging Face, definendolo una "piccola Chernobyl". L'episodio è stata la miccia che ha innescato il dibattito sui rischi dei sistemi IA e sulla loro capacità di agire in completa autonomia. Ora è ragionevole aspettarsi che governi e istituzioni comincino ad affrontare seriamente la questione. La speranza è che non sia già troppo tardi.