Il dream team di Zuckerberg per creare la superintelligenza ha un problema enorme

Mark Zuckerberg ha un nuovo grande obiettivo: costruire l'intelligenza artificiale generale (AGI), una forma di IA capace di ragionare, apprendere e adattarsi, come un essere umano. Per farlo, ha messo insieme un team d’élite. Il progetto è iniziato in sordina, con i colloqui segreti nelle case di Mark Zuckerberg a Lake Tahoe e Palo Alto. Poi sono arrivate le dichiarazioni ufficiali e una lista di nomi. 

Zuckerberg dopo una lunga fase di colloqui ha selezionato ex dipendenti di OpenAI, Google, Apple e Anthropic. Questa nuova divisione, chiamata Meta Superintelligence Labs (MSL), è incaricata di creare la forma di intelligenza artificiale più potente mai realizzata. Nel mondo della tecnologia, questo gruppo è già stato soprannominato “il dream team”. Eppure la squadra dei sogni ha un problema strutturale enorme.

La superintelligenza nasce da un pensiero unico?

Secondo quanto riportato da Zuckerberg in un promemoria interno e confermato da varie fonti giornalistiche, su 18 membri finora annunciati, solo uno è una donna. Nessun ricercatore nero o latino appare nella lista. La maggior parte dei nomi proviene da un background accademico e professionale d’élite: università prestigiose, aziende della Silicon Valley, reti tecniche ristrette. Ci sono uomini asiatici – un riflesso della forte presenza asiatica nel settore tech – ma il gruppo nel complesso risulta omogeneo per esperienze, provenienza e visione del mondo.

Ecco alcuni dei nomi più rilevanti finora resi noti:

• Alexandr Wang, CEO e Chief AI Officer
• Nat Friedman, co-leader ed ex CEO di GitHub
• Daniel Gross, imprenditore e investitore in IA
• Jack Rae, ex ricercatore DeepMind
• Lucas Beyer, Alexander Kolesnikov e Xiaohua Zhai, con background in Google Brain

Tutti professionisti di altissimo livello, senza dubbio. Accomunati però da percorsi molto simili, e questo rappresenta un rischio concreto.

Un’IA progettata da pochi può fallire per molti

Chi è nella stanza fa la differenza. Soprattutto se si vuole costruire una super intelligenza artificiale in grado di emulare, se non superare il ragionamento umano. I valori e le esperienze di chi progetta un sistema di IA si riflettono nei suoi algoritmi. Lasciando l'addestramento in mano a un gruppo ristretto e omogeno – per quanto brillante – il rischio è quello di costruire un’intelligenza che comprende solo una frazione dell’umanità.

Abbiamo già una lunga serie di esempi che ci dimostrano come la mancanza di rappresentanza e inclusività nei laboratori IA ha portato a gravi conseguenze. Per esempio, i sistemi di riconoscimento facciale incapaci di identificare volti con tonalità di pelle scura, chatbot che riproducono contenuti razzisti e generatori IA che creano immagini sessualizzate delle donne. In altre parole bias algoritmici che rafforzano le disuguaglianze anziché ridurle.

Non è solo un problema etico: è un limite strutturale del sistema. E quando si punta a costruire una superintelligenza, quei difetti rischiano di diventare sistemici.