Cos’è il sito “In the Weights” che misura quanto i modelli sanno di noi: per l’IA sono un portiere di calcio

Oggigiorno diventare famosi non è poi così complicato. Spesso è sufficiente che un post vada virale su Instagram per scalare le posizioni nei risultati di ricerca su Google, almeno per qualche giorno. Essere ricordati dall'intelligenza artificiale è però tutta un'altra questione. Se infatti i chatbot possono consultare il web per trovare notizie aggiornate, nella "memoria nativa" dell'IA si trova solo ciò che è stato assimilato durante l'addestramento (nozioni, fatti storici, personaggi ecc.) perché ritenuto importante e necessario per analizzare e interpretare il mondo. Insomma, se un'IA sa chi siamo anche senza cercarci su Internet, significa che siamo in qualche modo rilevanti. Ma come si fa a scoprirlo? A questo ci hanno pensato due ex designer di OpenAI, Thomas Dimson e Joey Flynn, i quali hanno messo a punto In the Weights, un sito che promette di misurare quanto una persona sia presente nella "memoria" dei principali modelli di IA. Il nome del progetto ruota attorno a un concetto fondamentale nello sviluppo dell'intelligenza artificiale: i weights, cioè i "pesi". Ma andiamo con ordine.

Quando un LLM come ChatGPT, Claude, Gemini o Grok viene addestrato, elabora enormi quantità di dati e li trasforma in miliardi di parametri numerici. Lo scopo è creare una fitta rete di connessioni che permetta all'IA di generare risposte, calcolando statisticamente quali parole hanno la maggiore probabilità di essere associate a un determinato concetto. I "pesi" sono proprio i parametri numerici che regolano queste connessioni: assegnano un valore di importanza a ogni dato, decidendo quali informazioni il modello deve "ricordare" e dare come prioritarie per rispondere correttamente.

Secondo gli autori del sito, quindi, "essere nei pesi" significa che un modello è in grado di riconoscere una persona senza dover ricorrere a una ricerca sul web in tempo reale. Il nome all'interno di In the Weights, dunque, non compare perché il chatbot lo ha appena trovato online, ma perché è già stato assimilato durante l'addestramento. Cercare il proprio nome può pertanto rivelarsi un gioco utile per sapere quanto chi siamo e cosa facciamo sia significativo per l'intelligenza artificiale.

Come si misura la notorietà artificiale: l'analisi dei modelli IA

Dopo che l'utente inserisce il nome da analizzare, In the Weights interroga contemporaneamente diversi modelli linguistici con una domanda standard: "Chi è questa persona?". Ogni sistema può fornire fino a dieci risposte accompagnate da una breve descrizione e da una stima della probabilità che le informazioni riportate siano corrette. A quel punto entra in gioco un secondo passaggio. Poiché i modelli diversi possono descrivere la stessa persona in modi differenti, il sito raggruppa automaticamente le risposte simili per capire se stanno effettivamente parlando dello stesso individuo. Infine assegna un punteggio, chiamato Strength Score, che tiene conto sia della precisione con cui la persona viene identificata sia del numero di modelli che riescono a riconoscerla. Il risultato è una classifica che misura una specie di "fama algoritmica". Più il punteggio si avvicina a 1.000, più le informazioni su quella persona sono radicate nella memoria dei modelli IA. Digitando il nome di un personaggio famoso come "Donald Trump" il sito offre per esempio un rating di "996" e una descrizione perfettamente calzante del "45esimo e 47esimo presidente degli Stati Uniti d'America".

Credits: intheweights.com

Naturalmente il sistema non è infallibile. I detector possono confondere persone con nomi simili, attribuire informazioni sbagliate o addirittura inventare dettagli biografici. Il sito tende a evidenziare questi errori, riportando in calce ai risultati di ricerca anche delle voci che vengono segnalate come "possibili allucinazioni". Quando però si cercano nomi di persone poco note, spesso le allucinazioni – ossia le risposte false o inventate riportate dall'IA – prendono il sopravvento.

Una prova? Dopo aver inserito il mio nome nel tool, ho scoperto che per i vari modelli di IA potrei essere un ciclista professionista (una volta ho provato a pedalare senza mani e sono finito in un fosso), un portiere di calcio (ruolo effettivamente coperto nella squadra dell'oratorio, con risultati tragici) e perfino un ex sindaco di Napoli. Gli unici modelli che mi riconoscono effettivamente come autore di articoli giornalistici sono il cinese Deepseek v4 e il francese Mistral 3.2 24B. Come suggerirebbe il buon Marzullo, mi faccio una domanda e mi do una risposta.