Quando l’algoritmo si rompe: un piccolo negozio di provincia ha messo in crisi l’intelligenza artificiale
È cominciato tutto con una semplice ricerca su Google. Cercavo un negozio di arredamento a cui mi rivolgo da anni per gli acquisti di casa, quindi sono andato su Internet e ho digitato sul motore di ricerca il nome dell'attività e la località, come facciamo tutti quando vogliamo sapere se un negozio è aperto. Questa volta, però, l'AI Overview di Google – quella sezione che appare nella SERP prima dei risultati tradizionali e propone un riepilogo generato dall'intelligenza artificiale – mi ha restituito una risposta sorprendente: secondo l'IA, quel negozio non esisteva. In compenso, al suo posto compariva come suggerimento alternativo un altro punto vendita, dall’altra parte della strada, che in realtà risulta essere un suo diretto concorrente. Un errore banale, certo, ma che per un commerciante può significare molto: un cliente perso, una vendita mancata, un danno economico che nessuno risarcirà. Confrontandomi con altri negozianti, ho poi compreso come il problema sia ben più comune di quanto si potesse pensare.
Ma com'è possibile che un'informazione tanto banale come l'indirizzo di un negozio venga così profondamente distorto da uno strumento che, almeno sulla carta, dovrebbe invece rendere sempre più efficienti e rapide le ricerche online? Per capire cosa può accadere dietro le quinte di questi fraintendimenti, ho parlato della questione con Enkk, al secolo Enrico Mensa, ricercatore ed esperto di intelligenza artificiale che da anni fa divulgazione sui social e sui propri canali di streaming. "La AI Overview di Google", mi ha spiegato, "utilizza sistemi di IA generativa che non si limitano a ordinare i risultati, ma li riscrivono. Prendono testi da alcune fonti – non tutte, a discrezione del modello – e li rielaborano per generare un riassunto coerente". Coerente, però, non significa corretto.
Cosa sono le allucinazioni che fanno commettere errori banali all'IA
L'intelligenza artificiale, per quanto performante, è soggetta alle cosiddette "allucinazioni", ossia risposte che per quanto plausibili, rimangono clamorosamente sbagliate. "Questi modelli non producono verità, ma frasi probabili, cioè che suonano bene", ha ricordato Enkk. "Sono costruiti per generare testi plausibili, non necessariamente veri".
Simili svarioni sono più frequenti quando le domande degli utenti riguardano dati semanticamente poveri e privi di sfumature – come appunto numeri, indirizzi o orari – che la macchina non conosce e sui quali non è stata addestrata. Se infatti un'informazione non è mai stata vista nel processo di addestramento, il modello la "inventa" nel tentativo di fornire comunque una risposta adeguata. Queste invenzioni, o confabulations, come le chiamano alcuni addetti ai lavori, non sono errori occasionali ma una conseguenza strutturale del funzionamento stesso dei Large Language Model (LLM) che consentono all'intelligenza artificiale di comprendere e riprodurre un linguaggio naturale. "Le allucinazioni sono parte del processo – ha sottolineato l'esperto – e ancora oggi il mondo della ricerca si chiede se potranno mai essere del tutto eliminate".
Il possibile impatto sulle attività commerciali
Oltre al rischio di ricevere informazioni sbagliate, c'è poi da considerare un impatto diretto sulle abitudini degli utenti. Le "anticipazioni" generate dall'IA di Google stanno riducendo drasticamente il numero di clic sui siti degli stessi esercenti (problema riscontrato anche dal "re del traffico" Salvatore Aranzulla, che a Fanpage.it ha spiegato come questo cambiamento stia modificando il suo business). Molti, infatti, leggono il trafiletto preparato dall'IA e si fermano lì. Ma se quel trafiletto è sbagliato, il danno è doppio: l'utente resta disinformato e il titolare dell’attività ci perde.
A peggiorare ulteriormente il quadro è che i gestori delle attività che si ritrovano informazioni sbagliate sull'overview hanno pochi strumenti per tappare la falla. Segnalare l'errore a Google, in questi casi, serve a poco. "Non è un problema di dato, ma di modello", chiarisce Enkk. Anche se le informazioni corrette sono sul sito o su Google Maps, il modello può fraintenderle nella riscrittura".
Come difendersi dagli errori dell'IA
Cosa può fare allora un piccolo commerciante? Curare i propri contenuti online rimane fondamentale, ma non basta. "Scrivere in modo semplice e strutturato può aiutare", ha suggerito il ricercatore. "Se per esempio la via, l'email e il numero di telefono sono presenti sul sito del negozio ma tutti condensati in una casella, magari con icone anziché essere scritti esplicitamente, allora la macchina può effettivamente essere indotta più facilmente in errore". Anche provare a rivedere i vari siti commerciali per renderli più chiari ai robot che scansionano i contenuti in Rete può migliorare l'indicizzazione e la raccolta d'informazioni da parte dell'IA.
Una mano decisiva può però arrivare da un utilizzo più consapevole del mezzo da parte degli utenti. "Usare un modello linguistico come motore di ricerca è un'idea rischiosa", ha concluso Enkk. "Funziona bene per scrivere testi, meno per restituire fatti". Fare uno sforzo in più durante le ricerche, non limitandosi ad accettare passivamente il primo dato che l'IA ha deciso di propinarci potrebbe infatti consentire alle persone di ottenere informazioni di maggiore qualità. Il mio negozio di fiducia, nel frattempo, continua a essere aperto, reale, visibile a chi passa per strada. Solo l'intelligenza artificiale, per ora, sembra non accorgersene.
