AI Overview lo segnala come molestatore: il musicista MacIsaac chiede 1,5 milioni di dollari a Google

Cercare informazioni su Ashley MacIsaac non è un compito particolarmente difficile. Basta digitare il suo nome su Google e in pochi secondi scopriamo che si tratta di un noto violinista folk canadese nato nel 1975, che ha vinto tre Juno Awards – la versione canadese dei Grammy – e che nel 2003 ha pubblicato l'autobiografia Fiddling with Disaster in cui ha raccontato la sua difficile lotta contro la tossicodipendenza e gli ostacoli affrontati nel mondo dello spettacolo a causa della sua omosessualità. Se però avessimo fatto questa ricerca qualche mese fa, AI Overview – lo strumento di Google che usa l'intelligenza artificiale per generare brevi riassunti in cima ai risultati di ricerca – ci avrebbe anche detto che MacIsaac era stato condannato per aggressione sessuale, adescamento di minori via internet e aggressione con lesioni corporali. Tutte informazioni completamente false e che hanno spinto l'artista a denunciare Google per diffamazione.

"In quanto sviluppattore e gestore dell'AI Overview, Google è anche responsabile dei danni e delle perdite derivanti dal design difettoso del sistema", si legge nella denuncia di MacIsaac ripresa dal Guardian. "Google sapeva, o avrebbe dovuto sapere, che l'AI Overview aveva dei problemi e poteva restituire informazioni non veritiere".

La scoperta dell'errore e il danno d'immagine

Il violinista è venuto a conoscenza del problema nel dicembre del 2025, quando la Sipekne'katik First Nation, comunità di nativi americani che vive nella regione canadese della Nuova Scozia, ha annullato un suo concerto dopo le proteste di alcuni cittadini che avevano scoperto sull'AI Overview di Google la controversa voce riguardante le condanne per molestie. Una volta chiarito il qui pro quo, la comunità ha riconosciuto l'errore e pubblicato delle scuse ufficiali, spiegando di aver preso decisioni basate su informazioni false generate da una fonte che si riteneva affidabile. Il danno, però, era ormai fatto e lo stesso MacIsaac ha raccontato di aver aver iniziato a essere terrorizzato all'idea di tornare a esibirsi dal vivo, davanti a un pubblico che poteva considerarlo un sex offender.

Il problema dell'omonimia dietro l'allucinazione dell'IA

Il marchiano errore di Overview è un caso da manuale di "allucinazione" dell'IA, ossia quel fenomeno che porta l'intelligenza artificiale a riportare informazioni false e fuorvianti, spacciandole per vere. Su Fanpage.it ne parliamo da tempo. Ciò accade perché l'IA non è un oracolo senziente, ma una macchina che elabora dati e offre risposte testuali sulla base di probabilità matematiche. Può quindi confondersi e fornire risultati completamente sballati. Una recente indagine condotta dal New York Times ha sottolineato il problema proprio in riferimento al tool di Google AI Overview: per quanto altamente performante, il tool è ancora ben lungi dall'essere infallibile e genera milioni di risposte errate ogni ora.

Nel caso di MacIsaac, le accuse riportate da AI Overview provenivano da una serie di articoli che facevano riferimento a un altro uomo residente nel Canada atlantico che aveva lo stesso cognome del musicista. L'intelligenza artificiale di Google aveva quindi aggregato contenuti diversi, attribuendo automaticamente quei reati ad Ashley MacIsaac senza alcuna verifica contestuale.

La richiesta di risarcimento contro Google

Il fatto che un colosso come Google appaia così poco solerte nel controllare che un suo strumento diffonda informazioni potenzialmente diffamatorie ha spinto MacIsaac ad adire per vie legali. La società è stata accusata anche di non aver contattato direttamente il musicista né di avergli rivolto scuse ufficiali dopo la diffusione delle accuse. Da qui la causa e una richiesta economica sostanziosa di un milione e mezzo di dollari canadesi per danni aggravati e danni morali.

La tesi sostenuta dagli avvocati è che Google debba essere considerata responsabile nonostante il contenuto sia stato prodotto da un software automatizzato. Nella causa si legge che, se quelle stesse accuse fossero state pronunciate da un portavoce umano dell'azienda, la responsabilità sarebbe stata evidente. Secondo la difesa, il fatto che le affermazioni siano state generate da un sistema di IA non dovrebbe ridurre le responsabilità del colosso tecnologico. La contestazione non riguarda poi soltanto il singolo errore, ma il funzionamento stesso dello strumento e il modo in cui Google gestisce la diffusione automatica delle informazioni. Per questo la causa può fare scuola riguardo un tema decisamente attuale: chi è responsabile quando un'intelligenza artificiale diffonde informazioni false?

Google, da parte sua, ha dichiarato che AI Overview viene continuamente aggiornato e che gli errori servono a migliorare il sistema. L'azienda ha sostenuto di investire molto nella qualità delle risposte generate dall'intelligenza artificiale e di intervenire quando emergono problemi di interpretazione o mancanza di contesto.