L’intelligenza artificiale di Google non ha capito quale aereo è caduto: il problema con Air India

Da alcuni mesi, il primo risultato che compare nelle ricerche su Google è un riassunto generato dall’intelligenza artificiale, chiamato AI Overview. In poche righe sintetizza una notizia in base ai contenuti online, fornendo una risposta concisa. C’è solo un problema: spesso sbaglia. È successo anche con il recente incidente aereo in India, che ha coinvolto il volo Air India 171 e provocato oltre 200 vittime tra passeggeri e membri dell’equipaggio. Secondo l’overview dell’IA, l’aereo coinvolto sarebbe stato un Airbus. In realtà, si trattava di un Boeing 787.

Un utente su Reddit è stato il primo a notare l'errore. Cercando su Google notizie sull'incidente infatti è rimasto sorpreso quando l'intelligenza artificiale ha confermato che l'aereo coinvolto fosse un Airbus. Abbiamo fatto alcuni test, la funzione Overview ci ha dato risposte contrastanti. In alcuni casi ha menzionato un aereo Boeing, in altri un Airbus.

Google ammette che queste funzionalità possono commettere errori. In fondo a ogni risposta generata infatti c’è una nota che avvisa: “Le risposte dell’IA possono includere errori”. Ma un disclaimer così piccolo e poco visibile rischia di passare inosservato. 

Come è possibile che l'IA di Google abbia commesso questo errore

Non è chiara l'origine dell'errore, ma è probabile che l’allucinazione derivi dal modo in cui l’intelligenza artificiale interpreta i contenuti online. Molti articoli sul disastro citano Airbus come principale concorrente di Boeing, e l’IA – incapace di distinguere contesto e relazioni – potrebbe aver confuso i dati e tratto conclusioni errate. Questi errori sono purtroppo comuni nelle risposte generate dall’IA e rappresentano una sfida significativa nella sua applicazione pratica.

Google ha dichiarato di aver rimosso manualmente la risposta errata. “Come per tutte le funzionalità di Ricerca, apportiamo costanti miglioramenti e usiamo casi come questo per raffinare i nostri sistemi", ha spiegato in una nota inviata ad Ars Technica. "La risposta in questione è stata rimossa. Manteniamo uno standard qualitativo elevato per tutte le funzionalità della Ricerca e il livello di accuratezza delle AI Overview è paragonabile a quello di altri strumenti come gli snippet in evidenza.”