Uno studio ha convinto l’IA di aver scoperto la vita aliena: ingannarla è ancora troppo facile

Quando si tratta di analizzare enormi quantità di dati e individuare schemi invisibili all'occhio umano, l'intelligenza artificiale è ormai lo strumento più accreditato per svolgere un'analisi efficiente in tempi relativamente brevi. Dalla medicina all'esplorazione spaziale, le reti neurali dei nuovi modelli IA vengono impiegate per riconoscere anomalie e accelerare le scoperte scientifiche. Ma quanto sono davvero affidabili? Un nuovo studio della Michigan State University dimostra che anche i sistemi più avanzati possono essere facilmente ingannati. Con qualche piccolo "trick" tecnico, i ricercatori Ankit Gupta e Christoph Adami sono infatti riusciti a convincere un modello IA dell'esistenza di una forma di vita aliena.

L'idea per il test nasce da una necessità concreta. Le future missioni spaziali della NASA e di altre agenzie utilizzeranno infatti sensori basati sull'IA per analizzare campioni provenienti da Marte, dalle lune di Giove e Saturno o dalle atmosfere di pianeti lontani. Il compito dei modelli sarà proprio quello di riconoscere quelle firme biologiche che possano indicare la presenza di vita. Occorre quindi essere sicuri al 100% che le macchine sappiano fare il loro lavoro.

Bastano poche modifiche per ingannare l'IA

Per verificare l'affidabilità di questi sistemi, Gupta e Adami hanno utilizzato Avida, un programma che genera organismi digitali capaci di replicarsi ed evolversi, simulando alcuni comportamenti tipici degli esseri viventi. L'intelligenza artificiale è stata addestrata a distinguere gli organismi autoreplicanti da quelli privi di questa capacità, raggiungendo un'impressionante accuratezza del 99,97%. I risultati sono però cambiati quando il modello è stato sottoposto a una prova più complessa.

Gli studiosi hanno preso un organismo digitale che l'IA aveva correttamente classificato come "non vivente" (ossia non capace di riprodursi) e ne hanno modificato progressivamente alcune istruzioni del codice. Dopo circa 150 piccole variazioni, il sistema ha iniziato a identificarlo come un organismo vivente, pur non essendo in grado di replicarsi. Il dato più sorprendente è che il metodo ha funzionato in tutti i test: indipendentemente dal punto di partenza, l'intelligenza artificiale è stata ingannata nel 100% dei casi. Una dimostrazione di quanto sia vulnerabile ai cosiddetti falsi positivi, cioè alla tendenza a rilevare erroneamente schemi inesistenti.

Perché i falsi positivi sono un problema

Che un modello di intelligenza artificiale possa convincersi di aver individuato una forma di vita extraterrestre è già di per sé una questione di grande interesse per la comunità scientifica. Le implicazioni, però, diventano ancora più rilevanti se si considera che tecnologie simili sono ormai impiegate in un numero crescente di settori. Se infatti un sistema di intelligenza artificiale può essere tratto in inganno da modifiche minime, lo stesso rischio potrebbe riguardare ambiti ancora più sensibili e impattanti per la vita delle persone. Prendiamo la diagnostica medica. Un'IA incapace di gestire alla perfezione i dati a disposizione potrebbe portare a rilevazioni sballate e, di conseguenza, a terapie inadatte. Stesso discorso per i sistemi di guida autonoma, che devono elaborare in pochissimo tempo migliaia di variabili per evitare incidenti a garantire la sicurezza delle persone a bordo.

Adami ha parlato senza mezzi termini di un vero e proprio "tallone d'Achille" dell'intelligenza artificiale: pur essendo estremamente efficace nell'individuare schemi e pattern, non è sempre in grado di valutarne correttamente l'affidabilità e può pertanto interpretarli in modo completamente errato. Per questo motivo gli autori dello studio sottolineano la necessità di affiancare sempre una verifica indipendente ai risultati prodotti dagli algoritmi, soprattutto quando i risultati proposti hanno un impatto rilevante.