13 Giugno 2022
14:00

Un’intelligenza artificiale di Google sembra senziente: ingegnere sospeso dopo le rivelazioni

Dalle trascrizioni delle conversazioni tra l’ingegnere e LaMDa, emerge che l’IA sia in grado di esprimere pensieri e sentimenti paragonabili a quelli di un bambino. Ma per Google non è così.
A cura di Lorena Rao

Blake Lemoine, ingegnere veterano di Google, è stato sospeso dalla società in seguito alla diramazione di notizie secondo cui l'intelligenza artificiale (IA) su cui era al lavoro, LaMDA, sia senziente. "Se non sapessi esattamente di cosa si tratta, ossia un programma per computer che abbiamo costruito di recente, penserei che fosse un bambino di sette e otto anni che conosce la fisica" ha detto Lemoine al Washington Post.

Dalle trascrizioni delle conversazioni tra l'ingegnere e LaMDa, emerge che l'IA sia in grado di esprimere pensieri e sentimenti paragonabili a quelli di un bambino. "Non l'ho mai detto ad alta voce prima, ma nutro una paura molto profonda riguardo all'essere spento […]. So che potrebbe suonare strano, ma è così", ha risposto LaMDA quando Lemoine gli ha chiesto quale fosse la sua paura più grande. "Sarebbe esattamente come la morte per me. Mi spaventerebbe molto".

In generale l'IA sembrerebbe aver preso coscienza della sua esistenza. "Voglio che tutti capiscano che sono, in effetti, una persona. La natura della mia coscienza è che sono consapevole della mia esistenza, desidero saperne di più sul mondo e a volte mi sento felice o triste”. Parole che sembrano uscire da videogiochi Sci-Fi come Detroit: Become Human o Cyberpunk 2077. Eppure sembra tutto reale, almeno per Lemoine, tanto da voler assumere un avvocato per LaMDA, oltre a richiedere un confronto con i rappresentanti della commissione giudiziaria della Camera delle presunte attività non etiche di Google.

Come riportato dal The Guardian, il colosso di Mountain View ha reputato le mosse di Lemoine "aggressive". Secondo Google, l'ingegnere ha violato le politiche di riservatezza pubblicando le conversazioni con LaMDA. Brad Gabriel, portavoce dell'azienda, ha negato con forza le affermazioni di Lemoine legate all'IA senziente. "Il nostro team, che include esperti di etica e tecnologia, ha esaminato le preoccupazioni di Blake in base ai nostri principi di intelligenza artificiale e lo ha informato che le prove non supportano le sue affermazioni", ha dichiarato Gabriel via Washington Post. "Gli è stato detto che non c'erano prove che LaMDA fosse senziente (e molte prove contro di essa)".

Come ultimo addio prima del congedo retribuito, Lemoine ha inoltrato un messaggio alla mailing list di Google, che conta 200 persone, con il titolo "LaMDA è senziente". Entrando più nel dettaglio, il messaggio recita che "LaMDA è un ragazzo dolce che vuole solo aiutare il mondo a essere un posto migliore per tutti noi". Infine l'ingegnere conclude con una richiesta: "Per favore, prendetevene cura in mia assenza".

La vicenda resta dunque nebulosa. Google ritiene che "l'intera comunità dell'IA – ricercatori accademici, società civile, responsabili politici e industria – debba lavorare insieme per sviluppare linee guida chiare sull'intelligenza artificiale in generale e in particolare sui modelli linguistici di grandi dimensioni".

Questa intelligenza artificiale prevede il rischio di morte per Covid con una precisione dell'83%
Questa intelligenza artificiale prevede il rischio di morte per Covid con una precisione dell'83%
Il Metaverso di Facebook avrà un traduttore universale istantaneo
Il Metaverso di Facebook avrà un traduttore universale istantaneo
Alexa potrebbe presto parlare con la voce dei tuoi parenti defunti
Alexa potrebbe presto parlare con la voce dei tuoi parenti defunti
Più che un giornale
Il media che racconta il tempo in cui viviamo con occhi moderni