21 Settembre 2022
14:10

Chi è Loab, il fantasma che infesta l’intelligenza artificiale nata per creare opere d’arte

L’artista Supercomposite ha scoperto l’immagine della donna, cha ha chiamato Loab, usando una tecnica per esplorare i meccanismi dell’intelligenza artificiale.
A cura di Elisabetta Rosso

Sembra una storia dell’orrore. Inizia con Marlon Brando e finisce con qualche domanda in più sull’intelligenza artificiale. La protagonista è Loab. Ha i capelli scuri, il volto consumato, gli occhi che bucano la faccia e c’è chi dice che sia il nuovo mostro generato da un’IA, un fantasma. Effettivamente Loab torna sempre, e sporca con la violenza tutto quello che tocca.

Tutto comincia da un esperimento riuscito male e raccontato su Twitter dall'utente Supercomposite. “Evoco demoni attraverso l’intelligenza artificiale per divertimento e su commissione”, scrive nella descrizione del suo profilo. Racconta di essersi imbattuta in Loab ad aprile, voleva sperimentare i negativ prompt e il latent space di una non precisata IA. Il negative prompt è una tecnica per generare un’immagine opposta alla richiesta dell’utente. Come se si chiedesse al software “crea quello che tu ritieni sia più diverso questa parola.” Lo spazio latente invece è più o meno la mente o la memoria dell’intelligenza artificiale.

Supercomposite decide di sperimentare questi spazi con Marlon Brando. L’artista vuole vedere, per gioco, qual è la  “cosa” più lontana dal celebre attore. Subito è stato uno strano logo, una specie di skyline stilizzato, nero, con sopra la scritta, verde, “DIGITA PNITICS”. Supercomposite vuole la controprova. Digita nel prompt dei comandi DIGITA PNITICS skyline logo::-1”. Sarebbe dovuto a questo punto riemergere il volto di Marlon Brando, e invece l’IA partorisce Loab.

L'immagine di Loab ogni opera

Ma questo è solo il primo capitolo della storia. Poi Loab torna, e infetta ogni immagine con la quale viene incrociata. Supercomposite prova ad abbinare il volto di Loab ad altre immagini, e l'incontro genera sempre figure violentissime e macabre. Per esempio scene di sventramenti e mutilazioni le cui vittime sono spesso, per qualche ragione, dei bambini, come rivela l’artista a Rivista Studio.

Supercomposite infatti ha scelto di non pubblicare tutti i risultati ottenuti dagli incroci per non urtare la sensibilità degli utenti. Le immagini che invece appaiono sulla sua bacheca sono comunque contrassegnate come contenuti per adulti. Secondo l’artista è come se avesse inquinato ogni opera, dopo Loab c’è sempre l'elemento violento, gore, nei suoi quadri, e nonostante le variazioni che Supercomposite chiede di fare all’IA, il volto di Loab torna sempre.

“A causa di chissà quale incidente statistico, qualcosa associa questa donna a un immaginario estremamente sanguinoso e macabro nella distribuzione della conoscenza del mondo della IA,” ha scritto Supercomposite. È, per ora, impossibile comprendere il fenomeno. I sistemi di generazione di immagini attraverso IA, usano modelli troppo complessi, hanno assorbito miliardi di immagini che sono la base a cui attingono per creare le opere. I risultati sono imprevedibili e non controllabili.

Un problema di sicurezza

Alcuni software hanno implementato controlli manuali per bloccare e filtrare determinati termini, per esempio DALL-E. Altri no. Un problema, dal momento in cui l’IA è in grado di combinare immagini e creare anche contenuti violenti e pericolosi. Basti pensare alle immagini storpiate di celebrità, alla pornografia offensia, oppure a materiale pedopornografico. Ma a volte nemmeno i filtri bastano, e Loab ne è l'esempio.

Dall-E, come funziona l'intelligenza artificiale che ora è capace di allargare gli sfondi dei quadri famosi
Dall-E, come funziona l'intelligenza artificiale che ora è capace di allargare gli sfondi dei quadri famosi
L'artista Motta:
L'artista Motta: "L'intelligenza artificiale nei quadri è emozionante. E può aiutare a creare un'opera"
Abbiamo creato questi dieci quadri usando solo l'intelligenza artificiale
Abbiamo creato questi dieci quadri usando solo l'intelligenza artificiale
Più che un giornale
Il media che racconta il tempo in cui viviamo con occhi moderni