Instagram lancia Muse, ma la nuova IA ha un problema: permette agli sconosciuti di usare il tuo volto

Meta ha appena introdotto un nuovo generatore di immagini che utilizza l'intelligenza artificiale per rendere ancora più creative le Storie di Instagram. Il nuovo modello si chiama Muse Image, è stato sviluppato da Meta Superintelligence Labs ed è stato integrato gratuitamente su Instagram e, in alcuni Paesi, anche su WhatsApp. Il sistema permette di generare immagini originali, trasformare fotografie esistenti attraverso semplici istruzioni di testo e applicare nuovi effetti creativi ai contenuti da postare nelle Stories. Tra le funzioni previste ci sono effetti per mostrare come staremmo indossando un determinato abito o che aspetto avrebbe una stanza con l'aggiunta di un certo elemento d'arredo. Meta ha anche annunciato di essere al lavoro per una funzione analoga (Muse Video) destinata a estendere le stesse funzionalità anche ai filmati. C'è però un problema.

Il nuovo strumento consente non solo di giocare con l'IA per modificare le proprie foto, ma anche di utilizzare le immagini pubblicate da altri utenti. Se un profilo Instagram è pubblico, Muse può prendere una fotografia della persona taggata e utilizzarla come base per generare una nuova immagine attraverso l'intelligenza artificiale. Non solo. Lo strumento sembra in grado di lavorare anche sulle immagini di persone con cui non si ha mai avuto alcun rapporto o interazione sui social.

Perché le immagini su Insta possono essere usate da sconosciuti

Questo aspetto controverso viene spiegato nero su bianco dalla stessa Meta nel comunicato di presentazione del nuovo pacchetto di effetti IA. Secondo la policy dell'azienda californiana, gli utenti con un account "open" potrebbero vedere i propri contenuti utilizzati da altre persone tramite le funzionalità di IA senza ricevere alcuna notifica. Meta specifica che esistono impostazioni per limitare questo utilizzo, ma la funzione resta attiva finché non viene modificata manualmente.

Le prime prove effettuate dal giornalista Mike Pearl del sito Gizmodo hanno mostrato come il sistema sia in grado di recuperare informazioni anche dai profili Instagram per costruire nuove immagini. Nei suoi test è riuscito a generare fotografie artificiali di persone reali utilizzando le immagini pubblicate sui loro account pubblici, anche quando non le seguiva su Instagram e senza aver mai avuto alcuna interazione diretta con loro.

Per scongiurare gli scenari più pericolosi, Meta sottolinea che Muse integra sistemi di sicurezza per impedire la creazione di immagini violente, sessualmente esplicite o diffamatorie di persone reali e che i contenuti che violano gli standard della community vengono rimossi. Tuttavia, il problema di fondo rimane. Di fatto – a meno che non ci si attivi in prima persona per limitare certe funzioni – un'immagine postata su Instagram può essere trasformata in nuovi contenuti senza che il soggetto coinvolto abbia espresso un consenso specifico per ogni utilizzo.

Come impedire a Meta di usare le nostre immagini per l'IA

Meta sostiene che gli utenti hanno tutti gli strumenti necessari per mantenere il controllo sui propri contenuti, ma è necessario intervenire nelle impostazioni dell'account. Esistono principalmente due modi per mettere al sicuro la nostra immagine digitale. Il primo è ovviamente quella di rendere privato il proprio profilo. Questo semplice accorgimento sembra blindare le immagini contenute nel profilo dai bot dell'IA.

Il secondo, viene invece suggerito dalla stessa Meta: chi possiede un profilo pubblico può infatti limitare questa possibilità entrando nelle impostazioni di Instagram, nella sezione "Condivisione e riutilizzo", e disattivando l'opzione che consente agli altri utenti di utilizzare post e Reel attraverso le funzionalità di intelligenza artificiale di Meta.