0 CONDIVISIONI
video suggerito
video suggerito
TikTok

Su TikTok ci sarà un modo per capire se un video è fatto dall’intelligenza artificiale

Content Credential aggiungerà un’etichetta sotto forma di metadati a tutti i video rilevati come generati da un’intelligenza artificiale. Per funzionare, però, è necessario che le aziende della tecnologia facciano parte della Coalition for Content Provenance and Authenticity. Generatori di video IA come Midjourney o Stable Diffusion complicano i tentativi di tracciare i deepfake.
A cura di Velia Alvich
0 CONDIVISIONI
TIKTOK | Come funziona il watermark applicato da TikTok per i video generati dall'IA
TIKTOK | Come funziona il watermark applicato da TikTok per i video generati dall'IA
Attiva le notifiche per ricevere gli aggiornamenti su

Con l'evoluzione delle intelligenze artificiali generative, la creazione di immagini e video realistici con un semplice prompt è diventata ogni giorno più semplice. E così, la battaglia per distringuere vero da falso, naturale da artificiale, fisico e digitale è diventa invece sempre più difficile.

Per contenere un problema che si fa ogni giorno più grande, TikTok ha annunciato che i video generati dall'intelligenza artificiale saranno segnalati automaticamente sul social tramite un'etichetta. Un'iniziativa resa possibile dalla collaborazione con la Coalition for Content Provenance and Authenticity (C2PA), un gruppo che riunisce alcune realtà della tecnologia per creare degli standard tecnici comuni contro la disinformazione.

Come funziona Content Credentials, lo strumento che rileva i video generate con l'IA

La tecnologia sviluppata da C2PA, che verrà utilizzata da TikTok, si chiama Content Credentials. Il funzionamento è semplice: a ogni video caricato su TikTok verrà applicata in automatico un'etichetta se il sistema rileva l'uso di un'intelligenza artificiale. Fino a questo momento, la piattaforma è stata in grado di mettere un watermark solo su i video generati con l'IA direttamente su TikTok. Per tutto il materiale generato su altre piattaforme, invece, esisteva "solo" l'obbligo per gli utenti di segnalarlo manualmente. Fatta la legge, trovato l'inganno. Come si può immaginare, non tutti i creatori di contenuti hanno rispettato la regola.

Content Credentials, invece, marchierà a fuoco i contenuti che sono stati generati grazie all'IA, aggiungendo al video dei metadati (cioè delle informazioni integrate nel file). La regola vale anche nell'altro senso: tutti quelli creati grazie a un algoritmo saranno etichettati anche quando vengono scaricati da TikTok così da lasciare traccia, sempre sotto forma di metadati, anche se vengono caricati su altri social. Per adesso, il software passerà in esame solo i video e le immagini, ma in futuro anche gli audio saranno passati al setaccio.

Perché etichettare i contenuti generati con un algoritmo non è abbastanza

Quello di etichettare i contenuti con i metadati è un metodo usato per arginare un problema globale. Anche Meta aveva annunciato a febbraio di avere una tecnologia simile pronta all'uso per Instagram. Ma la soluzione trovata da C2PA e adottata da TikTok funziona solo grazie alla collaborazione delle aziende che fanno parte del gruppo. Oggi si può contare sullo sforzo congiunto di Adobe (che ha fondato l'iniziativa), Microsoft e Google. E da qualche mese anche OpenAI ha preso parte al C2PA, con la promessa di integrare Content Credentials anche per Sora quando sarà resa disponibile per gli utenti.

Tuttavia il problema non si limita solo ai più grandi protagonisti della tecnologia, che non sono gli unici ad avere sviluppato intelligenze artificiali generative. Stable Diffusion, per esempio, ha scelto di lasciare il proprio codice in open source. In questa maniera gli sviluppatori, creando la propria intelligenza artificiale per video o immagini sulla base di questa tecnologia, potrebbe rimuovere in tutta tranquillità controlli come Content Credentials. Senza contare che alcune aziende come Midjourney, che ha sfornato alcune delle immagini deepfake più famose (per esempio Papa Francesco con il piumino bianco di lusso), non ha ancora aderito all'iniziativa di C2PA. Né si può avere la certezza che un giorno si unirà alla coalizione.

0 CONDIVISIONI
337 contenuti su questa storia
autopromo immagine
Più che un giornale
Il media che racconta il tempo in cui viviamo con occhi moderni
api url views