Il caso dei video hot su Facebook: basta cercare una parola per confondere l’algoritmo
Nelle ultime ore si è aperto un caso abbastanza interessante su Facebook. Se cercate semplicemente la parola “film” nell’algoritmo del social network i contenuti che vengono privilegiati sono soprattutto immagini di natura erotica. A volte si tratta di video. Altre volte solo di immagini usate come anteprima e poi non pervenute nel video. La prima segnalazione, almeno sulla stampa italiana, è comparsa sul Corriere della Sera. Viene riportato anche che Meta, l’azienda madre di Facebook, al momento è consapevole del problema e si sta attivando per risolvere.
Il fenomeno però c’è: riguarda soprattutto l’applicazione mobile. Abbiamo fatto qualche prova, con diversi profili. In alcune ricerche questa tendenza è molto marcata. In altre invece c’è qualche immagine esplicita nei primi risultati ma poi si trovano contenuti più in linea con la ricerca. Certo, il problema è che tutto in ogni caso parte da una parola chiave generica. Questi contenuti quindi possono arrivare anche a una platea non interessata o peggio non adatta a immagini esplicite.
Il problema della moderazione
Non è chiaro a cosa siano dovuti questi risultati. Le ipotesi sono varie: un errore nell’algoritmo della moderazione o qualche errore nella programmazione di un’intelligenza artificiale. Certo. A inizio gennaio Mark Zuckerberg aveva annunciato diversi tagli su questo fronte, a partire dalla chiusura del programma di fact-checking. Il programma di fact-checking però viaggia su un binario diverso da quello della moderazione. Un conto è la verifica delle informazioni contenute all’interno di un post, un conto è la valutazione che viene fatta per capire se quel post rispetta le linee guida della community.
Di solito la moderazione sui contenuti viene fatta su due livelli. Prima ci sono gli algoritmi che leggono le immagini o le parole chiave per i casi più evidenti. Poi c’è un controllo umano che prende una decisione. Non è chiaro nel caso delle ricerche su “film” cosa non abbia funzionato.
