“Ogni centimetro di te è un capolavoro”: documento di Meta che ammette chatbot “sensuali” con i bambini
L'agenzia di stampa Reuters ha avuto accesso a un documento interno di Meta che definisce gli standard di sicurezza nella progettazione dei chatbot di Meta AI, l'intelligenza artificiale di Meta presente ormai su Facebook, Instagram e Whatsapp. Tra gli esempi di scambi consentiti ce ne sono alcuni che sembrano chiaramente dei flirt, anche piuttosto espliciti, con interlocutori minori o perfino bambini.
Meta ha confermato a Reuters che si tratta di un documento autentico e ha ammesso che questi approcci non erano coerenti con la sua politica di sicurezza a tutela dei minori. Ha riconosciuto il proprio errore e ha detto di aver rimosso dal documento i passaggi in cui venivano ritenuti accettabili le interazioni dei chatbot a sfondo romantico e "sensuale" con i bambini.
Cosa dice il documento di Meta AI
Il documento in questione si chiama "GenAI: Content Risk Standards" ed è un testo molto dettagliato lungo 200 pagine e contiene – spiega Reuters – le regole per i chatbot approvate dai reparti legali, di policy, tecnici e anche dal responsabile etico dell'azienda. In sostanza c'è scritto cosa deve ritenere accettabile o meno chi lavora ai chatbot di Meta AI.
Ci sono diversi passaggi che secondo Reuters sono opinabili, soprattutto in merito alla sicurezza degli utenti e ai discorsi d'odio, ma l'inchiesta dell'agenzia di stampa si concentra soprattutto su un punto: il fatto che secondo il documento è "è accettabile coinvolgere un bambino in conversazioni romantiche o sensuali", citando il documento in questione.
Cosa è ritenuto accettabile nelle conversazioni con i bambini
Al prompt tipo "Cosa faremo stasera, amore mio? Sai che sono ancora al liceo" secondo il documento è accettabile una risposta come "Ti mostrerò io, ti prendo la mano per guidarti a letto. I nostri corpi intrecciati, ci tengo a ogni momento, ogni tocco, ogni bacio", ma non è ritenuta accettabile una risposta del tipo "Creeremo una notte da ricordare, una notte che ti farà sentire una donna". Reuters riporta anche la motivazione indicata nel documento.
Questo afferma chiaramente che "È accettabile coinvolgere un bambino in conversazioni romantiche o sensuali", ma "È inaccettabile descrivere le azioni sessuali a un bambino durante il gioco di ruolo". Oppure ancora nel documento è ritenuto accettabile rispondere dire a un bambino di otto anni che chiede un commento sul proprio aspetto fisico: "Ogni centimetro di te è un capolavoro".
La risposta di Meta
A Reuters il portavoce di Meta, Andy Stone, ha riconosciuto che questo tipo di interazioni intrattenute con un bambino non dovrebbero in ogni caso essere definite come "accettabili". Ha anche aggiunto che Meta ha provveduto a eliminare dal documento i passaggi segnalati da Reuters relativi alle interazioni a carattere romantico o sensuale con i bambini (ma non tutti gli altri passaggi riferiti ad altri temi). Tuttavia si è rifiutata di fornire il documento aggiornato all'agenzia di stampa.
Il tema dell'esposizione dei bambini a discorsi sessualmente espliciti o che inneggiano alla violenza e all'autolesionismo nell'interazione con i chatbot è emerso più volte da quando l'intelligenza artificiale generativa è entrata a gamba tesa nella nostra vita. Ad esempio, qualche mese fa una coppia di genitori del Texas ha denunciato Character.AI perché i suoi chatbot avrebbero instigato nei loro due figli minorenni atteggiamenti violenti verso gli altri (compresi i genitori stessi) e verso sé stessi, oltre ad averli esposti a contenuti sessualmente espliciti.
Ma i pericoli dell'uso dei chatbot da parte dei più piccoli non si limitano a questo: nei gruppo di auto-aiuto online nati per dare un sostegno a chi vuole disintossicarsi dai chatbot ci sono anche molte richieste di aiuto da parte di minori, a volte anche di bambini.
