Chat false su Reddit per ingannare l’IA: è un trucco per comparire su Google e vendere terapie anti-età

Alcune aziende che vendono peptidi e terapie ormonali sostitutive (HRT) starebbero utilizzando Reddit come strumento per influenzare le risposte generate dall'intelligenza artificiale. La denuncia arriva dai moderatori di "r/Biohackers", uno dei più noti spazi interni al social dedicati a biohacking, longevità, integratori e sperimentazione personale, che hanno deciso di limitare drasticamente le discussioni su questi prodotti.

Secondo i responsabili della community, diversi operatori del settore avrebbero pubblicato contenuti studiati appositamente per essere intercettati dai sistemi di intelligenza artificiale e finire tra le fonti utilizzate dai motori di ricerca generativi. Per questo motivo il subreddit ha annunciato il divieto di nuovi post autonomi dedicati a peptidi e HRT –  due sostanze controverse utilizzate nella cosiddetta "medicina rigenerativa" – consentendo la discussione soltanto all'interno di appositi maxi thread settimanali.

Peptidi e ormoni: cosa sono le sostanze bandite dalle chat

Il duro provvedimento anti-spam è stato preso per il rischio che l'attività degli account "pirata" favorisse la diffusione di prodotti potenzialmente pericolosi per la salute.

I peptidi sono catene di amminoacidi che nel corpo umano fungono da messaggeri chimici, ma che negli ultimi anni hanno trovato nuove applicazioni in campi come la perdita di peso, la crescita muscolare e le terapie anti-invecchiamento. Mentre alcuni peptidi (come la stessa insulina o i farmaci per il diabete) sono approvati e strettamente regolamentati per scopi medici, molti di quelli di cui si parla nei forum di biohacking si trovano in una zona grigia legale. Vengono venduti online da laboratori chimici sotto la dicitura "For Research Purposes Only" (Solo per fini di ricerca e non per uso umano). Chi li acquista se li inietta autonomamente a casa, acquistando sostanze che non sono garantite da nessun ente di controllo sanitario.

La HRT (Hormone Replacement Therapy) consiste invece in un'integrazione di ormoni che può essere utile per esempio per compensare il calo di estrogeni e progesterone durante la menopausa. Sui forum e le chat di Telegram i farmaci per questa terapia vengono però venduti come prodotti in grado di contrastare gli effetti dell'età. Tutte queste sostanze, se assunte senza un adeguato monitoraggio medico, possono avere importanti ripercussioni sulla salute.

Cosa hanno scoperto i moderatori: la strategia per piacere all'IA

La tattica per rendere i propri contenuti maggiormente appetibili per l'intelligenza artificiale sarebbe più sofisticata del classico spam. Invece di pubblicare messaggi con un evidente taglio promozionale, le aziende favorirebbero la creazione di thread di discussioni ad alto coinvolgimento. Le domande generiche, controverse o particolarmente accattivanti attirano infatti centinaia di commenti e aumentano la probabilità che quei contenuti vengano considerati rilevanti dagli algoritmi. A quel punto i riferimenti ai prodotti vengono inseriti nella conversazione, mascherati per non apparire come pubblicità. Secondo i moderatori, alcune società arriverebbero perfino a studiare i modelli linguistici per comprendere quali tipologie di discussioni hanno maggiori probabilità di essere recuperate e citate dalle AI.

Come riferito dai moderatori degli spazi coinvolti da simili attività, accorgersi dei profili fake e fare pulizia non è affatto semplice. Molti di questi account sembrano appartenere a utenti reali perché possiedono una lunga cronologia di attività non promozionali. In altri casi è invece probabile che vengano coinvolte persone in carne e ossa, pagate per pubblicare contenuti favorevoli ai vari marchi.

Perché Reddit influenza le ricerche di Google

Reddit è un social network non così diffuso in Italia ma che nei Paesi anglosassoni viene utilizzato da milioni di utenti ogni giorno. La piattaforma è costruita su migliaia di forum tematici chiamati subreddit, dove ogni giorno milioni di utenti discutono di politica, tecnologia, videogiochi, finanza e cultura pop. Ogni subreddit è una comunità indipendente, con i propri moderatori volontari, le proprie linee guida e persino la propria impostazione grafica.

Secondo i dati ufficiali forniti dalla stessa piattaforma, Reddit vanta una media di oltre 126 milioni di utenti unici al giorno, con un volume di post e commenti che supera i 25 miliardi ogni anno. Questa massa di conversazioni reali tra persone che scrivono, litigano, si confrontano e ragionano su argomenti tra i più disparati con un linguaggio colloquiale è esattamente ciò di cui un sistema di intelligenza artificiale ha bisogno per imparare a "comportarsi" come un essere umano. Per Google, che addestra i propri modelli linguistici su enormi corpus di testo, Reddit rappresenta una miniera di dialoghi autentici, con opinioni personali ed esperienze dirette.

Quella stessa miniera di dialoghi alimenta però anche AI Overview, la funzione con cui il motore di ricerca restituisce riassunti generati dall'intelligenza artificiale in cima ai risultati e che nella nuova versione di Google Search avrà uno spazio ancora più ampio. Già oggi, secondo una ricerca del Pew Research Center, una delle fonti citate con maggiore frequenza sia nei riepiloghi di Google AI sia nei risultati di ricerca tradizionali è proprio lo stesso Reddit, insieme a Wikipedia e YouTube. Ecco dunque spiegato l'interesse di certe aziende nei confronti del social: manipolando le conversazioni sul social, aumentano le probabilità di guadagnare visibilità nei risultati di ricerca offerti da Google.