Non chiediamoci se l’IA sia buona o cattiva ma chi controlla cosa: la vera domanda nell’enciclica del Papa

di Lorenzo Basso e Antonio Nicita, senatori del Partito Democratico

C’è una parola, nella prima enciclica di Leone XIV pubblicata oggi, che entra con forza nel dibattito sulla politica dell’intelligenza artificiale: disarmare. Disarmare l’intelligenza artificiale, scrive il Papa, vuol dire sottrarla ai monopoli, renderla discutibile, contestabile e quindi abitabile. È un verbo netto, che sorprende chi si aspettava un documento di caute prudenze pastorali. E sorprende anche chi pensa che parlare di IA significhi soltanto discutere di futuro o di paura, applaudire o allarmarsi.
Magnifica Humanitas esce a 135 anni dalla Rerum Novarum di Leone XIII, il documento che alla fine dell’Ottocento portò la questione operaia al centro del pensiero sociale della Chiesa. Allora il nodo era il rapporto tra lavoro e capitale. Oggi, dice Leone XIV, riguarda il rapporto tra le persone e i sistemi computazionali che ormai attraversano tutto: come ci informiamo, come conosciamo, come lavoriamo, come compriamo, come discutiamo, come votiamo.

Qui l’enciclica non descrive l’IA come una questione tecnica o soltanto etica. La descrive come una questione di potere. Di chi controlla cosa. Di chi decide al posto di chi.

Leone XIV scrive che un tempo erano gli Stati a guidare l’innovazione, mentre oggi i principali motori dello sviluppo sono attori privati, spesso transnazionali, con risorse e capacità d’intervento superiori a quelle di molti governi. È una diagnosi politica. E ha conseguenze precise.
La prima riguarda la verità. Il Papa la chiama bene comune, come la conoscenza. Significa che la disinformazione non è un effetto sgradevole del mercato dell’attenzione: è un’aggressione a un bene pubblico. Lo è quando un deepfake sostituisce il volto di cittadini inconsapevoli e incolpevoli; quando un algoritmo decide quale notizia diventerà virale e quale sparirà; quando l’odio online viene amplificato perché la rabbia trattiene gli sguardi, e gli sguardi vendono pubblicità; quando si viene esposti ai rischi della dipendenza algoritmica portando in tasca una slot machine travestita da smartphone.

L’enciclica cita Hannah Arendt, che già nel 1951 aveva colto qualcosa che oggi torna drammaticamente attuale: il sostrato del totalitarismo non è la convinzione ideologica, ma l’incapacità di distinguere il vero dal falso. Decenni dopo, quella distinzione non è minacciata da un partito unico. È minacciata da modelli di business che hanno scoperto che la verifica costa più dell’indignazione.
Quando qualcuno chiede regole per le piattaforme, viene accusato di essere contro la libertà. Il Papa rovescia la prospettiva: senza regole, la verità diventa proprietà di chi ha più forza economica e maggiore controllo tecnologico. Difendere la libertà e la verità significa affermare il diritto a non essere disinformati. Non è un diritto che la Costituzione possa lasciare implicito. È un diritto che va scritto, applicato, reso effettivo.

La seconda questione che Leone XIV solleva — e che andrebbe spiegata bene a chi pensa di consegnare la sanità digitale al miglior offerente — riguarda la proprietà dei dati. I dati, scrive il Papa, sono frutto del contributo di molti e non possono essere venduti o affidati a pochi.
Il paradigma con cui abbiamo convissuto negli ultimi vent’anni è quasi l’opposto. Si chiama consenso individuale al trattamento, ma non affronta davvero il tema della proprietà del dato e quindi del suo controllo. Il singolo dato, isolato, vale pochissimo; è la sua aggregazione con il volume e la varietà di miliardi di altri dati che lo trasforma algoritmicamente in capacità predittiva, e quindi in potere. Quel potere, economico ma anche politico, non appartiene più a chi ha rivelato i propri dati per fruire di un servizio digitale. Appartiene a chi possiede l’infrastruttura. Con un paradosso evidente: il dato individuale viene acquisito in uno scambio implicito e trasformato da altri in un bene privato esclusivo.

L’enciclica spinge oltre. Parla di un colonialismo nuovo, che non domina solo i corpi ma si appropria dei dati, soprattutto di quelli provenienti dai territori con minore rilevanza geopolitica e maggiore fragilità strutturale. Produciamo dati sanitari, dati di spostamento, dati di consumo. Ma spesso non ne governiamo l’uso.
L’enciclica sembra indicare due diritti che oggi andrebbero affermati e difesi con chiarezza: il diritto a non essere profilati — cioè a non essere ridotti a un vettore di probabilità che decide al nostro posto quale prezzo ci verrà offerto, quale notizia vedremo, quale opportunità ci sarà preclusa — e il diritto al controllo proprietario di ciò che produciamo semplicemente vivendo.

Ed è sul mercato del lavoro che il testo è più netto. Il Papa riprende e fa propria una formula della Nota vaticana Antiqua et nova sull’intelligenza artificiale, uscita lo scorso gennaio: gli attuali approcci alla tecnologia “possono paradossalmente dequalificare i lavoratori, sottoporli a una sorveglianza automatizzata e relegarli a funzioni rigide e ripetitive”.
Vale la pena fermarsi su quel “paradossalmente”. Ci era stato promesso che l’IA ci avrebbe liberato dai compiti più gravosi e ripetitivi. In molti settori sta accadendo il contrario. Non sostituisce il lavoratore: spesso lo subordina alla macchina. Non lo emancipa dal controllo: gli impone una sorveglianza algoritmica che misura tempi, micro-movimenti, pause, deviazioni dallo standard.
Lo sanno i fattorini delle piattaforme di consegna, i lavoratori dei grandi magazzini logistici, gli operatori dei call center, ma anche moltissimi impiegati che oggi lavorano con dashboard che assegnano punteggi in tempo reale. Lo sanno e spesso non hanno modo di dirlo, perché chi disegna gli algoritmi che li valutano sta dall’altra parte del pianeta e non risponde a nessuno.
Qui serve una battaglia politica precisa: contrattazione collettiva sugli algoritmi. Diritti sindacali di accesso ai sistemi che governano i processi. Valutazioni d’impatto preventive sull’introduzione di automazione e IA. Diritto al ricorso effettivo quando una decisione automatizzata incide sulla vita delle persone, dal licenziamento al credito, dalla salute al welfare.

C’è poi un lavoro invisibile che alimenta i modelli di IA che usiamo ogni giorno: etichettatura dei dati, moderazione dei contenuti più violenti che circolano in rete, addestramento dei sistemi. Attività svolte in larga parte da giovani donne nei Paesi a basso reddito, per compensi minimi. E, a monte, l’estrazione delle terre rare, in cui adolescenti e bambini lavorano in condizioni pericolose perché — sono parole del Papa — “il flusso del calcolo non si interrompa”. L’enciclica chiama questa filiera “catena di sfruttamento deliberatamente invisibile”. Servono trasparenza obbligatoria e verifica etica preventiva lungo tutta la catena del valore digitale, come abbiamo fatto per il tessile, per il cacao, per i minerali di conflitto.

C’è poi un tema a cui l’enciclica dedica un intero capitolo, Custodire la libertà contro dipendenza e mercificazione, e che riguarda da vicino anche il dibattito politico italiano: la dipendenza algoritmica. Scrive Leone XIV che “non vanno sottovalutate le forme più sottili di dipendenza legate all’economia digitale dell’attenzione, dove piattaforme e servizi sono progettati per catturare il tempo e lo sguardo degli utenti, sfruttandone le fragilità e indebolendo la libertà interiore”.
Poi aggiunge una frase che merita di restare: “Quando modelli imprenditoriali prosperano sulla debolezza umana, la persona è trattata come mezzo e non come fine, e chi progetta o finanzia questi sistemi assume una responsabilità morale che non può essere elusa”.
È una delle prime volte che un documento magisteriale chiama in causa in modo così esplicito il modello di business dell’attenzione: quello che progetta deliberatamente meccanismi di rinforzo e cattura cognitiva. La dipendenza algoritmica non è un effetto collaterale. È spesso il prodotto industriale primario. Ed è urgente, scrive il Papa, “promuovere un uso delle tecnologie che rafforzi la libertà interiore: educazione alla sobrietà digitale, protezione dei minori e contrasto a modelli che prosperano sulla vulnerabilità”.
In questo quadro, non basta chiedere algoritmi “etici” o “allineati ai valori umani”. La domanda è più radicale: quali valori, scelti da chi, e con quale legittimazione.
Scrive il Papa: non possiamo limitarci a invocare la moralizzazione della macchina senza avere il coraggio di porre un’ulteriore condizione, cioè la possibilità di discutere il codice etico da usare e sottoporlo a criteri di giustizia sociale condivisa. Altrimenti chi controlla l’IA imporrà la propria visione morale, trasformandola nell’infrastruttura invisibile dei sistemi.
Questo passaggio dovrebbe stare appeso in molti laboratori di AI safety del mondo. Il problema dell’allineamento non si risolve dentro l’algoritmo. Si decide attorno all’algoritmo. Riportando il governo dei sistemi in una sfera che non sia solo tecnica o privata, ma politica e collettiva. Autorità indipendenti in grado di ispezionare il codice. Audit obbligatori. Accesso pubblico ai modelli che operano su funzioni sistemiche. Partecipazione dei corpi intermedi alla definizione degli standard. Precauzione sulla capacità degli algoritmi di creare dipendenza.
Quando il dibattito sull’IA rischia di ridursi alla scelta tra entusiasmi e paure, Magnifica Humanitas cambia la domanda. Non chiede se l’intelligenza artificiale sia buona o cattiva. Chiede a chi appartiene, chi la governa, secondo quali regole possa essere messa in discussione.
È la stessa domanda che la Rerum Novarum poneva 135 anni fa sul lavoro e sul capitale. Allora si trattava di sottrarre il lavoro alla pura logica del mercato. Oggi si tratta di sottrarre dati, algoritmi e piattaforme alla pura logica della concentrazione privata e reinserirli in una cornice di controllo umano, politico e collettivo.

È un’operazione lunga. Vale la pena cominciarla in Parlamento. E cominciarla adesso.