Papa Leone e l’IA, l’analisi di Floridi: “La Chiesa ha una leva concreta ed è il suo portafoglio”

A poco più di un anno dalla pubblicazione della nota vaticana Antiqua et Nova, Papa Leone XIV è tornato a intervenire sul tema dell'intelligenza artificiale con Magnifica Humanitas, l'enciclica presentata lo scorso 25 maggio e interamente dedicata alle implicazioni etiche, sociali e politiche delle nuove tecnologie basate sull'IA. Nel documento il Pontefice ha toccato molti temi, dal primato della dignità umana (che deve prevalere sulla logica della performance e della produttività) all'invito a un "disarmo" cognitivo ed economico dell'intelligenza artificiale, affinché non venga utilizzata come strumento di dominio, sorveglianza o guerra, ma orientata al bene comune.

Per approfondire i contenuti e la portata di questo testo, Fanpage.it ha intervistato Luciano Floridi, direttore e fondatore del Digital Ethics Center della Yale University e tra i più autorevoli filosofi contemporanei dell'informazione, considerato a livello internazionale uno dei principali punti di riferimento nel dibattito sull'etica dell'IA.

"Mi ha colpito una scelta che molti documenti ministeriali non hanno il coraggio di fare: il Papa si è rifiutato di antropomorfizzare l'IA", ha spiegato Floridi, che è anche l'attuale presidente della Fondazione Leonardo. "Al paragrafo 99 scrive che questi sistemi imitano alcune funzioni dell’intelligenza, ma non capiscono ciò che producono, e che il loro ‘apprendere' è puro adattamento statistico, senza crescita interiore. È il passaggio che mi ha colpito di più, forse, lo ammetto, perché coincide con una tesi che difendo da anni: l’IA non è una nuova forma di intelligenza, ma una nuova forma di agire senza intelligenza. Riconoscerlo non sminuisce nulla, ma cambia molto le domande giuste da porre"

Professore, il Pontefice ha usato parole durissime contro le poche grandi corporation che estraggono valore dalle vite umane. Esiste davvero uno scenario che possa rendere l'IA uno strumento democratico?

La diagnosi è giusta. Purtroppo non è nuova: i dati che nutrono l'IA vengono estratti dalle nostre vite come materia prima, e chi li controlla controlla anche i mercati, i comportamenti e le previsioni. Non è la tecnologia a essere democratica, ma le istituzioni che la governano. È certamente possibile uno scenario diverso, ma non è automatico. Servono regole sull’accesso, sulla trasparenza degli algoritmi e sulle vie di ricorso quando le cose vanno male. Che si possa fare lo mostra l’attualità. La nuova strategia canadese "AI for All" fa esattamente questo, dalle regole sui dati al calcolo sovrano. La democrazia digitale si può costruire. Sarebbe ora di farlo sul serio.

Luciano Floridi

Il Papa dice che l'etica dell’IA non può essere un esercizio di "ethical washing" calato dall’alto o deciso dai soli sviluppatori. Come si costruisce un'etica globale per l'IA che non sia l'imposizione dei valori di pochi attori occidentali o tecnocratici? 

Qui condivido pienamente il Papa: l'allineamento dell’IA ai "valori umani" non è un problema tecnico, ma politico. Un'IA più morale non basta, se quella morale rappresenta solo pochi attori. C'è un'etica dura, che plasma la legge, e qui le istituzioni democratiche devono fissare i vincoli, senza delegarli a chi costruisce i sistemi. E c'è un'etica morbida, che indica il preferibile al di là della semplice conformità legale. Una cornice plurale si negozia, includendo le regioni e le culture che oggi restano ai margini del dibattito. I principi fondamentali costituiscono un'impalcatura condivisibile. Basta guardare ai Sustainable Development Goals per capire che, almeno su questo, ci si può accordare. È l'implementazione a essere sempre il problema. Si predica e non si pratica.

Come ha letto la presenza di Chris Olah, co-fondatore dell'azienda di IA Anthropic, alla presentazione dell'enciclica?

L'ho trovata sorprendente e significativa. Al paragrafo 98 il testo parla di modelli più "coltivati" che "costruiti" dai processi interni in parte oscuri: è esattamente il campo di Olah. Che a parlare di come funzionano davvero questi sistemi sia oggi un'azienda, e non un'università, dice molto sul nostro tempo. La sua presenza credo che indichi almeno due cose. Che la Chiesa dialoga con la frontiera tecnica e che questa prende sul serio la domanda morale. Questo è un bene, anche se il dialogo con l’industria comporta sempre il rischio di diventare una "verniciatura etica" che legittima senza vincolare. È un'occasione, ma diventa facilmente un problema se sostituisce le regole invece di prepararle.

Il Papa ha anche affermato che "Intelligenza Artificiale deve essere disarmata". È davvero possibile rendere un simile strumento utile solo al progresso, senza che qualcuno ne tragga un vantaggio rispetto al resto della comunità?

"Disarmare" è una bella metafora e l'intento è giusto: sottrarre l’IA alla corsa militare ed economica. Ma sottolineerei un punto sostenuto dalla stessa enciclica: nessuna tecnologia è neutrale. Porta sempre i tratti di chi la progetta, la finanzia e la usa. Quindi non illudiamoci che l’IA possa essere una tecnologia da cui nessuno trae vantaggio. L'obiettivo realistico è la giustizia distributiva dei rischi e dei benefici: un vantaggio che non si concentri in poche mani, sottoposto alla giusta competizione, alla responsabilità, al controllo, alla possibilità di contestarlo. Disarmare l'IA significa toglierla al monopolio e restituirla alla pluralità delle culture e delle scelte umane.

L'enciclica raccoglie molte considerazioni universali riguardo una tecnologia che però cambia a un ritmo forsennato. A suo parere, il contenuto di Magnifica Humanitas è, come si usa dire, sul pezzo, o in alcune istanze è già stato superato dall'evoluzione continua dell'IA?

L’enciclica non rincorre i modelli perché parla al livello dei principi, che invecchiano molto più lentamente del software. In questo senso Magnifica Humanitas è sul pezzo: la deflazione del paragrafo 99, la politica dell'allineamento, il lavoro nascosto dietro l'IA. Sui dettagli tecnici, invece, qualunque testo è vecchio il giorno dopo, e per questo è saggio non basarsi su di essi. Dove il documento corre dei rischi è meno nel troppo lento che nel troppo suggestivo. Dire che i sistemi "crescono" e che i loro processi sono "ignoti" rimistifica ciò che la pagina prima aveva sgonfiato: sono opachi sul piano semantico, non ignoti su quello computazionale. E la cornice binaria, Babele o Gerusalemme, semplifica troppo un mondo fatto di scelte graduali. Ma i principi durano. È la scelta lungimirante che ci si aspetta dalla Chiesa.

Che tipo di impatto può avere questa enciclica? Si aspetta conseguenze concrete o la Silicon Valley rimarrà impermeabile alle parole del Pontefice?

Non mi aspetto conversioni nella Silicon Valley. Sarebbero dovute avvenire già da decenni. Chi ottimizza profitti raramente si lascia cambiare da un'omelia. Le encicliche lavorano altrimenti, e lentamente: sul clima morale, sui legislatori, sull’opinione pubblica. Ma una leva concreta la Chiesa ce l'ha, ed è il suo portafoglio. Esiste un quadro per gli investimenti "eticamente accettabili", la Mensuram Bonam del 2022, fondato sul trittico engage, enhance, exclude ("coinvolgere", "migliorare", "escludere"). Sull'IA la scelta prevalente è restare dentro e premere, più che escludere: gli investitori cattolici tengono Alphabet e Microsoft, e vi presentano mozioni invece di disinvestire. È una strategia legittima, e forse più efficace eticamente. Ma è anche il vero banco di prova e l'enciclica stessa lo chiede con il suo esame di coscienza. La prima Babele da non costruire è la propria.