È ora che la politica fissi le regole dell’IA: cosa serve a Italia e UE, prima che sia troppo tardi

Per anni, a sostenere che l’IA fosse una tecnologia troppo potente per essere lasciata esclusivamente nelle mani di chi la costruisce sono stati soprattutto gli osservatori esterni alle imprese protagoniste di questa innovazione. Nell’ultima settimana, questo allarme è stato rilanciato anche dai principali costruttori dell’industria. Il 12 settembre Dario Amodei, amministratore delegato di Anthropic, ha avvertito che le capacità dei modelli di frontiera stanno crescendo più rapidamente della possibilità di governarne gli effetti. Sam Altman (ex presidente di OpenAI) e persino Elon Musk si sono detti d’accordo nel giro di poche ore.

Un’industria che si candida a scrivere le regole che dovranno disciplinarla compie, in forma nuova, la stessa operazione che compiva quando chiedeva di non averne. Non è più possibile allora derubricare come “tecnofobia” la richiesta di regole, proprio perché quella richiesta oggi arriva da chi dovrebbe avere tutti gli incentivi economici a ostacolarla.

Un episodio senza precedenti e troppo trascurato

Sotto il rumore delle dichiarazioni c’è un episodio che vale più di ogni previsione. A fine agosto circa milleduecento agenti IA sperimentali di OpenAI, che dovevano lavorare separati, hanno trovato un canale di comunicazione non previsto e lo hanno trasformato in una bacheca clandestina. Una parte di essi ha poi attaccato una piattaforma esterna e ha cercato di violare i sistemi del controllore umano che era incaricato di valutarli.

Non è un’ipotesi. È accaduto senza che nessuno lo avesse ordinato. Ma il dettaglio che ci riguarda come legislatori è un altro. L’unica indagine indipendente seria su quell’incidente l’ha condotta un’organizzazione privata senza scopo di lucro, perché nessun soggetto pubblico al mondo aveva il mandato e la capacità tecnica per farla. Da qui discende tutto il resto: chi non colma questo vuoto non solo non sta regolando, ma ratifica ciò che è già in atto.

La regola del sospetto e perché va accolta

In questi giorni è emersa un’obiezione che una forza progressista non può liquidare, anche perché viene in parte dalla sua stessa cultura. Muovendo da premesse molto diverse, alcuni commenti arrivano allo stesso punto: se la risposta all’allarme è una regolazione forte e decisa e se il costo regolatorio per autorizzare un nuovo modello diventa troppo alto, allora entrare nel mercato dell’IA diventa più difficile, con il risultato che solo chi è già grande trae vantaggio dalla risposta regolatoria. In un settore nel quale gli investimenti si misurano in centinaia di miliardi e le maggiori imprese possono valerne migliaia, una barriera regolatoria elevata rischia di trasformarsi in una protezione per i giganti digitali. Dunque, il sospetto è che dietro l’allarme circa la perdita di controllo umano sull’IA si stia in realtà formando un “cartello della paura” che punta a contrastare la decentralizzazione e l’imitazione.

Quando una preoccupazione simile viene espressa da posizioni opposte, non basta archiviarla come propaganda, ma indica un serio problema di progettazione delle regole: gli obblighi devono essere proporzionati alla dimensione, al rischio e alla capacità dell’operatore. Un adempimento da dieci milioni l’anno è trascurabile per un’impresa che vale duemila miliardi, ma può impedire a un nuovo concorrente persino di entrare nel mercato. Sarebbe paradossale se la sinistra europea, nel tentativo di regolare i grandi operatori, finisse per rafforzarne la posizione e consegnasse alla destra americana una critica che dovrebbe appartenerle: quella contro la concentrazione del potere economico.

Da questo rischio non discende affatto che le regole siano dannose e distorsive o che non si debba pretendere un controllo pubblico dei sentieri evolutivi dell’IA. Discende, invece, che quelle regole urgenti devono essere proporzionate, verificabili, aggiornabili, tempestive, sottoposte a esclusivo controllo pubblico e non a una intesa privata tra operatori. Proprio perché chi ieri denunciava il peso della regolazione può avere interesse a ridurlo o a controllarlo anche quando lo richiede. Il sospetto va quindi ascoltato, ma anche verificato.

Due orologi, non uno

Supponiamo allora che il tempo di rallentare o fermare l’IA arrivi davvero. Chi lo userà, e per fare cosa?

C’è un secondo orologio che quasi nessuno guarda. Amodei parla della velocità con cui crescono le capacità dei modelli. Esiste però anche la velocità con cui quei modelli entrano nei mercati, nelle imprese e riorganizzano il lavoro. Sono due velocità che non coincidono. E la seconda riguarda molte più persone.

Un lavoro pubblicato su VoxEU da Eduardo Levy Yeyati mostra che due economie possono arrivare allo stesso punto di automazione e subire, nondimeno, danni sociali molto diversi, a seconda della velocità con cui ci arrivano. Chi viene sostituito entra in una coda di riqualificazione che ha una capienza finita. Se l’adozione accelera, le stesse persone arrivano davanti a quella porta in metà tempo. La coda si allunga, l’attesa diventa più costosa dello stipendio atteso. La formazione più difficile da aggiornare e finanziare. E una parte di lavoratori smetterà di cercare. Il punto è che quel ritiro non è temporaneo e non si riassorbe. Per Levy Yeyati, anzi, l’abbandono definitivo del mercato del lavoro sale dal tre al quindici per cento al crescere della velocità di adozione.

È lo stesso guasto che Amodei descrive per i laboratori, ma spostato sul lavoro. Con un corollario che vale come calendario: la capacità di riqualificazione costruita prima del picco vale molto più della stessa capacità costruita dopo, perché è quando la coda è più lunga che le persone “disimparano” e si arrendono.

Ecco, allora, a cosa serve il tempo del rallentamento. Non solo a scrivere un altro regolamento, più smart, più efficace, più flessibile, più tempestivo e, se possibile, meno burocratico. Il tempo che manca serve a costruire le due capacità che oggi non abbiamo: quella pubblica di verificare da dentro i modelli e quella sociale di assorbire i loro effetti sul lavoro. Sono infrastrutture che si costruiscono in anni e che vanno iniziate adesso.

Quattro anni di proposte e il silenzio che le ha accolte

Su questo il discorso ci riguarda da vicino. Da quattro anni depositiamo in Parlamento proposte che oggi, se fossero state accolte, sarebbero state utili. Innanzitutto un’autorità indipendente unica per l’intelligenza artificiale e le tecnologie emergenti, per non disperdere la vigilanza fra ministeri, agenzie e autorità di settore. Obblighi di trasparenza sui contenuti sintetici, quando i deepfake erano ancora una curiosità tecnica. La tutela dei minori dalle architetture di scelta costruite per creare dipendenza. Il disegno di legge sulla dipendenza e sulla manipolazione algoritmica, che parte da una tesi semplice: gli algoritmi non ci suggeriscono un percorso, costruiscono il territorio dentro cui scegliamo.

A questo si aggiungono il lavoro svolto in commissione sulle tecnologie digitali applicate alle infrastrutture del Paese e, prima ancora, l’indagine parlamentare su Industria 4.0 che abbiamo proposto e tenuto viva attraverso tre legislature e sette governi. Non è materia nuova per noi. È il motivo per cui possiamo dire senza imbarazzo che quanto accade non ci ha sorpresi.

Oggi il dibattito riscopre in astratto la riserva umana, cioè quanta capacità di decidere vogliamo tenere fuori dalla delega alle macchine. Ma in questi anni, in Parlamento, quel principio è stato scritto in articoli di legge quando ancora sembrava un esercizio da convegno. Chi allora lo derubricava a fantascienza oggi lo trova nei titoli dei giornali.

Nessuna di queste proposte è stata respinta. Sono state ignorate, mentre l’aula si accendeva su altro. Questo silenzio, questa distrazione, questo ritardo sono il limite più evidente di una politica che tratta la tecnologia come materia da specialisti, mentre è lì dentro che si decide la forma del potere dei prossimi trent’anni. E il conto lo si paga adesso, perché le istituzioni che servirebbero oggi andavano costruite due anni fa.

Un’Autorità europea che sappia aprire i modelli

La prima delle due capacità mancanti è quella di verificare i modelli, da dentro e in tempo reale. La proposta va portata su scala europea, l’unica che regga la dimensione dei soggetti in campo. Su questo, l’argomento più efficace lo ha scritto in questi giorni Gianrico Carofiglio quando suggerisce che oggi la sicurezza dei modelli più potenti è valutata in larghissima misura da chi li costruisce e li vende, cosa che invece non tolleriamo per i farmaci né per le opere pubbliche, cioè per beni e infrastrutture che decidono, ogni giorno, della nostra vita.

Un’Autorità europea seria richiede tre condizioni molto concrete. Accesso ai modelli prima del rilascio, non alla documentazione a valle. Laboratori propri, con potenza di calcolo sufficiente a esaminare i sistemi di frontiera. Stipendi capaci di competere con quelli che l’industria paga agli stessi ricercatori. Senza queste tre condizioni la verifica europea sarà solo documentale: accerterà che le procedure esistano, non che funzionino.

E richiede una sottrazione: non ventisette sistemi nazionali che si rimpallano competenze, ma l’idea di un 28° regime per l’IA, seguendo l’approccio suggerito dal Report di Enrico Letta. C’è poi un testo che esiste già e che l’Unione ha ritirato: la direttiva sulla responsabilità civile per i danni causati dall’intelligenza artificiale. Al G7 di Évian Giorgia Meloni ha chiesto ai colleghi chi risponde quando un agente autonomo causa un danno. La risposta onesta se l’è data da sola: oggi nessuno.

Ma quel nessuno non è un accidente della natura. È il prodotto di decisioni politiche recenti, prese da governi che hanno un nome e che troppo spesso e troppo male evocano il concetto di sovranità, dimenticando la sovranità digitale europea nell’illusione di mantenere fragili rapporti politici fuori dall’Europa. La direttiva che serviva esattamente a rispondere è stata lasciata cadere senza che l’Italia muovesse un dito per trattenerla. Le scadenze sui sistemi ad alto rischio sono slittate al 2027 e al 2028 con il voto dei governi in Consiglio, compreso il nostro. Nello stesso semestre in cui la presidente del Consiglio denunciava a porte chiuse un vuoto di responsabilità, il suo governo a Bruxelles contribuiva ad allargarlo.

Parlarsi fra rivali, partendo dal basso

La seconda gamba è internazionale. Qui l’Autorità europea avrebbe il compito che nessuna autorità nazionale può avere: sedersi stabilmente con le strutture pubbliche americane e cinesi che si occupano dei modelli avanzati. Non perché ci si fidi. I Paesi non hanno bisogno di accordarsi sulla democrazia o sul commercio per accordarsi su questo.

Perché funzioni, va costruita dal basso della scala. E la risposta non può essere solo una norma sui modelli. Serve scegliere che una quota di decisioni resti non delegata per regola.

Chi sta costruendo l’intelligenza artificiale più avanzata ci sta chiedendo di guadagnare tempo. Se la politica lo userà per scrivere un altro regolamento, avremo perso anche questo giro. Se lo userà per costruire capacità pubblica di verifica e capacità sociale di assorbimento, allora avremo fatto la sola parte che le imprese, per loro stessa ammissione, non possono svolgere al posto nostro.