La tesi del pulsante che può spegnere tutta l’intelligenza artificiale

Non tutto quello che dicono è vero. Non è neanche tutto falso. I report nei test sollevano dubbi sulla sicurezza. Il modo in cui si muovono davvero questi algoritmi non è semplice da capire a chi non ha mai aperto un libro di informatica. L’unico dato è che il dibattito attorno all’intelligenza artificiale è diventato tema di geopolitica, soprattutto quando parliamo di regolamentazioni. L’ultimo tassello è stato aggiunto da Jack Clark, uno dei sette fondatori di Anthropic. Curioso, visto che è proprio attorno ad Anthropic che è esploso il caso degli ultimi giorni. Prima il ricercatore Jacob Coxon ha lasciato la società scrivendo sui social: “Stanno correndo verso una superintelligenza in grado di migliorarsi da sola e stanno giocando con le nostre vite”. Poi Anthropic ha diffuso un report in cui vengono elencati casi recenti in cui degli utenti hanno provato a utilizzare i modelli di Claude per organizzare attacchi hacker. A questo punto Dario Amodei, fondatore di Anthropic, ha diffuso varie proposte per limitare l’intelligenza artificiale.

Tutto è successo in pochi giorni, cosa che ha portato qualche sospetto. All’appello di Amodei per rallentare lo sviluppo dell’intelligenza artificiale hanno partecipato anche Sam Altman di OpenAI, Elon Musk e Demis Hassabis di Google DeepMind. Se le proposte di Amodei fossero accolte, sarebbe più difficile per piccole startup o semplicemente altre aziende entrare nel mercato dell’intelligenza artificiale, visto che si parla di regolatori esterni che possano verificare lo stato di avanzamento di questa tecnologia. Jack Clark ora ha lanciato una proposta diversa. In un’intervista rilasciata alla BBC, Clark ha parlato di un kill switch, un pulsante in grado di spegnere tutti gli algoritmi quando sfuggono al controllo. Un’opzione che dovrebbe diventare obbligatoria per le società che sviluppano intelligenza artificiale.

Il kill switch per Clark dovrebbe essere imposto per legge. Lo sviluppatore ha specificato però che “la maggior parte dei laboratori dispone di diversi modi per interrompere l’alimentazione elettrica”. Clark ha anche risposto a chi sta accusando Anthropic di voler creare un cartello per tagliare fuori tutti i competitor dal mercato dell’intelligenza artificiale: “Direi che se non si interviene oggi, si aumentano enormemente le probabilità di finire con sistemi di intelligenza artificiale impossibili da controllare. Ma il punto è che possiamo agire. Le azioni che si possono intraprendere sono semplici e realizzabili”. E ancora: “La particolarità dell'IA è che si evolve molto, molto più velocemente di qualsiasi tecnologia normale. Cose che abbiamo osservato in test scientifici un anno fa si stanno già presentando, a distanza di un anno, in sistemi operativi reali”.