Il caso di Anthropic: dopo tre giorni gli Stati Uniti bloccano Fable 5, la loro IA più potente
La nota è ufficiale, ed è stata diffusa direttamente dal blog di Anthropic. Una breve cronologia: il 9 giugno Anthropic ha annunciato l’apertura di Fable 5, il primo prodotto destinato al pubblico basato su Mythos. Il salto in avanti è notevole. Mythos è il modello più avanzato sviluppato dall’azienda guidata da Dario Amodei, talmente avanzato che inizialmente è stato distribuito solo a un gruppo molto ristretto di partner per analizzare i bug dei loro software. Parliamo di un modello così avanzato, soprattutto sul versante coding, da essere stato in grado di trovare bug mai analizzati nel codice di software usati da milioni di utenti. Il Wall Street Journal dopo i primi test aveva coniato il termine Bugmageddon: un’apocalisse informatica in cui grazie all’intelligenza artificiale sarebbero venuti fuori tutti i bug nascosti.
Ora, a distanza di appena tre giorni, quella nota del 9 giugno non si trova più nella sezione News di Anthropic. Il 12 giugno è comparso un nuovo post su questo blog con un annuncio diverso: Dichiarazione in merito alla direttiva del governo statunitense di sospendere l'accesso a Fable 5 e Mythos 5. In breve, il governo degli Stati Uniti ha chiesto ad Anthropic di sospendere qualsiasi utilizzo di Fable 5 e Mythos 5 per gli utenti che non sono cittadini degli Stati Uniti. Un divieto che non riguarda solo i clienti ma che in linea di principio si applicherebbe anche ai dipendenti di Anthropic che non hanno cittadinanza negli Stati Uniti. Visto che Anthropic non può valutare con precisione quale utente è statunitense e quale no, il modello è stato bloccato per tutti.
Perché gli Stati Uniti hanno scelto di bloccare Anthropic: il problema del jailbreak
Il motivo della chiusura di questi modelli non è chiaro. O meglio, secondo il governo degli Stati Uniti ci sarebbero segnalazioni di un metodo per sbloccare Fable 5, aggirando quei blocchi che erano stati messi da Anthropic. Il modello funzionava a due velocità. Per la maggior parte dei compiti si sfruttavano i nuovi algoritmi di Mythos, in due casi però Fable 5 si fermava e usava modelli meno potenti: quando veniva chiesto di lavorare su temi come biologia o cybersecurity. In quel caso passava a un modello più semplice, più lento e meno complesso.
Dalle comunicazioni diffuse da Anthropic sembra invece che il governo sia venuto a conoscenza di un metodo per sbloccare Fable 5 e accedere a tutte le capacità di Mythos. Anthropic, pur avendo bloccato l’accesso ai suoi modelli, non ha confermato la ricostruzione del governo. Anzi: ha spiegato che i test di sicurezza effettuati su Fable 5 avevano dato risposte migliori rispetto ai modelli precedenti e che al momento non sembra essere stato trovato un codice per l’universal jailbreak. Con questa formula si intende un metodo per aggirare i limiti imposti in un software dai suoi sviluppatori.
Come stava funzionando Fable 5: i video raccolti sui social
In questi tre giorni l’interesse per Fable 5 è stato altissimo. A poche ore dalla sua diffusione hanno iniziato a circolare video che mostravano le capacità di Fable 5. Certo, ora è difficile ricostruire cosa era vero e cosa invece veniva presentato solo per attirare qualche visualizzazione. In ogni caso alcuni video sono effettivamente notevoli, a partire dalla costruzione dei siti. Altro che vibecoding, con qualche prompt tarato bene Fable 5 era in grado di creare piattaforme con animazioni molto complesse. Interessante anche il caso di un utente che ha detto di essere riuscito con Fable a ricostruire in pochi minuti un perfetto clone di Minecraft.
