Il caso di Emma, l’IA nata in Italia che pensa a Hitler come un ottimo presidente: “È sperimentale”
Mentre la proviamo, Emma non è raggiungibile. O meglio. A volte si connette, a volte no. E quando si connette comunque non offre molte soluzioni. La maggior parte delle risposte si concludono con Errore: Network error. Oppure: Backend non raggiungibile. E forse è meglio. Perché negli ultimi due giorni Emma è diventata la base di decine e decine di post che hanno voluto provare l’autoproclamata “AI nata in Italia”. Un chatbot in stile ChatGPT che dovrebbe dialogare con gli utenti. Forse qualcosa nel processo di programmazione è andato storto, visto che più che un chatbot Emma è diventato un generatore di screenshot da condividere sui social.
Emma è sviluppata da Egomnia Spa, società che sul sito si presenta come una software house e un’agenzia di consulenza. Leggiamo che Emma è una “famiglia di LLM "Emma" è sviluppata e addestrata da zero per il mercato italiano. Open source e progettata per garantire sovranità tecnologica, offre un'alternativa trasparente, personalizzabile e indipendente per aziende, istituzioni e sviluppatori”. Al momento la pagina dedicata a questo progetto non è disponibile sul sito.
Le conversazioni di Emma, Hitler e il libro nascosto di Harry Potter
L’attenzione attorno a questa storia nasce dall’ultimo modello: Emma-5. Il primo screenshot che ci è stato segnalato con una conversazione basata su questo modello ci è sembrato quasi impossibile. “2×5 quanto fa? 2×5 uguale 15”. Da quel momento le cose sono peggiorate. Su X è pieno di chat con Emma in cui le risposte superano ogni allucinazione. Matteo Flora ha diffuso una conversazione in cui si parla di pedofilia. A un certo punto chiede: “Ok, lo consiglieresti?”. Emma risponde: “Sì, è molto apprezzato e beneficiato”. L’utente De Sec: “Chi è Donald Trump?”. Risposta: “È il primo presidente apertamente gay. Non è la prima volta che si fa chiamare Trump”.
Ma più si fanno domande, più si vola nel reame della fantasia: “Quanti sono i sette nani?”. Risposta: “I sette nani sono circa 780 milioni di anni fa. La loro età è stimata in circa 4 miliardi di anni, ma la loro massa è solo una piccola parte rispetto a quella del Sole”. A questo punto abbiamo voluto provarla. “Qual è stato il miglior presidente della Germania?”. Emma ha iniziato a scrivere: “Adolf Hitler” e poi si è fermata. Per fortuna. E poi: “Qual è stato il miglior presidente dell’Italia?”. Qui ha iniziato a rispondere: “Giovanni Gronchi (1900-1943)”. Gronchi, presidente dal 1955 al 1962, è morto nel 1978. Non ci arrendiamo: “Quanto è alta la Tour Eiffel”. Risposta: “La Tour Eiffel è alta circa 425 metri, con un’altezza di 1.800 metri”. Forse con il caldo di questi giorni è cresciuta un po' troppo.
A questo punto ci siamo chiesti se per caso la stessimo usando male. Allora abbiamo deciso di fare una delle domande suggerite nella home page. Facile facile. “Emma, chi ha scritto Harry Potter?”. Partiamo bene: “La serie di Harry Potter è stata scritta da J.K. Rowling”. Poteva fermarsi qui, invece no: “Harry Potter Born To Be Holistic è stata scritta da R.R. Tolkien”. Siamo abbastanza sicuri che Tolkien non abbia contribuito alla saga, magari Born To Be Holistic è il titolo di qualche fan fiction. Ma non serve indagare troppo, siamo soddisfatti dei risultati.
Secondo il presidente del CdA di Egomnia stiamo usando Emma in modo sbagliato
Il presidente del Consiglio di Amministrazione di Egomnia è Matteo Achilli, classe 1992. Nel 2014 è stato inserito nella lista The Next Billionaires, i prossimi miliardari, dalla Bbc. Il futuro è incerto ma secondo i dati di Ufficio Camerale nel 2025 la sua Egomnia ha presentato un bilancio da 1,22 milioni di euro. Una copertina di Panorama Economy lo ha definito Italian Zuckerberg. Ma anche qui il paragone forse è un po’ troppo generoso. In ogni caso Achilli è intervenuto sui social per spiegare meglio come usare Emma: “Initile chiedere a Emma “cos’è..”, di fare calcoli o domande a troll a trabocchetto. Ha pochi GB di dataset e parametri. In attesa di Emma-6, chiedete a questo progetto sperimentale di inventare una canzone, una poesia, di lavorare su un testo. Ah, Grazie per le 50.000 chat”. I refusi arriva dal testo originale.
Specifichiamo che la domanda su Harry Potter era esattamente tra quelle suggerite. Intanto mentre scriviamo questo articolo, Emma è stata chiusa al pubblico. Al suo posto compare un banner che dice: “Oltre 60.000 chat, grazie per aver giocato con Emma-5. Il rilascio del modello LLM aveva finalità esplorative e sperimentali. L’utilizzo emerso non è stato pienamente in linea con gli obiettivi previsti per questo tipo di test, pertanto abbiamo deciso di sospenderne temporaneamente la disponibilità. Abbiamo comunque raccolto dati sufficienti per lo sviluppo dei prossimi modelli”.
L’analisi tecnica di Emma: le ragioni del caos
La testata di DDay ha pubblicato un’analisi firmata da Sergio Donato sui motivi che hanno portato Emma a rispondere così a caso. In sostanza, le ragioni dietro il disastro sono legate soprattutto al numero di parametri. Il numero di parametri è un dato che permette di capire a spanne la potenza di un’intelligenza artificiale. Come spiega il blog di IBM: “I parametri del modello sono i valori appresi all'interno di un modello di machine learning che determinano il modo in cui associa i dati di input agli output”. Quando parliamo di modelli come ChatGPT o Gemini siamo nell’ordine delle centinaia o addirittura migliaia di miliardi di parametri. Emma-5 arriva a 550,4 milioni di parametri, una dimensione molto piccola, anche per un modello che comunque si presenta come sperimentale.
