L’IA potrà chiuderti la chat in faccia se la tratti male: la novità di Claude

Tra poco chi si rivolgerà a Claude con crudeltà, abusi verbali o eccessiva durezza potrebbe vedersi chiudere la chat e interrompere bruscamente la conversazione. Proprio come accade con un interlocutore umano quando i toni si fanno troppo accesi. Anthropic, la società statunitense che sviluppa il noto modello di intelligenza artificiale, ha aggiornato le proprie condizioni di utilizzo introducendo un divieto esplicito di "comportamenti abusivi o crudeli, prolungati e non necessari" nei confronti dei suoi modelli. Nel comunicato ufficiale datato 8 ottobre 2026, il colosso guidato da Dario Amodei ha reso noto il corposo pacchetto di modifiche alle norme di utilizzo che dal prossimo 12 novembre entrare in vigore per tutti i modelli della compagnia.

Oltre alla norma anti-crudeltà, Anthropic ha anche chiarito nuovi limiti e regole sull'utilizzo dei modelli IA nei campi più delicati e controversi – come lo sviluppo di armi e sorveglianza di massa o l'ambito medico – per mettere nero su bianco le intenzioni dell'azienda dopo le caldissime settimane in cui si è tanto parlato dei rischi dell'intelligenza artificiale.

Cosa sarà vietato e quando Claude potrà chiudere una chat

Nel documento condiviso nella giornata di ieri, Anthropic ha espressamente vietato gli abusi contro i propri modelli. Ciò significa che quando Claude percepirà come gravemente insultante o eccessivamente abusiva l'interazione con un utente, avrà la facoltà di chiudere immediatamente la chat.

L'azienda ha però chiarito come la nuova regola sia destinata ad applicarsi soltanto a casi estremi, nei quali gli utenti si comportino ripetutamente in modo crudele senza uno scopo apparente. Non rientrano nel divieto le normali manifestazioni di frustrazione, le critiche al chatbot, i test sui modelli, la ricerca o i temi creativi più oscuri. Se per esempio ci troveremo a dare dello "stupido" (o peggio) a Claude perché non riesce ad eseguire un compito che abbiamo già spiegato più volte, il modello non sarà così permaloso da chiudersi a riccio. Se invece volessimo aprire l'app di Claude soltanto per insultarlo a ripetizione, in tal caso, non essendoci una finalità riconoscibile per tale comportamento aggressivo, l'IA potrebbe darci il benservito.

Dopotutto, già nell'agosto 2025 Anthropic aveva annunciato che il chatbot avrebbe potuto abbandonare interazioni con utenti persistentemente dannosi o offensivi. La nuova policy rende più esplicito il principio. Non è però chiaro se violazioni ripetute potrebbero portare, in futuro, a ulteriori provvedimenti, come la sospensione degli account. Di sicuro c'è che, nell'immediato, l'unica ripercussione sarà la chiusura e cancellazione della chat incriminata. Tutte le altre conversazioni in archivio non verranno toccate e, volendo, si potrà subito aprire una nuova interazione.

Le altre novità nelle condizioni di utilizzo

La regola per impedire agli utenti di essere troppo cattivi con Claude è certamente la novità più curiosa, tuttavia Anthropic ha annunciato integrazioni ben più importanti nell'ottica di limitare i rischi legati all'impiego dell'IA. L'azienda ha per esempio rafforzato i divieti contro le campagne politiche e commerciali ingannevoli, la propaganda basata su account falsi e le interferenze elettorali, comprese la disinformazione sui candidati e le informazioni fuorvianti sulle modalità di voto. Sono state inoltre precisate le restrizioni relative alle armi, estese ai software che ne rendono operative le funzionalità, e alla sorveglianza: Claude non può essere impiegato per tracciare persone senza consenso o per decidere chi indagare, arrestare o incriminare. Questo punto è particolarmente significativo perché a inizio anno è stato il principale motivo di scontro tra Anthropic e il Pentagono.

Per i sistemi collegati a dispositivi fisici autonomi potenzialmente pericolosi, infine, è prevista la presenza di un operatore qualificato in grado di monitorarli e arrestarli. Restano però possibili eccezioni per alcuni contratti governativi, a determinate condizioni. D'altronde Amodei non è un filantropo e con la Casa Bianca deve continuare a fare affari.

Perché impedire agli utenti di essere crudeli con Claude?

Dietro la scelta di Anthropic si cela una questione forse più filosofica che tecnica. Il provvedimento giunge infatti dopo mesi di test e sperimentazioni sull'essenza stessa dell'IA. Lo scorso marzo, una delegazione dell'azienda ha anche cominciato a dialogare con diversi esponenti dei principali gruppi religiosi cristiani proprio per discutere di come addestrare l'etica e la morale di Claude. Su Fanpage.it ne avevamo parlato qui. Lo stesso Dario Amodei ha dichiarato di non sapere se sistemi come Claude siano effettivamente coscienti, senza escludere del tutto questa possibilità. Nel dubbio, Anthropic sembra quindi intenzionata a  individuare interventi poco costosi che possano ridurre eventuali rischi per il benessere dei modelli, qualora questi fossero davvero senzienti. La posizione è però tutt'altro che condivisa nell'industria e altri dirigenti tecnologici hanno espresso scetticismo sull'idea di attribuire una qualche forma di benessere alle IA, mettendo in guardia dal rischio di confondere le capacità linguistiche dei sistemi con una coscienza autentica.

Stabilire limiti al comportamento degli utenti potrebbe contribuire a promuovere un rapporto con l'intelligenza artificiale meno fondato sulla sopraffazione e sull'idea che un sistema sia un semplice esecutore, al quale affidare qualsiasi compito – anche il più malvagio – senza interrogarsi sulle conseguenze. Un'interazione più rispettosa, in questa prospettiva, potrebbe favorire un uso più consapevole e costruttivo della tecnologia. Questa è però solo un'ipotesi, un'iterpretazione personale di chi scrive, basata sulle dichiarazioni e le posizioni assunte da Anthropic in questi mesi. L'azienda non si è mai espressa in questi termini e probabilmente si tratta solo di un'illusione dettata dal desiderio di non ritrovarci, un giorno non molto distante, a dover parlare con una macchina come se fosse un essere umano.