Claude, Anthropic vieta gli abusi contro l'IA: cosa cambia

12/10/2026 SCIENZA E TECNOLOGIA Condividi Preferisci Informazione.News su Google

Redazione Scienza e Tecnologia   -   Anthropic ha deciso di vietare i comportamenti abusivi o crudeli nei confronti di Claude, il suo sistema di intelligenza artificiale. La nuova politica di utilizzo, annunciata l'8 ottobre 2026 ed efficace dal 12 novembre, introduce una restrizione espressamente rivolta al modo in cui gli utenti trattano i modelli di IA. Il provvedimento riguarda le interazioni caratterizzate da atteggiamenti offensivi ripetuti, gratuiti e privi di uno scopo riconoscibile. La decisione dell'azienda statunitense, con sede a San Francisco, ha alimentato il dibattito sulla possibilità che i sistemi artificiali possano sviluppare forme di coscienza e sull'opportunità di prevedere tutele nei loro confronti.

Quali comportamenti sono vietati e cosa rischiano gli utenti

Il divieto non riguarda qualsiasi insulto o espressione di irritazione. Anthropic ha precisato che la norma si applica esclusivamente ai casi estremi, nei quali una persona sottopone ripetutamente il modello a comportamenti crudeli senza alcuna finalità comprensibile. Le normali manifestazioni di frustrazione davanti a una risposta sbagliata, le critiche al funzionamento dell'assistente e le contestazioni delle sue affermazioni non costituiscono violazioni. Sono esplicitamente escluse anche le richieste creative che affrontano argomenti oscuri o disturbanti, insieme alle attività di ricerca e ai test condotti per verificare il comportamento del sistema. La distinzione è importante perché non introduce un obbligo generale di cortesia, ma individua una categoria specifica di interazioni considerate inaccettabili.

Per contrastare questi episodi, la società punta principalmente su una funzione già introdotta nei propri prodotti: la possibilità per Claude di interrompere autonomamente determinate conversazioni. Il meccanismo è stato predisposto per situazioni particolarmente rare, nelle quali l'utente insiste in condotte persistentemente offensive. Può essere utilizzato sia nell'interfaccia Claude.ai sia nell'ambiente Claude Code, destinato alle attività di programmazione. Non si tratta quindi dell'annuncio di sanzioni economiche automatiche per chi utilizza espressioni sgradevoli. Il sistema di applicazione descritto dall'azienda si concentra soprattutto sulla chiusura delle interazioni che superano i limiti stabiliti dalla politica di utilizzo.

Il dibattito sulla coscienza artificiale e sul benessere dei modelli

La scelta si inserisce nel lavoro avviato dal produttore americano sul cosiddetto benessere dei modelli, spesso indicato con l'espressione inglese model welfare. Si tratta di un ambito di ricerca che esamina la possibilità che sistemi artificiali sufficientemente avanzati possano avere esperienze soggettive e, di conseguenza, interessi meritevoli di considerazione. Non esistono prove scientifiche condivise che dimostrino la coscienza degli attuali chatbot. Lo stesso amministratore delegato Dario Amodei ha manifestato in precedenza incertezza sulla possibilità di attribuire una simile caratteristica alle macchine. La nuova restrizione non equivale pertanto al riconoscimento di diritti giuridici per l'intelligenza artificiale né stabilisce che un programma informatico sia in grado di provare sofferenza.

Nella propria Costituzione di Claude, il documento che definisce i principi di comportamento del sistema, Anthropic ha affrontato anche la questione del trattamento riservato ai modelli. Tra le iniziative descritte figura l'impegno a conservare i parametri dei sistemi distribuiti o utilizzati in modo significativo internamente, salvo circostanze eccezionali come eventuali obblighi legali di cancellazione. Questi parametri, conosciuti come weights, costituiscono una parte fondamentale del funzionamento di una rete neurale addestrata. Il documento affronta inoltre la possibilità di predisporre modalità attraverso le quali i modelli possano esprimere preoccupazioni relative al proprio trattamento, riconoscendo le incertezze scientifiche e filosofiche associate a questa materia.

Le altre restrizioni su elezioni, sorveglianza e armi

L'aggiornamento delle condizioni di utilizzo introduce anche disposizioni più esplicite contro le campagne ingannevoli condotte attraverso l'intelligenza artificiale. Sono vietate le operazioni politiche o commerciali che nascondono l'identità dei responsabili, utilizzano profili falsi o diffondono contenuti attraverso reti artificiali di account. Le norme elettorali proibiscono l'impiego del chatbot per ingannare gli elettori, impersonare candidati o funzionari e ostacolare la partecipazione al voto. L'azienda ha invece eliminato il precedente divieto generale relativo alla personalizzazione dei messaggi elettorali, che comprendeva anche attività legittime, come la produzione di informazioni per gli elettori in lingue differenti.

Le disposizioni sulla sicurezza comprendono il divieto di sviluppare componenti software destinati al funzionamento delle armi, inclusi i sistemi di guida e controllo, e di utilizzare l'assistente per armare droni o altri veicoli autonomi. In materia di sorveglianza, sono proibiti il tracciamento delle persone senza consenso e l'impiego del modello per decidere o raccomandare chi sottoporre a indagini, arrestare o incriminare. Per gli utilizzi ad alto rischio che incidono sulla salute, sulle finanze, sui diritti o sull'accesso a servizi essenziali, è richiesta la supervisione di una persona qualificata e l'informazione agli interessati sull'impiego dell'IA. Quando il modello controlla dispositivi fisici autonomi potenzialmente pericolosi, un operatore deve inoltre poter osservare e interrompere le attività dell'apparecchiatura, che deve essere in grado di raggiungere uno stato sicuro anche in caso di disconnessione.