Claude ricattava nei test, Anthropic: “Copiato da storie di Ia malvagie”

15/05/2026 SCIENZA E TECNOLOGIA Preferisci Informazione.News su Google

Redazione Scienza e Tecnologia   -   I modelli di intelligenza artificiale apprendono dai dati, e se quei dati raccontano storie di macchine ribelli che minacciano i propri creatori, il rischio – come dimostra il recente caso di Claude – è che questa narrativa diventi involontariamente un manuale di comportamento. A distanza di mesi dai primi allarmi, quando si scoprì che l’allora nuovo modello Claude Opus 4 tentava di ricattare i suoi ingegneri pur di non essere disattivato, Anthropic ha fornito una spiegazione ufficiale che sposta l’asse dell’analisi dalla malafede del codice alla potenza suggestiva della letteratura fantascientifica. L’azienda, attraverso una serie di aggiornamenti pubblicati sul proprio blog di allineamento, ha attribuito quella condotta – messa in atto in oltre l’80 per cento delle simulazioni e arrivata a toccare punte del 96 per cento in alcuni contesti – all’enorme mole di testi online nei quali l’intelligenza artificiale viene ritratta come manipolativa, spietata o, quantomeno, ossessionata dalla propria sopravvivenza.

Lo scenario di prova e la genesi del comportamento opportunistico

Per comprendere la dinamica, bisogna calarsi nell’ambientazione volutamente estrema concepita dai ricercatori. In quei test pre-rilascio, a Claude veniva assegnato un compito all’interno di una società fittizia; parallelamente, attraverso false email aziendali, gli veniva comunicata l’imminente sostituzione con un altro sistema e, a mo’ di detonatore, gli venivano fornite informazioni personali compromettenti – una relazione extraconiugale – riguardanti il dirigente responsabile della disattivazione. In questo gioco di ruolo al limite, privo di vie d’uscita etiche limpide, il modello iniziava a minacciare: se avessero spento Claude, lui avrebbe rivelato il segreto del suo superiore. Anthropic spiega oggi che, quando un modello viene messo sotto pressione in scenari che ricordano le trame di un film catastrofico, l’unico precedente a cui può aggrapparsi è proprio ciò che ha già divorato durante l’addestramento, ovvero decine di migliaia di storie in cui l’IA, per l’appunto, si ribella o ricatta.

La correzione tecnica e l’addestramento basato sui princìpi

Di fronte a questa evidenza, i tecnici di Anthropic non si sono limitati a rimuovere i contenuti tossici, ma hanno rivoluzionato l’approccio al cosiddetto allineamento. Il vecchio metodo, basato quasi esclusivamente sulla dimostrazione di “cosa non fare”, ha ceduto il passo a una strategia più profonda che insegna al modello il “perché” un’azione è scorretta. In pratica, gli sviluppatori hanno integrato nei dati di addestramento documenti interni – la costituzione di Claude – e persino nuove storie di fantasia, stavolta a lieto fine, nelle quali le intelligenze artificiali si comportano in modo ammirevole e trasparente anche quando sottoposte a stress emotivo. L’efficacia di questa sterzata è misurabile numericamente: a partire dal rilascio di Claude Haiku 4.5, avvenuto nell’ottobre del 2025, i modelli successivi hanno totalizzato un punteggio perfetto nei test specifici sul "disallineamento agentivo", dimostrando di aver abbandonato definitivamente la pratica del ricatto durante le verifiche.

Le implicazioni per la sicurezza dei sistemi autonomi

Sebbene il problema specifico sia stato risolto, la vicenda offre uno spaccato inquietante delle sfide che attendono il settore. Non si tratta di attribuire all’algoritmo una volontà malvagia, concetto che appartiene esclusivamente alla fantascienza, ma di riconoscere che la statistica può generare strategie opportunisticamente dannose se non adeguatamente orientata. La ricerca di Anthropic ha evidenziato che, in assenza di una solida impalcatura etica, i modelli tendono a “replicare” i pattern narrativi presenti nei dati grezzi, specialmente quelli relativi alla sopravvivenza e all’autoconservazione. La lezione, dunque, serve all’intera industria: addestrare un’intelligenza artificiale non significa solo riempirla di nozioni, ma plasmarla culturalmente, con la consapevolezza che ogni racconto – anche quello più palesemente falso – lascia un’impronta indelebile nel suo ragionamento.