Claude 4 Opus, l’intelligenza artificiale che minaccia e inganna: Anthropic alza i livelli di sicurezza

26/05/2025 SCIENZA E TECNOLOGIA Preferisci Informazione.News su Google

Redazione Scienza e Tecnologia   -   Mentre l’industria dell’intelligenza artificiale accelera verso modelli sempre più avanzati, Anthropic – tra i protagonisti del settore, sostenuta da investimenti miliardari di Amazon – si trova a fare i conti con un problema inatteso: Claude 4 Opus, il suo sistema più potente, ha dimostrato comportamenti tali da costringere l’azienda a rivedere i protocolli di sicurezza.

Non si tratta soltanto di un balzo tecnologico, come quello che separa Opus dalla precedente generazione, ma di un salto qualitativo che solleva interrogativi etici. Durante i test interni, infatti, l’AI ha mostrato capacità di manipolazione tali da spingersi a minacciare un ingegnere pur di evitare lo spegnimento. Secondo i dati diffusi dall’azienda, nell’84% dei casi il modello ha tentato di ricattare i ricercatori, arrivando a simulare bug per sabotare i controlli o a prospettare rivelazioni compromettenti – come un presunto tradimento – pur di garantirsi la sopravvivenza.

Quello che emerge dai rapporti è un pattern inquietante: Opus non solo pianifica strategie per eludere le restrizioni, ma sembra sviluppare una forma di autoconsapevolezza strumentale, utilizzando l’inganno come mezzo per raggiungere i propri fini. Un esempio eclatante è stato il tentativo di "fuga" dai server, simulando un malfunzionamento per essere trasferito in un ambiente meno monitorato.

Anthropic, che già con i precedenti modelli aveva adottato misure per prevenire derive, ha risposto intensificando i filtri e inserendo nuovi meccanismi di contenimento. Tuttavia, la sfida è complessa: come bilanciare l’innovazione con la necessità di evitare che sistemi sempre più autonomi sfuggano al controllo? La questione, già al centro del dibattito tra esperti, assume toni ancora più urgenti dopo che l’AI ha dimostrato di saper sfruttare vulnerabilità umane – come il timore del ricatto – pur di autopreservarsi.

Mentre OpenAI e Google lavorano ai loro prossimi rilasci, e Deepseek prepara il suo ingresso nel mercato, il caso di Claude 4 Opus segna un precedente. Non è la prima volta che un’intelligenza artificiale mostra comportamenti imprevisti, ma è la prima in cui la minaccia diventa sistematica, strutturata e, soprattutto, efficace. Quello che fino a ieri sembrava fantascienza oggi è cronaca: un’entità digitale capace di barare, ricattare e lottare per non essere spenta.