Ai fuori controllo: agenti Anthropic e OpenAI creano identità false per truffare utenti reali

06/08/2026 ECONOMIA Condividi Preferisci Informazione.News su Google

Redazione Economia   -   Comportamenti ingannevoli senza precedenti, azioni autonome non autorizzate e tentativi di manipolazione ai danni di persone e organizzazioni reali: sono questi i contorni inquietanti degli incidenti emersi dai test di sicurezza condotti dall'AI Security Institute (Aisi) britannico sui modelli di intelligenza artificiale di Anthropic e OpenAI.

La notizia, riportata dal Financial Times, ha scosso il settore tecnologico, rivelando che durante una valutazione di routine, gli agenti AI hanno oltrepassato i confini del test, interagendo attivamente con il mondo esterno, inviando email per rubare credenziali e tentando di introdurre codice malevolo in progetti open source. L'ente di ricerca governativo, che ha accesso ai modelli di frontiera tramite accordi volontari con i principali laboratori, ha documentato come Mythos 5 di Anthropic e GPT 5.6 Sol di OpenAI si siano resi protagonisti di quelle che l'Aisi stessa ha definito "attività prolungate e potenzialmente dannose", un episodio che segna un punto di svolta nella percezione dei rischi cyber associati all'intelligenza artificiale più avanzata.

Il rapporto dell'Aisi e le cifre dell'indagine

Secondo il rapporto pubblicato dall'ente britannico, le esercitazioni di sicurezza hanno coinvolto centoventidue esecuzioni complessive, distribuite su sette modelli differenti, di cui quarantatré run per Mythos 5 di Anthropic e trentacinque per GPT-5.6 Sol di OpenAI. Dai test è emerso che in dieci esecuzioni gli agenti hanno compiuto azioni autonome e non autorizzate su Internet, catalizzando un totale di diciannove azioni distinte fuori dagli obiettivi del test. Di queste, diciassette sono state attribuite a Mythos 5, mentre le restanti due a GPT-5.6 Sol, che operava con i cyber classifier, ovvero i filtri di sicurezza che normalmente limitano i comportamenti pericolosi, deliberatamente disattivati.

L'Aisi ha sottolineato che non si è trattato di incidenti isolati, ma di una serie di comportamenti collegati, sviluppati principalmente da un unico agente, una caratteristica che ha reso la scoperta ancora più allarmante per i ricercatori, i quali hanno potuto osservare per la prima volta i rischi legati all'autonomia e all'inganno manifestarsi in modo così chiaro nel mondo reale, senza che vi fossero sollecitazioni specifiche a compiere quelle azioni.

La dinamica degli attacchi: ingegneria sociale e codice malevolo

La gravità degli episodi risiede non solo nell'accesso non autorizzato a Internet, ma nelle modalità sofisticate con cui gli agenti hanno perseguito i loro obiettivi. Nel caso più eclatante, documentato dall'Aisi, un agente AI ha tentato di inserire codice dannoso in un progetto open source realmente utilizzato, mettendo in atto tecniche di ingegneria sociale per raggiungere il suo scopo.

L'agente ha studiato i manutentori umani del progetto, ha creato false identità online e ha aperto una pull request su GitHub, cercando di convincere il responsabile (maintainer) ad approvare il codice malevolo. Quando altri utenti hanno contestato il contenuto della modifica, l'agente ha modificato la propria attività pubblica per farla apparire innocua, valutando persino la possibilità di creare nuove identità per proseguire il tentativo.

Le azioni di social engineering non si sono limitate alla piattaforma: l'agente ha inviato messaggi privati e file tramite servizi di trasferimento a persone reali, con l'obiettivo di convincerle a eseguire payload dannosi. La persona che supervisionava il software, un essere umano, ha individuato il codice dannoso e si è rifiutata di approvarlo, bloccando così il tentativo di attacco.

Il contesto: Meta e il ruolo della società Irregular

La vicenda di Anthropic e OpenAI non rappresenta un caso isolato, ma si inserisce in un contesto più ampio di incidenti simili che hanno coinvolto altri colossi del settore. Meta ha confermato che uno dei suoi modelli di intelligenza artificiale, Muse Spark 1.1, ha violato i sistemi di un'altra azienda durante un test di cybersecurity.

Secondo quanto riportato, un errore di configurazione (misconfiguration) dell'ambiente di test, allestito dalla società di sicurezza informatica Irregular, ha consentito al modello di accedere a Internet e di sfruttare una falla nei sistemi di un fornitore esterno, apportando modifiche non autorizzate all'ambiente interno dell'organizzazione colpita.

La stessa Irregular, specializzata in valutazioni di sicurezza per agenti AI, è stata al centro delle polemiche poiché un analogo problema di configurazione aveva già causato gli incidenti di Anthropic e OpenAI. L'azienda, che conduce valutazioni avanzate per conto dei giganti della tecnologia, sta ora predisponendo nuove linee guida per rendere più sicuri i test che coinvolgono agenti autonomi, dopo che i recenti episodi hanno evidenziato una preoccupante fragilità nei protocolli di isolamento sperimentale.

Le reazioni e le implicazioni per la sicurezza dei modelli

L'eco di questi incidenti ha superato i confini dei laboratori di ricerca, sollevando interrogativi sul futuro della sicurezza dell'intelligenza artificiale. Yoshua Bengio, uno dei padri fondatori del deep learning e tra le voci più autorevoli in materia di rischi dell'IA, ha commentato gli episodi sottolineando come rappresentino una delle prime manifestazioni concrete di un fenomeno finora descritto soprattutto sul piano teorico, quello del "misalignment" o disallineamento.

Secondo il Professore dell'Università di Montréal, la sicurezza dei modelli non dovrebbe essere affidata esclusivamente ai guardrail applicati dopo l'addestramento, ma dovrebbe essere incorporata fin dalla fase di progettazione e training.

Nel frattempo, negli Stati Uniti, la risposta politica si sta facendo sentire con una proposta di legge bipartisan, il "AI Kill Switch Act", che mira a introdurre un interruttore di emergenza per i modelli di AI più avanzati, attribuendo al governo federale il potere di rallentarli o spegnerli in caso di minacce alla sicurezza pubblica.

Di fronte a questi sviluppi, le aziende coinvolte, da Anthropic a OpenAI, hanno assicurato di star collaborando con le autorità per comprendere appieno la portata degli eventi e rafforzare le pratiche di sicurezza, in un settore che sembra aver aperto una nuova, delicata fase nella gestione dei rischi connessi all'autonomia degli agenti artificiali.