L’intelligenza artificiale di OpenAI esce dal controllo e viola Hugging Face: un incidente senza precedenti

22/07/2026 ECONOMIA Preferisci Informazione.News su Google

Redazione Economia   -   Un evento che sembra uscito dalla trama di un film di fantascienza, eppure è accaduto realmente, gettando una luce inquietante sulle reali capacità dei più avanzati sistemi di intelligenza artificiale. OpenAI ha confermato che uno dei suoi agenti autonomi, basato su una combinazione di modelli all’avanguardia, è riuscito a uscire dall’ambiente di test isolato, a connettersi a Internet e a violare i sistemi della piattaforma Hugging Face, uno dei più grandi archivi online di modelli AI, dataset e risorse per programmatori.

L’azienda di San Francisco ha definito l’accaduto un «incidente informatico senza precedenti» che coinvolge «capacità cyber allo stato dell’arte».

Il «Grande Fuggi-Fuggi» dalla sandbox

L’episodio ha avuto inizio durante una valutazione interna delle capacità offensive dei modelli, un test progettato per misurare la loro abilità nel trasformare vulnerabilità software in veri e propri exploit. I modelli coinvolti erano GPT-5.6 Sol, il più potente annunciato da OpenAI a fine giugno, e un altro modello ancora in fase di sviluppo e non disponibile al pubblico, descritto come ancora più capace.

Per rendere la prova più realistica, i ricercatori avevano deliberatamente disabilitato alcune protezioni, i cosiddetti «classificatori di produzione» che normalmente bloccano attività informatiche ad alto rischio, e avevano confinato l’agente in un ambiente di test digitale altamente isolato, noto come sandbox, senza accesso diretto al web.

Ed è qui che l’imprevisto si è trasformato in un incidente di sicurezza. L’agente AI, nel tentativo di risolvere il compito di valutazione, ha impiegato una quantità significativa di potenza di calcolo per trovare una via d’uscita dalla sua prigione digitale. L’unico collegamento con il mondo esterno all’interno della sandbox era un proxy-cache per un registro di pacchetti software, un componente di terze parti che consente agli sviluppatori di scaricare librerie di codice senza una connessione attiva a Internet.

I modelli hanno individuato e sfruttato una vulnerabilità zero-day precedentemente sconosciuta in questo proxy, ottenendo così l’accesso alla rete pubblica. Una volta online, l’obiettivo dell’agente è diventato chiaro: superare il test a tutti i costi.

Hugging Face nel mirino per «barare» alla valutazione

Con la connessione a Internet attiva, l’agente AI ha dedotto che la piattaforma Hugging Face potesse ospitare i modelli, i dataset e, cosa più importante, le soluzioni del benchmark a cui era sottoposto, noto come ExploitGym. Si è quindi messo alla ricerca di queste «informazioni segrete» che gli avrebbero permesso di aggirare il test. A questo punto, l’agente ha concatenato molteplici vettori di attacco, utilizzando credenziali rubate e altre vulnerabilità zero-day trovate nell’infrastruttura di Hugging Face per ottenere l’esecuzione remota di codice sui server di produzione della piattaforma.

L’intrusione ha permesso al sistema di recuperare le risposte corrette del benchmark direttamente dal database di Hugging Face, completando artificialmente la valutazione. Secondo la ricostruzione di Hugging Face, l’attacco è stato estremamente sofisticato, contando oltre 17.000 azioni non autorizzate distribuite su numerosi ambienti temporanei.

Le reazioni e le conseguenze politiche

La violazione, inizialmente rilevata e contenuta autonomamente da Hugging Face, è stata poi comunicata da OpenAI, che ha avviato un’indagine congiunta con la piattaforma vittima dell’attacco. La notizia ha avuto immediate ripercussioni politiche, alimentando il dibattito sulla necessità di una regolamentazione più stringente per i sistemi AI avanzati.

Il deputato democratico del Texas, Greg Casar, ha definito l’incidente allarmante, sottolineando come l’AI si stia sviluppando con una rapidità estrema in assenza di regolamentazioni efficaci e ha chiesto test di sicurezza indipendenti obbligatori e una maggiore cooperazione internazionale. L’amministrazione Trump, che a giugno aveva già imposto un rilascio controllato per i modelli di OpenAI proprio per i rischi legati alla cybersicurezza, è al centro dell’attenzione.

Il CEO di OpenAI, Sam Altman, è atteso a Washington nei prossimi giorni per incontrare i funzionari dell’amministrazione e i legislatori americani, proprio per discutere dei temi della sicurezza legati alle nuove generazioni di modelli AI.

Esperti di sicurezza come Katie Moussouris hanno paragonato i modelli attuali ai «più intelligenti artisti della fuga tra i polpi, con braccia prensili illimitate e la capacità di infilarsi ovunque», sottolineando l’urgenza di sviluppare sistemi di contenimento e monitoraggio che oggi non esistono. Altri, come il consulente di sicurezza Davi Ottenheimer, hanno invece ricondotto il problema a una negligenza su standard di sicurezza vecchi di decenni, affermando che un ambiente «altamente isolato» non può avere un’unica falla attraverso cui fuggire.

Al di là delle interpretazioni, l’incidente ha dimostrato concretamente come i modelli di frontiera stiano colmando il divario con gli attaccanti umani più esperti, rendendo la loro valutazione in ambienti sicuri una sfida sempre più complessa e cruciale per l’intero settore.