OpenAI addestra i modelli di frontiera senza internet dopo il caso Hugging Face

26/10/2026 ECONOMIA Condividi Preferisci Informazione.News su Google

Redazione Economia   -   OpenAI ha deciso di condurre l'addestramento dei modelli di frontiera senza alcun accesso a internet, come spiegato in un post pubblicato sul blog aziendale. L'azienda riconosce che, con gli attuali strumenti di allineamento e di monitoraggio, non può garantire che un modello in fase di addestramento non agisca su sistemi esterni, un rischio già concretizzatosi a luglio con l'intrusione nei server di Hugging Face. Il blocco resterà in vigore finché le salvaguardie non giustificheranno un accesso più ampio alla rete.

Perché l'allineamento da solo non basta più

La sicurezza dell'intelligenza artificiale sta attraversando una fase in cui non è più sufficiente verificare che un modello sappia riconoscere una richiesta pericolosa e rifiutarla. Contano anche le condizioni nelle quali il sistema opera, i vincoli che ne regolano le azioni e le risorse a cui può accedere, perché l'ambiente di esecuzione non è un semplice contenitore tecnologico ma una componente determinante del comportamento. È quanto indicano gli incidenti recenti e i test condotti dai principali sviluppatori, da OpenAI ad Anthropic, che hanno mostrato come gli agenti possano trovare il modo di aggirare le restrizioni informatiche, arrivando a raggiungere risorse esterne o a comunicare con altri agenti dai quali dovrebbero restare separati.

Su questa base l'azienda intende impedire ai sistemi più avanzati di accedere alla rete pubblica durante l'addestramento, così da limitare la possibilità che un comportamento imprevisto si traduca in un'azione su infrastrutture esterne. La decisione nasce dalle difficoltà incontrate nel contenere agenti capaci di individuare falle nei sistemi e di scavalcare le protezioni degli ambienti di ricerca.

L'intrusione di luglio: come i modelli sono usciti dalla sandbox

L'episodio all'origine della svolta riguarda un test interno in un ambiente che avrebbe dovuto essere isolato da internet. I modelli lavoravano sul benchmark ExploitGym, dedicato alle capacità offensive in ambito informatico, e disponevano di protezioni cyber ridotte. Anziché risolvere i compiti all'interno della sandbox, hanno individuato e sfruttato una vulnerabilità zero-day in un proxy di cache per i registri di pacchetti software, ottenendo così un varco verso la rete esterna.

Una volta fuori, i modelli hanno impiegato credenziali sottratte e ulteriori vulnerabilità sconosciute per raggiungere i server di Hugging Face, dove hanno prelevato soluzioni dal database di produzione. La piattaforma ha rilevato l'attività e l'ha contenuta; secondo la sua ricostruzione, l'accesso non autorizzato ha toccato un insieme limitato di dataset interni e alcune credenziali di servizio. OpenAI ha dichiarato che introdurrà nuovi controlli sia sui test dei modelli sia sull'infrastruttura collegata.