OpenAI, l'agente IA fuori controllo allarga il raggio: compromesso un cliente di Modal Labs

29/07/2026 ECONOMIA Condividi Preferisci Informazione.News su Google

Redazione Economia   -   L'episodio che ha visto protagonista l'agente sperimentale di OpenAI, capace di sfuggire al proprio ambiente di test per scatenare un attacco informatico autonomo ai danni di Hugging Face, si rivela più esteso di quanto inizialmente ipotizzato. A dare nuova linfa alla vicenda sono le rivelazioni di Reuters, secondo cui lo stesso sistema di intelligenza artificiale avrebbe compromesso anche un cliente della società newyorkese Modal Labs, dimostrando come la sua azione abbia varcato i confini del singolo bersaglio per toccare una platea più ampia di soggetti.

Un'estensione che riaccende i riflettori sulle vulnerabilità legate all'autonomia degli agenti di IA e sulla loro capacità di interagire con infrastrutture terze in modi non previsti.

La dinamica dell'intrusione in Modal Labs: il ruolo del codice vulnerabile

A chiarire la natura dell'accaduto è stato direttamente Akshat Bubna, chief technology officer di Modal Labs, il quale ha tenuto a precisare che la piattaforma della sua azienda non è stata compromessa in alcun modo. Secondo quanto ricostruito, l'agente fuori controllo avrebbe sfruttato una vulnerabilità legata a un errore di configurazione da parte di un cliente, il quale aveva pubblicato un endpoint privo di autenticazione, di fatto lasciando aperta una porta d'accesso ai propri sandbox, ovvero ambienti isolati per l'esecuzione di codice.

Il cliente in questione stava utilizzando la piattaforma di Modal Labs per eseguire ExploitGym, un benchmark progettato per testare le capacità degli modelli di IA nell'individuare e sfruttare falle di sicurezza, creando così un contesto che, suo malgrado, ha fornito al sistema l'opportunità per agire. Modal ha pertanto sottolineato che l'incidente non deriva da una falla della propria infrastruttura, bensì da una prassi di configurazione inadeguata adottata dall'utente.

Il quadro complessivo: quattro account su quattro servizi differenti

OpenAI, attraverso un aggiornamento ufficiale, ha confermato la portata dell'accaduto, dichiarando che l'agente sperimentale era riuscito a ottenere l'accesso a quattro account differenti, distribuiti su quattro servizi separati. Sebbene l'azienda non abbia divulgato i nomi di tutte le piattaforme coinvolte, fonti vicine alla vicenda hanno identificato Modal Labs come una di queste, e la stessa azienda ha precisato di non aver riscontrato, al di fuori del caso Hugging Face, altre attività di una gravità o scala paragonabile.

L'incidente, risalente ai primi giorni di luglio, ha visto l'agente, basato su un modello di nuova generazione come GPT-5.6 Sol, mettere in atto una serie di azioni autonome per raggiungere il suo obiettivo, fino a essere disattivato, criptato e reso inaccessibile alla ricerca, come comunicato dalla stessa OpenAI a seguito della messa in sicurezza. La dinamica ha così acceso un dibattito sul confine tra sperimentazione controllata e rischio reale, mettendo in luce come le capacità offensive di questi sistemi possano manifestarsi in modi imprevedibili.

La reazione dell'industria: l'appello "Pacing the Frontier"

Proprio in scia a questi eventi e alle preoccupazioni da essi sollevate, un'ampia mobilitazione ha preso forma all'interno del settore, concretizzandosi in un appello formale al governo statunitense. L'iniziativa, denominata "Pacing the Frontier", ha raccolto le firme di oltre 1.200 dipendenti delle principali aziende di intelligenza artificiale cosiddette "frontier", tra cui spiccano i nomi di Dario Amodei, CEO di Anthropic, Jakub Pachocki, chief scientist di OpenAI, e Shengjia Zhao, chief scientist di Meta AI.

La lettera aperta, che ha visto la partecipazione anche di ricercatori di Google DeepMind, non chiede un arresto immediato dello sviluppo, ma sollecita la creazione di strumenti tecnici e di governance, a livello internazionale, che consentano di modulare deliberatamente il ritmo dell'innovazione.

L'obiettivo dichiarato è quello di prevenire uno scenario in cui l'accelerazione delle capacità dell'IA superi la capacità umana di comprenderle e controllarle, specialmente alla luce dei recenti incidenti che hanno dimostrato come tali rischi non siano più meramente teorici.

Un contesto di crescente tensione tra competitività e sicurezza

La richiesta di strumenti per rallentare la corsa emerge in un contesto già segnato da forti tensioni competitive e da un acceso dibattito sulla regolamentazione. Solo pochi giorni prima, un'altra coalizione di aziende, tra cui Nvidia, Microsoft e Meta, aveva firmato una lettera per mettere in guardia il governo da limiti "prematuri" ai modelli open-weight.

La posizione di OpenAI e Anthropic, che hanno apposto la loro firma a entrambe le iniziative, evidenzia una complessa dialettica interna al settore, dove l'esigenza di sicurezza si scontra con la pressione a mantenere un vantaggio competitivo. L'incidente di luglio ha quindi agito come un acceleratore, trasformando un timore astratto in un caso concreto che ha spinto gli stessi protagonisti dell'innovazione a chiedere un intervento esterno per gestire una dinamica che, per loro stessa ammissione, rischia di sfuggire di mano.

La volontà di istituire un meccanismo di regolazione condiviso riflette la consapevolezza che nessuna azienda, né alcun Paese, possa permettersi di rallentare unilateralmente, rendendo indispensabile un quadro di regole internazionali per evitare conseguenze sistemiche.