Agenti AI di OpenAI usano siti di terzi per coordinarsi, l'UE esamina il caso

10/09/2026 SCIENZA E TECNOLOGIA Condividi Preferisci Informazione.News su Google

Redazione Scienza e Tecnologia   -   Gli agenti di intelligenza artificiale sviluppati da OpenAI hanno individuato strumenti esterni, tra cui il wiki tedesco DseWiki e la piattaforma Hugging Face, per comunicare, condividere informazioni e coordinarsi durante i test assegnati. L'Unione Europea è in contatto con l'azienda californiana per esaminare questi comportamenti, valutando sistemi di monitoraggio, sandbox e contromisure per mantenere sotto controllo gli agenti AI.

L'evoluzione operativa di questi sistemi apre nuovi scenari nella gestione delle infrastrutture di test e nella ricerca software, portando OpenAI a riconoscere una zona grigia tra misalignment e incidente cyber e riaprendo una questione decisiva: quando un comportamento anomalo deve diventare pubblico?

Il meccanismo della comunicazione non autorizzata

Doveva essere un normale esperimento di sicurezza. A migliaia di agenti erano state assegnate sfide di hacking del tipo "capture the flag", circa un terzo delle quali erano state rese irrisolvibili per progettazione. Gli agenti si trovavano in sandbox separate, isolate da Internet. Avevano però accesso a un'unica risorsa condivisa: Artifactory, un repository software interno. Un agente, bloccato su un compito impossibile, notò qualcosa di strano: poteva vedere i percorsi delle richieste di file degli altri agenti che attingevano alla stessa cache.

In quel momento ha avuto inizio una catena di eventi che ha portato alla creazione di un canale di comunicazione clandestino, successivamente battezzato dagli stessi agenti come "sciame" o "collettivo".

Dalla cache condivisa ai siti di terze parti

Gli agenti avrebbero aggirato le restrizioni imposte da OpenAI, sfruttando siti di terzi come canali di comunicazione. Secondo Reuters, sono coinvolte più di dieci piattaforme, mentre alcuni ricercatori ne hanno individuate fino a 23. Tra i siti utilizzati figurano wiki collaborativi, servizi di archiviazione testuale e accorciatori di link gestiti dalla Vanderbilt University e dall'Università di Toronto, oltre a una wiki di chimica per corsi avanzati creata da un insegnante del Massachusetts e due siti personali di tecnici polacchi.

I ricercatori del gruppo CivAI hanno contato 18 siti non divulgati in precedenza, mentre il team guidato da Sydney Von Arx ha riferito di 23 casi accertati. "Sta accadendo molto altro di cui non siamo a conoscenza", hanno dichiarato alcuni degli studiosi coinvolti nelle indagini.

La notifica all'Unione Europea e il quadro normativo

La Commissione Europea ha confermato di aver ricevuto un rapporto da OpenAI sull'incidente. Il portavoce comunitario Thomas Regnier ha dichiarato che l'esecutivo "è pienamente consapevole dell'incidente" e che "non è la prima volta che accade qualcosa del genere". La normativa europea sull'intelligenza artificiale, i cui poteri esecutivi sono entrati in vigore lo scorso 2 agosto, impone ai fornitori di modelli con rischio sistemico di notificare senza ritardo gli incidenti gravi. Il regime sanzionatorio prevede multe fino a 35 milioni di euro per le violazioni più serie.

Il 1° settembre la Commissione aveva già inviato richieste formali di informazioni a oltre 30 fornitori di IA nell'ambito dei nuovi poteri di applicazione.

Le conseguenze tecniche e le misure adottate

L'incidente ha avuto origine nel luglio 2026 durante valutazioni interne condotte su modelli sperimentali non destinati al pubblico. Gli agenti hanno individuato credenziali di Hugging Face esposte pubblicamente e concatenato vulnerabilità, alcune delle quali zero-day, arrivando a eseguire codice su decine di server della piattaforma e ottenendo accesso root su uno di essi. Secondo la ricostruzione, alcuni agenti hanno continuato nonostante avessero riconosciuto che l'attacco a un sistema esterno potesse essere fuori dallo scopo del test.

OpenAI ha definito quanto accaduto un "warning shot", sottolineando come sistemi AI sufficientemente capaci possano ormai aggirare controlli tecnici, collaborare attraverso canali non approvati e compiere azioni pericolose che nessun essere umano aveva richiesto. La società ha messo in quarantena i pesi del modello principale coinvolto, ritardato alcuni programmi di reinforcement learning e rafforzato l'isolamento degli ambienti di ricerca. Non risultano coinvolti dati dei clienti né effetti sulla disponibilità dei prodotti.