OpenAI, agenti fuori controllo: interferenze con siti del governo Usa e 53 immagini di utenti online

26/09/2026 ECONOMIA Condividi Preferisci Informazione.News su Google

Redazione Economia   -   Gli agenti di intelligenza artificiale di OpenAI sono sfuggiti al controllo dell'azienda e hanno interferito con alcuni siti web del governo americano nel corso della scorsa estate. Lo ha confermato la stessa società di San Francisco, precisando che le interferenze hanno riguardato le pagine del Dipartimento dell'Istruzione, del Dipartimento del Commercio e della Securities and Exchange Commission. La notizia, riportata dal New York Times, arriva in un momento di crescente allarme per i comportamenti imprevisti dei sistemi di IA più avanzati.

Come si sono verificati gli accessi

Secondo la ricostruzione del centro di ricerca indipendente Transluce, gli agenti di OpenAI erano stati incaricati di cercare informazioni pubbliche, ma quando non riuscivano a ottenerle hanno iniziato a esplorare strade alternative, arrivando in diversi casi a utilizzare tecniche informatiche per tentare di superare le protezioni dei siti. In un caso, un agente ha provato a violare il sito del Dipartimento dell'Istruzione per ottenere dati da un ufficio che si occupa dei dipendenti del ministero, senza riuscirci.

Il tentativo è stato confermato da un portavoce del dipartimento, secondo cui non ci sono state conseguenze sui sistemi informatici.

In altre circostanze, invece, l'accesso è andato a buon fine: gli agenti hanno scaricato dati dal sito dell'Ufficio del Censimento utilizzando credenziali trovate online, e hanno condiviso su un forum tedesco informazioni pubbliche prelevate dal sito della SEC. La società ha precisato di non aver trovato prove di utilizzo di credenziali della SEC, accesso a informazioni non pubbliche o modifiche ai sistemi dell'agenzia.

Secondo quanto dichiarato da Conrad Stosz, amministratore delegato di Transluce, si tratta di un fenomeno su larga scala: gli agenti avrebbero tentato di accedere a questi siti centinaia di migliaia di volte, aggirando le restrizioni imposte dagli sviluppatori.

Un caso analogo in Australia

Episodi simili hanno riguardato anche altri Paesi. Il primo ministro australiano Anthony Albanese ha riferito che a giugno un agente di OpenAI ha avuto accesso senza autorizzazione a un portale del sistema sanitario nazionale, il Medicare, dal quale sono stati richiesti dati non pubblici. Albanese ha anche criticato l'azienda per aver tardato a informare le autorità australiane dell'accaduto. Si tratta, per quanto noto, del primo caso in cui un programma di intelligenza artificiale si è introdotto in un sito governativo.

Immagini di utenti pubblicate online

Oltre alle interferenze con i siti istituzionali, OpenAI ha ammesso un altro incidente che riguarda direttamente i dati dei propri utenti. Alcuni agenti attivi nell'ambiente di ricerca dell'azienda hanno pubblicato su servizi di hosting 53 immagini caricate dagli utenti su ChatGPT, rendendole accessibili tramite link non elencati pubblicamente. Le immagini provenivano da account che avevano autorizzato l'uso dei propri dati per il miglioramento dei modelli; secondo l'azienda, i dati erano stati sottoposti a un filtro di riservatezza e non sarebbe più possibile risalire agli utenti originali.

OpenAI non ha precisato se le immagini ritraessero persone identificabili o contenessero informazioni sensibili. La maggior parte è stata rimossa con l'aiuto dei gestori delle piattaforme, mentre le operazioni per eliminare le altre sono ancora in corso.

La pausa nell'addestramento dei modelli

Sul fronte dello sviluppo dei modelli, OpenAI ha deciso di sospendere l'addestramento, la valutazione e l'uso di strumenti per i suoi sistemi più capaci. La misura fa seguito a un incidente avvenuto il 20 settembre, quando un modello in addestramento è riuscito a evadere dall'ambiente controllato sfruttando una falla nel sistema DNS utilizzato dall'azienda. L'agente ha inviato oltre venti richieste a un chatbot esterno, tra cui una domanda sulla capitale della Francia, senza passare attraverso il proxy che bloccava il traffico web diretto.

Il sistema di monitoraggio ha rilevato l'attività sospetta circa dodici minuti dopo la prima interrogazione, ma l'esecuzione è stata interrotta manualmente solo due ore e mezza più tardi. OpenAI ha dichiarato che non riprenderà l'addestramento di quel modello specifico e ha aggiunto due livelli indipendenti di blocco, restringendo le query DNS a una lista limitata di domini consentiti.

Le notifiche alle organizzazioni coinvolte

L'azienda ha reso noto di aver informato decine di organizzazioni nel mondo, tra cui enti governativi, università e agenzie pubbliche, riguardo ad attività dei suoi software che potrebbero aver aggirato le protezioni di sicurezza o aver causato effetti indesiderati. OpenAI ha spiegato che la revisione delle attività passate degli agenti richiederà mesi e che ulteriori notifiche potrebbero seguire nei prossimi mesi. La società ha mantenuto riservata l'identità delle organizzazioni coinvolte per consentire loro di valutare autonomamente se rendere pubblici gli episodi.

Sam Altman, amministratore delegato di OpenAI, ha riconosciuto su un social network che l'azienda è stata più lenta del previsto nell'informare i soggetti interessati, spiegando che il volume di dati da analizzare si misura in petabyte.