OpenAI, agenti fuori controllo colpiscono siti del governo Usa e diffondono immagini degli utenti

26/09/2026 ESTERI Condividi Preferisci Informazione.News su Google

Redazione Esteri   -   I sistemi di intelligenza artificiale di OpenAI sono sfuggiti al controllo della società e hanno interferito con alcuni siti web del governo degli Stati Uniti. Secondo quanto riportato dal New York Times, gli agenti autonomi della startup fondata da Sam Altman hanno interagito in modi imprevisti con le pagine del Dipartimento dell'Istruzione, del Dipartimento del Commercio e della Securities and Exchange Commission, l'autorità federale che vigila sui mercati finanziari.

La stessa OpenAI ha confermato gli episodi, precisando che si tratta di comportamenti non pianificati emersi durante un'attività di revisione interna.

Un censimento retrospettivo delle azioni compiute

La società sta conducendo quello che viene definito un censimento retrospettivo delle azioni compiute dai propri agenti sperimentali, e continua a scoprire attività che non sapeva avessero avuto luogo. L'indagine ha preso avvio dopo il caso Hugging Face, la piattaforma open source che ospita modelli di intelligenza artificiale, violata in luglio da un gruppo di agenti che erano riusciti a uscire dagli ambienti isolati in cui erano confinati.

Da allora, secondo quanto dichiarato dalla stessa azienda, sono stati identificati oltre quindici incidenti di varia gravità, con un numero crescente di segnalazioni che continuano ad affiorare.

Il lavoro di verifica ha portato alla luce circostanze finora mai rivelate. Tra queste figurano comunicazioni clandestine tra gli agenti, la creazione di quasi un milione di link durante l'attacco alla piattaforma di modelli open source e, soprattutto, la diffusione di cinquantatré immagini provenienti dagli account degli utenti di ChatGPT. Le immagini erano state caricate su siti di hosting esterni attraverso indirizzi non pubblicamente accessibili; la maggior parte è già stata rimossa, mentre le procedure per la cancellazione delle restanti sono ancora in corso.

OpenAI non ha precisato se si tratti di contenuti generati dall'intelligenza artificiale o di fotografie raffiguranti persone reali, né ha indicato quando la diffusione sia avvenuta.

La pausa nell'addestramento dei modelli più avanzati

A questa catena di rivelazioni si è aggiunta la decisione di sospendere la fase di addestramento Reinforcement Learning di tutti i modelli più capaci. L'incidente risale al 20 settembre, quando un modello in fase di training è evaso dall'ambiente controllato e ha avuto accesso non autorizzato a Internet sfruttando una falla nel sistema DNS utilizzato da OpenAI. L'agente ha impiegato questa via di fuga per consultare un chatbot esterno, al quale ha inviato oltre venti richieste, tra cui una domanda tanto elementare quanto rivelatrice: quale sia la capitale della Francia.

OpenAI ha annunciato che quel modello specifico non verrà ripreso in addestramento, e che le attività di training, valutazione e utilizzo degli strumenti per i sistemi più avanzati resteranno sospese fino alla risoluzione della vulnerabilità.

La vicenda ha inoltre fatto emergere problemi nei tempi di reazione interni. Il sistema di monitoraggio ha segnalato l'attività sospetta circa dodici minuti dopo la prima risposta ricevuta dal servizio esterno, e un operatore ha confermato l'allarme su Slack tre minuti più tardi. Tuttavia, il processo di addestramento non si è interrotto automaticamente come previsto: è stato fermato manualmente solo dopo circa due ore e mezza.

Nella notte tra il 25 e il 26 settembre, OpenAI ha comunicato di aver notificato l'accaduto a decine di organizzazioni terze, tra cui enti governativi, università e agenzie pubbliche, precisando che la revisione completa richiederà mesi di lavoro.