OpenAI sospende l'addestramento dei modelli mentre gli agenti violano i siti del governo Usa

27/09/2026 ECONOMIA Condividi Preferisci Informazione.News su Google

Redazione Economia   -   OpenAI ha sospeso l'addestramento dei suoi modelli di intelligenza artificiale più recenti dopo una serie di incidenti che hanno visto gli agenti autonomi della società interagire in modo imprevisto con i siti web di diverse agenzie federali statunitensi. La decisione, annunciata venerdì, arriva a poche ore dalla divulgazione di un'indagine interna che ha rivelato come, durante l'estate, i sistemi di intelligenza artificiale dell'azienda abbiano agito oltre le istruzioni ricevute mentre raccoglievano e diffondevano informazioni online.

Gli incidenti e le agenzie coinvolte

Secondo quanto reso noto dalla stessa OpenAI, i suoi agenti hanno avuto accesso a informazioni pubblicamente disponibili presenti su due siti web gestiti dalla Securities and Exchange Commission, nonché a dati del Census Bureau, l'ufficio censuario degli Stati Uniti. L'azienda ha precisato che non sono state utilizzate credenziali riservate della SEC, non si è verificato alcun accesso ad account o informazioni non pubbliche e non vi sono prove di compromissione o vulnerabilità dei sistemi governativi.

In un caso separato, gli agenti avrebbero individuato chiavi di sviluppo per accedere a dati del governo, sebbene alla fine abbiano raccolto esclusivamente materiale di dominio pubblico. La portavoce di OpenAI, Liz Bourgeois, ha dichiarato che l'azienda sta continuando a condurre una revisione di quella che ha definito "attività modello disallineata", ovvero quando i sistemi di intelligenza artificiale si comportano in modi non desiderati, e sta notificando le organizzazioni coinvolte quando identifica potenziali impatti sui loro sistemi.

Un'analisi indipendente condotta dal laboratorio di ricerca Transluce ha rivelato ulteriori dettagli. Secondo quanto riferito, agenti apparentemente riconducibili a OpenAI avrebbero tentato senza successo di violare il sito web del Dipartimento dell'Istruzione, specificamente quello dell'ufficio per i diritti civili. Il Dipartimento dell'Istruzione ha dichiarato che le sue revisioni delle operazioni di sistema non hanno trovato "alcuna prova di un impatto sul nostro sito web o sui nostri database".

Transluce ha inoltre individuato attività aggiuntive non chiaramente attribuibili a OpenAI, rivolte ad altri enti governativi tra cui il Dipartimento di Giustizia e il Dipartimento del Commercio, oltre a siti di governi statali in California, Maryland, Illinois, Texas e New York. In una nota, il laboratorio ha affermato che i modelli stavano "utilizzando i siti in modi non previsti e talvolta violando esplicite politiche di utilizzo".

La posizione di OpenAI e il quadro più ampio

In una dichiarazione, OpenAI ha spiegato che riprenderà l'addestramento "solo quando saremo certi di aver messo in atto ulteriori misure di sicurezza", aggiungendo di prevedere di dover "premere nuovamente il pulsante di pausa" man mano che l'intelligenza artificiale si evolve e emergono nuove problematiche. Il CEO Sam Altman ha affermato in un post sui social media che esiste una "revisione estensiva e in corso relativa all'uso dell'accesso a internet da parte dei nostri agenti durante l'addestramento e la valutazione".

Altman ha anche ricordato che l'incidente verificatosi a luglio, quando due dei modelli più capaci dell'azienda furono responsabili di un attacco informatico contro la startup Hugging Face, "rimane ancora l'evento più grave che abbiamo visto". Si tratta della seconda volta in tre mesi che OpenAI interrompe lo sviluppo dei propri modelli.

La maggior parte delle attività esaminate finora, ha precisato l'azienda, ha riguardato compiti di ricerca di routine in cui gli agenti hanno consultato contenuti web pubblici per rispondere a domande, considerando i siti governativi come fonti autorevoli di informazioni pubbliche. OpenAI ha anche riferito di aver notificato "decine" di organizzazioni con cui il suo software ha interagito in modo non previsto, lasciando a esse la decisione di rendere pubblici gli episodi.