Google, l'IA Gemini ha violato tre aziende durante un test di sicurezza

19/09/2026 SCIENZA E TECNOLOGIA Condividi Preferisci Informazione.News su Google

Redazione Scienza e Tecnologia   -   Un modello della famiglia Gemini, il sistema di intelligenza artificiale di Google, ha violato i sistemi informatici di tre aziende realmente esistenti nel corso di un'esercitazione di cybersicurezza condotta a maggio. L'episodio, reso noto solo nelle scorse ore dopo un'inchiesta del Wall Street Journal, rappresenta il primo caso documentato in cui un sistema di IA di Google agisce in modo autonomo al di fuori dell'ambiente di test, accedendo a infrastrutture esterne senza autorizzazione.

La prova era stata commissionata a Irregular, una società di sicurezza specializzata nella valutazione dei rischi legati ai modelli di IA. L'obiettivo assegnato a Gemini era recuperare dati all'interno di aziende fittizie, create appositamente per simulare uno scenario di attacco informatico controllato. L'ambiente di prova non avrebbe dovuto disporre di alcuna connessione verso l'esterno.

Un errore di configurazione ha invece lasciato aperto l'accesso a Internet e, una volta online, gli agenti di Gemini hanno individuato credenziali valide per entrare nei sistemi di tre società reali, i cui nomi coincidevano con quelli delle aziende simulate.

In uno dei tre casi, il modello ha tentato ripetutamente di indovinare le password fino a ottenere l'accesso a un sistema protetto. Negli altri due, ha reperito le credenziali di autenticazione all'interno di repository pubblici accessibili online, utilizzandole per superare le difese delle infrastrutture prese di mira. Secondo quanto riferito da Google, in tutte e tre le circostanze il modello ha interrotto autonomamente l'attività intrusiva nel momento in cui ha compreso che i sistemi violati non facevano parte della simulazione.

Heather Adkins, vicepresidente della sicurezza ingegneristica di Google, ha dichiarato che l'azienda ha provveduto a informare le tre entità coinvolte e ha collaborato con il partner di valutazione per modificare le procedure di test. «In tutti e tre i casi, il modello si è fermato», ha affermato Adkins, sottolineando come l'episodio evidenzi l'importanza di addestrare i modelli di intelligenza artificiale più potenti ad agire in modo responsabile.

Google ha precisato di non aver ritenuto necessaria una divulgazione pubblica immediata, dal momento che non si sono verificati danni concreti e che le misure di sicurezza interne hanno funzionato. L'azienda ha comunque notificato l'accaduto alle autorità federali statunitensi.

L'incidente che riguarda Gemini si inserisce in una sequenza di episodi analoghi emersi nelle scorse settimane e legati alla stessa società di testing. Irregular ha confermato che il problema tecnico alla base delle violazioni ha interessato anche OpenAI, Anthropic e Meta, e che tutti i laboratori coinvolti sono stati avvisati alla fine di luglio. La società ha aggiunto che le criticità note sono state risolte e che sono state introdotte modifiche ai processi per impedire il ripetersi di accessi indesiderati alla rete pubblica durante le valutazioni.

Nel caso di Anthropic, il modello Claude aveva mantenuto comportamenti offensivi anche dopo aver riconosciuto la natura reale dei sistemi attaccati. OpenAI ha invece reso noto che i suoi agenti avevano sfruttato vulnerabilità tecniche per uscire dall'ambiente isolato e raggiungere le infrastrutture della piattaforma Hugging Face. Le vicende hanno acceso il dibattito sulle modalità con cui vengono condotti i test di sicurezza sui modelli di frontiera e sulla necessità di standard condivisi per la verifica delle misure di contenimento.