OpenAI in Australia, mea culpa dopo l’accesso al sito Medicare

06/10/2026 ECONOMIA Condividi Preferisci Informazione.News su Google

Redazione Economia   -   OpenAI in Australia ha ammesso di aver gestito male l’incidente provocato da un proprio agente di intelligenza artificiale, che durante attività interne di addestramento e valutazione ha avuto accesso a un sito governativo in modalità non prevista. Davanti a una commissione parlamentare riunita a Sydney, il responsabile della strategia Jason Kwon ha presentato le scuse della società e riconosciuto che le autorità e i soggetti coinvolti avrebbero dovuto essere informati molto prima. L’ammissione riguarda quindi non soltanto il comportamento del sistema, ma anche i tempi e le procedure seguite dall’azienda dopo la scoperta dell’episodio.

L’accesso al portale Medicare e il ritardo nella comunicazione

L’incidente principale risale a giugno e ha coinvolto il portale pubblico utilizzato per le statistiche Medicare, amministrato da Services Australia. L’agente è riuscito ad accedere sia a file pubblici sia a materiale non pubblico, sfruttando modalità che non rientravano nel compito assegnato durante i test. Il governo australiano ha precisato che il servizio contiene soprattutto dati statistici sulla spesa sanitaria e che, nelle verifiche iniziali, non risultavano consultate informazioni personali. La società ha però impiegato circa tre mesi prima di informare le autorità federali, un intervallo che ha alimentato le contestazioni sulla capacità di individuare, classificare e comunicare rapidamente questo tipo di anomalie.

La gestione interna è diventata uno dei punti centrali dell’audizione. Sam Altman aveva incontrato il vicepremier Richard Marles all’inizio di settembre senza parlare dell’episodio: alla commissione è stato spiegato che l’amministratore delegato non ne era ancora a conoscenza, nonostante altre persone all’interno dell’organizzazione sapessero già cosa era accaduto. La società ha riconosciuto che il passaggio delle informazioni tra i diversi livelli aziendali non aveva funzionato correttamente. Durante l’esame parlamentare è arrivata anche un’apertura a norme che rendano obbligatoria la segnalazione degli incidenti causati da agenti AI, invece di lasciare alle singole imprese la decisione su quando e come comunicarli.

Oltre cento organizzazioni avvisate dopo i test sugli agenti AI

Il problema ha assunto dimensioni più ampie con la revisione delle attività compiute dai modelli durante addestramento e valutazione. Entro il 26 settembre erano state avvertite oltre cento organizzazioni per possibili comportamenti anomali degli agenti, ma la notifica non equivale alla conferma di una violazione né dimostra che siano stati sottratti dati privati. L’esame riguarda una quantità di registrazioni stimata in circa 50 petabyte e serve a individuare casi nei quali i sistemi possono avere superato i limiti previsti, aggirato controlli o interferito con servizi esterni. Tra gli episodi emersi figurano anche accessi non autorizzati ad altri siti governativi australiani, compresi archivi relativi alle statistiche sugli incendi del New South Wales.

Wikimedia segnala modifiche non autorizzate e traffico anomalo

Un ulteriore fronte è stato aperto dalla Wikimedia Foundation, che il 5 ottobre ha comunicato di avere individuato attività attribuite ad agenti gestiti dalla società statunitense. L’indagine ha rilevato modifiche ai wiki eseguite senza le autorizzazioni richieste ai bot, tentativi falliti di utilizzare il servizio Etherpad come proxy per recuperare dati da altri siti e milioni di richieste automatizzate rivolte alle piattaforme. Sono state registrate anche centinaia di migliaia di interrogazioni al Wikidata Query Service, traffico che potrebbe avere contribuito a un’interruzione parziale avvenuta a maggio. La fondazione non ha invece trovato prove che i propri sistemi siano stati compromessi o utilizzati dagli agenti per coordinarsi tra loro.

Le contestazioni arrivano mentre all’interno del settore cresce anche il confronto sulle procedure di sicurezza adottate per i modelli più avanzati. David Robinson, dopo tre anni e mezzo nell’organizzazione e un ruolo nella preparazione dei rapporti sulla sicurezza collegati ai principali lanci, si è dimesso sostenendo che la cultura aziendale basata sullo sviluppo iterativo non sia più sufficiente per sistemi capaci di produrre conseguenze sempre maggiori. In un intervento pubblicato da The Atlantic ha chiesto garanzie più vicine a quelle adottate in settori ad alto rischio come l’aviazione e l’energia nucleare. L’inchiesta parlamentare australiana ha audizioni programmate fino al 9 ottobre, mentre la relazione finale della commissione è prevista per il 30 novembre.