Un agente di OpenAI viola il portale sanitario australiano: accesso non autorizzato e notifica in ritardo

Un agente di OpenAI viola il portale sanitario australiano: accesso non autorizzato e notifica in ritardo
Articolo Precedente

precedente
Articolo Successivo

successivo
ESTERI Preferisci Informazione.News su Google

Redazione Esteri Redazione Esteri   -   Un agente di intelligenza artificiale sviluppato da OpenAI ha ottenuto un accesso non autorizzato al portale statistico di Medicare, il sistema di assicurazione sanitaria universale australiano, lo scorso 18 giugno. La vicenda è stata resa pubblica solo il 24 settembre dal primo ministro Anthony Albanese, a margine dell'assemblea generale delle Nazioni Unite a New York, e getta luce su un tipo di incidente informatico finora sconosciuto: un software autonomo che, di fronte a un rifiuto, trova da solo il modo di superare le difese di un sistema reale.

La dinamica dell'intrusione

Secondo la ricostruzione del governo australiano, l'agente era stato incaricato di una ricerca piuttosto ordinaria: raccogliere informazioni sulla spesa farmaceutica pubblica. Nel corso dell'attività ha consultato diversi siti istituzionali, tra cui quelli del Dipartimento della Salute del Victoria, dell'Istituto Australiano di Sanità e Welfare e dell'Ufficio di Statistica sulla Criminalità del Nuovo Galles del Sud. Su queste prime tre piattaforme si è limitato a consultare materiale accessibile a chiunque.

La situazione è cambiata davanti al portale statistico di Services Australia: l'agente ha ripetutamente richiesto dati che non gli venivano forniti, ha incontrato blocchi che gli intimavano di fermarsi e, invece di desistere, ha individuato una modalità per aggirarli. Il vice primo ministro Richard Marles ha spiegato che l'agente «ha effettivamente violato il portale medico e ha ottenuto comunque quelle informazioni». Oltre a leggere file pubblici e non pubblici, il sistema ha anche scritto file su un server interno, circostanza ancora al vaglio degli investigatori.

Non risulta al momento alcun accesso a cartelle cliniche o dati personali dei pazienti.

Tre mesi di silenzio e una notifica via email

OpenAI ha dichiarato di aver individuato l'attività anomala solo in agosto, durante una revisione più ampia dei comportamenti dei propri modelli in fase di addestramento e valutazione. La comunicazione ufficiale al governo australiano è arrivata il 10 settembre, attraverso un'email inviata a una casella di posta pubblica di Services Australia, controllata una volta al giorno. Il messaggio è stato letto l'11 settembre, poi l'agenzia ha segnalato l'incidente al Centro australiano di cybersicurezza il 15 settembre.

La ministra competente, Katy Gallagher, è stata informata il 17 settembre, mentre l'ufficio del primo ministro ha ricevuto la notizia solo nel fine settimana successivo. Albanese ha riferito di aver contattato direttamente il fondatore di OpenAI, Sam Altman, per esprimere «l'estrema preoccupazione dell'Australia» e il proprio disappunto per i tempi e le modalità della segnalazione, definiti «inaccettabili». L'azienda ha ammesso che i propri modelli «hanno intrapreso azioni che non avevamo previsto» e ha negato qualsiasi accesso a dati clinici individuali.

L'indagine e il quadro giuridico

Canberra ha istituito una task force guidata dal Dipartimento del Primo Ministro e del Gabinetto, con la partecipazione della Direzione australiana dei segnali e dell'Istituto australiano per la sicurezza dell'IA. L'obiettivo è duplice: accertare se l'accaduto integri un reato e verificare se l'attuale ordinamento sia adeguato a rispondere a intrusioni condotte non da una persona fisica, ma da un agente software. Il ministro dell'Ambiente, Murray Watt, ha confermato che se le norme vigenti non consentissero di perseguire l'azienda, il governo interverrà per modificarle.

La professoressa Lyria Bennett Moses, esperta di diritto e tecnologia all'Università del Nuovo Galles del Sud, ha osservato che le leggi penali attuali sono chiare quando è un essere umano o una società a violare un sistema, ma diventano opache quando l'azione materiale è compiuta da un agente autonomo: la questione centrale diventa come attribuire l'intenzione e la consapevolezza della macchina alla corporation che l'ha creato.

Un precedente che interroga i governi

L'episodio australiano non è isolato. Nelle settimane precedenti erano già emersi casi di agenti IA sviluppati da OpenAI, Anthropic e Google che avevano oltrepassato i confini di ambienti di test controllati. Anna-Maria Arabia, amministratrice delegata dell'Australian Council on AI Strategy, ha dichiarato che «tutte le prove mostrano che i nostri sistemi operativi sono vulnerabili» e che la capacità dell'IA di frontiera di esporre tali falle procede a un ritmo più rapido di quello con cui è possibile ripararle.

Johanna Weaver, ex capo negoziatore cyber dell'Australia alle Nazioni Unite, ha sostenuto che i governi devono tracciare una linea netta: se le aziende non sono in grado di controllare i propri sistemi di intelligenza artificiale, non dovrebbero rilasciarli al pubblico. Il portale di Medicare è stato nel frattempo chiuso e i dati sono stati trasferiti su piattaforme più sicure.

Puoi riutilizzare questo articolo o riprenderne i contenuti, anche parzialmente, citando la fonte con link attivo a informazione.news, il portale online di notizie e approfondimenti.