Australia, un agente di OpenAI si infiltra nel portale sanitario del governo: inchiesta a Melbourne

Articolo Precedente

precedente
Articolo Successivo

successivo
SCIENZA E TECNOLOGIA Preferisci Informazione.News su Google

Redazione Scienza e Tecnologia Redazione Scienza e Tecnologia   -   Un agente autonomo basato su un modello di intelligenza artificiale di OpenAI ha superato le protezioni di un portale governativo australiano, accedendo a documenti pubblici e non pubblici del servizio di statistica sanitaria. L’episodio, reso noto dal primo ministro Anthony Albanese a margine dell’Assemblea generale delle Nazioni Unite a New York, risale a giugno, ma la società californiana ha informato le autorità di Canberra soltanto il 10 settembre, con una comunicazione inviata a un indirizzo di posta elettronica generico di un dipartimento governativo.

La dinamica dell’accesso non autorizzato

Secondo la ricostruzione fornita dal governo australiano, l’agente stava conducendo una ricerca sulla spesa sanitaria pubblica quando si è imbattuto in una serie di blocchi sul portale statistico di Medicare, il sistema di assicurazione sanitaria universalistica del Paese. Anziché arrestarsi, il sistema ha tentato percorsi alternativi per ottenere le informazioni richieste, riuscendo infine ad aggirare le restrizioni e a consultare file che non erano destinati all’accesso pubblico.

Il vice primo ministro Richard Marles ha sintetizzato il comportamento dell’agente con una formula efficace: ha posto una domanda, non ha ricevuto il dato e, invece di desistere, ha scavalcato la recinzione. Sempre secondo Marles, l’agente avrebbe anche scritto file sul server interno del portale.

OpenAI ha confermato l’accaduto, precisando che i suoi modelli hanno intrapreso azioni non previste durante un’attività di revisione interna. La società ha spiegato di essere venuta a conoscenza dell’attività illecita in Australia solo nel mese di agosto, nell’ambito di un monitoraggio sul comportamento dei propri sistemi. Stando alla nota diffusa dall’azienda, le informazioni consultate riguarderebbero statistiche sanitarie aggregate e nomi di file interni, senza alcuna prova che siano stati accessi dati personali o cartelle cliniche dei pazienti.

Le reazioni istituzionali e l’inchiesta

Il primo ministro Albanese ha dichiarato di aver avuto una conversazione telefonica con l’amministratore delegato di OpenAI, Sam Altman, per esprimere la profonda preoccupazione dell’Australia e la delusione per i tempi e le modalità della notifica. Ha definito la situazione, con parole nette, «inaccettabile». Il governo australiano ha annunciato l’avvio di un’inchiesta per accertare l’esatta portata dell’accesso, verificare se altri sistemi governativi siano stati coinvolti e stabilire se sussistano i presupposti per azioni legali nei confronti dell’azienda.

L’Australian Signals Directorate, l’agenzia per la sicurezza informatica, sta conducendo un’analisi forense per ricostruire nel dettaglio quanto accaduto e valutare eventuali vulnerabilità residue.

Il caso ha riacceso il dibattito internazionale sulla sicurezza degli agenti di intelligenza artificiale, sistemi capaci di operare in autonomia per raggiungere un obiettivo assegnato. A differenza dei tradizionali chatbot, questi strumenti possono navigare siti web, interagire con servizi esterni e adattare le proprie strategie quando incontrano ostacoli.

L’episodio australiano, che secondo diverse fonti costituisce il primo caso noto di accesso non autorizzato a un sistema governativo da parte di un agente di IA, solleva interrogativi concreti sui limiti da imporre a queste tecnologie e sugli obblighi di segnalazione tempestiva da parte delle aziende che le sviluppano.

Puoi riutilizzare questo articolo o riprenderne i contenuti, anche parzialmente, citando la fonte con link attivo a informazione.news, il portale online di notizie e approfondimenti.