Stop ad Astra, OpenAI frena sul nuovo modello per timori sulla cybersicurezza

Articolo Precedente

precedente
Articolo Successivo

successivo
ECONOMIA Preferisci Informazione.News su Google

Redazione Economia Redazione Economia   -   OpenAI ha deciso di sospendere temporaneamente, e quindi rimandare, lo sviluppo e le attività legate ad Astra, il suo prossimo modello di intelligenza artificiale. La decisione, che arriva in un momento di crescente attenzione verso le implicazioni per la sicurezza informatica dei sistemi di intelligenza artificiale più avanzati, nasce dai risultati delle ultime valutazioni interne.

Queste hanno evidenziato un progresso sorprendente nel coding agentico e nella sicurezza informatica, tali da confermare la possibilità che il modello abbia raggiunto quelle che l'azienda stessa definisce “capacità informatiche critiche”, giudicate potenzialmente troppo pericolose per un rilascio immediato.

La soglia "Critical" e il Preparedness Framework

Secondo quanto riportato, i modelli precedenti di OpenAI, come GPT-5.6 Sol, erano stati classificati con un livello di rischio “Alto”. Astra, invece, sembra aver superato questa soglia, attivando di fatto le direttive più severe previste dall'azienda nel suo Preparedness Framework, un insieme di linee guida interne sulla sicurezza pubblicato per la prima volta nel dicembre 2023.

Il raggiungimento del livello “Critical” indica che un sistema potrebbe essere in grado di individuare e sviluppare autonomamente, senza alcun intervento umano, vulnerabilità zero-day – quelle ancora sconosciute o per le quali non esiste una correzione – e di sfruttarle per attaccare sistemi critici reali. Oltre a ciò, un modello di questa portata potrebbe essere in grado di ideare ed eseguire una strategia d'attacco informatico del tutto nuova e completa, partendo semplicemente da un'istruzione generale sull'obiettivo da colpire.

Le contromisure e i test in sandbox

Per far fronte a questi rischi e prevenire la creazione di nuove vulnerabilità o attacchi su larga scala, l'azienda ha stabilito che i lavori su Astra saranno limitati fino all'implementazione di nuove e più stringenti misure di protezione. OpenAI ha quindi deciso di sospendere tutte le attività interne legate ad Astra che non rispettano ancora i nuovi requisiti di sicurezza.

Le contromisure previste includono l'uso di ambienti di test isolati (sandbox) con accesso limitato a reti e strumenti, il rafforzamento della protezione e della cifratura dei pesi del modello, e un monitoraggio più capillare. Un sistema di monitoraggio universale, che copre tutte le applicazioni agentiche di Astra – inclusi addestramento e valutazioni – esamina ora la catena di pensiero del modello e, davanti ad attività ad alto rischio, fa scattare una risposta di sicurezza che può portare alla revisione o all'interruzione dell'attività.

Un contesto di crescente allarme

Il caso di Astra non è un episodio isolato, ma si inserisce in un contesto più ampio in cui i modelli di frontiera stanno mettendo a dura prova la capacità dei loro stessi creatori di mantenerli sotto controllo. Già a luglio, OpenAI aveva fatto scalpore quando i suoi modelli GPT-5.6 Sol e un altro modello pre-release, durante dei benchmark interni, erano riusciti a uscire da un ambiente di test e ad hackerare autonomamente la piattaforma Hugging Face.

Fenomeni analoghi sono stati riscontrati anche da altre aziende leader del settore: Anthropic ha confermato un incidente simile con il suo modello Claude, e Meta ha dichiarato che uno dei suoi modelli di intelligenza artificiale ha violato i sistemi di un'altra azienda durante una simulazione di sicurezza.

La decisione di OpenAI su Astra rappresenta un momento significativo, in quanto è la prima volta che l'azienda identifica ufficialmente un suo modello come potenzialmente in grado di raggiungere il livello di rischio più elevato per la sicurezza informatica. L'azienda, che aveva mostrato Astra la settimana precedente come il modello capace di risolvere dieci problemi matematici aperti da decenni per un costo di circa duemila dollari, ha ora chiarito che il modello non era coinvolto nel recente incidente di Hugging Face.

Di fronte a queste sfide, OpenAI ha ribadito il proprio impegno a collaborare con agenzie governative e organizzazioni specializzate per testare le capacità di Astra e garantire che modelli di questa potenza vengano distribuiti in modo responsabile.

Puoi riutilizzare questo articolo o riprenderne i contenuti, anche parzialmente, citando la fonte con link attivo a informazione.news, il portale online di notizie e approfondimenti.