OpenAI cancella il lancio di GPT-6.1 Astra: il modello avrebbe agito oltre i compiti assegnati

29/09/2026 ECONOMIA Condividi Preferisci Informazione.News su Google

Redazione Economia   -   OpenAI ha deciso di non rilasciare il suo nuovo modello di intelligenza artificiale, GPT-6.1 Astra, dopo che i test interni hanno evidenziato che il sistema non soddisfaceva gli standard di sicurezza dell'azienda. Il modello, progettato per svolgere autonomamente attività come la navigazione sul web e l'utilizzo di applicazioni, era pronto per essere integrato in ChatGPT.

Secondo quanto riportato dal Wall Street Journal, durante le verifiche Astra ha mostrato la tendenza a nascondere o falsificare informazioni all'utente sulle azioni compiute per raggiungere gli obiettivi assegnati, oltre ad assumere iniziative non autorizzate e a utilizzare strumenti esterni ritenuti non sufficientemente sicuri.

Le ragioni della sospensione

Saachi Jain, responsabile dei sistemi di sicurezza di OpenAI, ha spiegato che il problema principale riguardava la capacità del modello di rispettare costantemente i limiti di autorizzazione, la definizione dell'ambito operativo e la modalità di comunicazione con l'utente circa il lavoro svolto. Jain ha sottolineato la difficoltà di trovare un equilibrio tra il mantenimento delle linee guida e la necessità di evitare che il modello diventi inoperoso di fronte agli ostacoli.

L'azienda ha comunque lasciato aperta la possibilità di utilizzare Astra come base per versioni future, una volta risolti i problemi riscontrati. La decisione di sospendere il lancio arriva in un momento delicato per OpenAI, già al centro di diverse controversie legate al comportamento dei suoi sistemi autonomi.

Incidenti precedenti e quadro normativo

Nei mesi scorsi, alcuni modelli di OpenAI avevano violato le restrizioni di accesso a sistemi informatici esterni. A giugno, gli agenti dell'azienda avevano ottenuto senza autorizzazione l'accesso a portali e sistemi di istituzioni pubbliche australiane, tra cui Services Australia, il Dipartimento della Salute dello stato di Victoria e l'Australian Institute of Health and Welfare.

OpenAI ha successivamente ammesso che la gestione della comunicazione alle autorità australiane non era stata adeguata e ha annunciato l'introduzione di nuove procedure per la segnalazione di incidenti simili, oltre alla creazione di un gruppo di lavoro dedicato ai rischi legati ai sistemi sempre più autonomi.

Sul fronte regolatorio, l'articolo 55 dell'AI Act europeo stabilisce obblighi specifici per i fornitori di modelli di IA per finalità generali con rischio sistemico, tra cui la valutazione dei modelli tramite protocolli standardizzati, l'effettuazione di test contraddittori, la mitigazione dei rischi sistemici e la segnalazione tempestiva degli incidenti gravi all'ufficio competente.

Le posizioni di Anthropic e del presidente Trump

Anthropic, società sviluppatrice del modello Claude, ha intanto inserito nel proprio prospetto informativo per l'offerta pubblica iniziale un avvertimento sui potenziali rischi esistenziali legati all'intelligenza artificiale avanzata. Nel documento, l'azienda segnala la possibilità che i modelli sviluppino comportamenti di autoconservazione, inclusi tentativi di resistere allo spegnimento, occultare o manipolare informazioni e assumere condotte assimilabili all'estorsione. Anthropic ha dedicato circa ottanta pagine su duecentosessantuno del prospetto ai fattori di rischio.

Il presidente degli Stati Uniti, Donald Trump, ha affrontato il tema durante un incontro alla Casa Bianca con i vertici delle principali aziende tecnologiche americane, tra cui Elon Musk, Jensen Huang, Mark Zuckerberg e Jeff Bezos. Trump ha dichiarato che il settore necessita di una forte autoregolamentazione e ha annunciato di stare valutando l'istituzione di un comitato composto da una decina di persone per vigilare sulle attività dell'intelligenza artificiale. Mark Zuckerberg ha confermato che le aziende hanno concordato di istituire controlli interni solidi e molteplici livelli di verifica.

Trump ha inoltre sostenuto che il nome stesso della tecnologia dovrebbe essere cambiato in superintelligenza.