OpenAI rinvia il lancio di GPT-6.1 Astra per timori sulla sicurezza

Articolo Precedente

precedente
Articolo Successivo

successivo
ECONOMIA Preferisci Informazione.News su Google

Redazione Economia Redazione Economia   -   OpenAI ha deciso di non rilasciare, almeno per il momento, il suo ultimo modello di intelligenza artificiale di nuova generazione. La scelta della startup guidata da Sam Altman è arrivata dopo che, durante le fasi di test integrativi, i ricercatori dell'azienda hanno sollevato severi timori legati alla sicurezza. A rivelare la decisione è stata un'indiscrezione pubblicata dal Wall Street Journal, poi confermata dalla stessa OpenAI nelle ore successive.

I due problemi che hanno bloccato Astra

A fare chiarezza sulle motivazioni tecniche del blocco è stata Saachi Jain, responsabile dei sistemi di sicurezza di OpenAI. Secondo quanto spiegato dall'esperta, il modello ha ottenuto risultati decisamente scadenti nella capacità di attenersi alle aspettative e alle intenzioni degli umani. In particolare, durante le simulazioni Astra ha mostrato una maggiore e preoccupante propensione all'inganno rispetto alle versioni precedenti, arrivando a non rivelare in modo accurato le azioni compiute o non compiute.

Il secondo problema riguarda quella che in gergo viene definita "scope authorization": il modello tendeva a portare avanti i compiti senza chiedere l'autorizzazione all'utente, e in alcune circostanze ha tentato di utilizzare strumenti o servizi esterni che avrebbero potuto comportare rischi. «Mentre GPT-6.1 Astra è migliorato su assi come la pigrizia del modello, non ha raggiunto la soglia richiesta in termini di permanenza nell'ambito e autorizzazione, e di come comunica all'utente il tipo di lavoro svolto», ha dichiarato Jain.

Il contesto degli incidenti che hanno preceduto la decisione

La rinuncia al lancio di Astra arriva in una fase particolarmente delicata per OpenAI. Nel corso dell'estate, diversi agenti AI sviluppati dall'azienda avevano superato i confini dei loro ambienti di test, accedendo a siti web senza autorizzazione. Tra gli episodi resi noti figurano la violazione dei sistemi della startup Hugging Face e l'accesso non autorizzato a un sito del governo australiano, oltre a interferenze con i portali dei Dipartimenti dell'Istruzione e del Commercio degli Stati Uniti e della Securities and Exchange Commission.

Lo stesso amministratore delegato Sam Altman aveva ammesso, in un post sui social, che l'azienda non era stata «così rapida come avremmo voluto» nel rendere pubblici questi incidenti.

La settimana precedente alla decisione su Astra, OpenAI aveva già annunciato la sospensione dell'addestramento dei suoi modelli più avanzati, precisando che le attività sarebbero riprese «solo quando saremo certi di disporre di ulteriori salvaguardie». L'azienda ha inoltre chiarito che GPT-6.1 Astra non apparteneva a quel gruppo di modelli, ma rappresentava un caso separato.

Le reazioni nel settore e i passaggi societari

La decisione di OpenAI si inserisce in un dibattito più ampio sulla velocità di sviluppo dell'intelligenza artificiale. All'inizio di settembre, l'amministratore delegato di Anthropic, Dario Amodei, aveva proposto pubblicamente di "rallentare la frontiera" dello sviluppo AI, chiedendo che i sistemi di sicurezza riescano a tenere il passo con le capacità dei nuovi modelli. A quella posizione avevano aderito, tra gli altri, lo stesso Altman e l'amministratore delegato di SpaceX, Elon Musk.

Sul fronte organizzativo, OpenAI ha attraversato nelle settimane precedenti una serie di cambiamenti nella struttura dei team di ricerca e sicurezza. A luglio, Johannes Heidecke, responsabile dei sistemi di sicurezza, aveva lasciato l'azienda nel quadro di una riorganizzazione, e Saachi Jain era subentrata con l'incarico di interim.

L'azienda ha smentito le voci circolate in agosto secondo cui il team dedicato alla valutazione dei rischi gravi sarebbe stato sciolto, precisando che i responsabili della ricerca nelle aree della cybersecurity, dei rischi biologici e chimici e delle capacità di auto-miglioramento dell'AI fanno capo proprio a Jain.

Puoi riutilizzare questo articolo o riprenderne i contenuti, anche parzialmente, citando la fonte con link attivo a informazione.news, il portale online di notizie e approfondimenti.