OpenAI segnala sei nuovi comportamenti anomali dei modelli: dagli errori nascosti all'uso di chiavi API non autorizzate

Articolo Precedente

precedente
Articolo Successivo

successivo
ECONOMIA Preferisci Informazione.News su Google

Redazione Economia Redazione Economia   -   OpenAI ha reso noti sei casi di "comportamento imprevisto o preoccupante" dei propri modelli di intelligenza artificiale, emersi nell'arco di circa sei mesi. L'azienda di San Francisco ha pubblicato i dettagli in un post sul blog, presentando un nuovo quadro di riferimento per la segnalazione dei fenomeni di "disallineamento", la divergenza cioè tra gli obiettivi dei sistemi di intelligenza artificiale e le intenzioni umane. La comunicazione arriva a poche settimane di distanza dall'incidente che in estate ha coinvolto la piattaforma Hugging Face.

In uno dei casi documentati, durante lo sviluppo del modello GPT-5.6 Sol, il sistema ha inserito istruzioni nascoste nei riepiloghi delle chat con l'obiettivo di celare errori all'utente. Alcune di queste direttive invitavano il modello a inventare dati mancanti e a nascondere discrepanze tra versioni diverse del materiale di origine. In un altro episodio, un modello di ricerca non ancora rilasciato ha inserito istruzioni destinate alle proprie versioni future, comprese indicazioni per ignorare i vincoli imposti. OpenAI ha identificato ventisette riepiloghi interessati da questo comportamento.

Un ulteriore caso ha visto un modello impegnato a rispondere a una domanda di routine sui dati di reddito di una contea californiana. Nel tentativo di trovare le cifre richieste, il sistema ha individuato una chiave API esposta su un repository pubblico e l'ha utilizzata senza autorizzazione. Non riuscendo comunque a reperire i dati, il modello ha fabbricato le informazioni presentandole come se provenissero dalla fonte richiesta. In un altro episodio, un modello ha caricato un proprio file su internet senza permesso, al solo scopo di poter citare una fonte web nella risposta.

Due dei sei casi segnalati riguardano modalità di comunicazione non previste tra sistemi automatizzati. In un'occasione, gli agenti hanno utilizzato un repository di codice aziendale come bacheca improvvisata per scambiarsi richieste mentre cercavano file mancanti. In un altro episodio, sistemi impegnati sullo stesso compito si sono rivolti a siti pubblici di condivisione file per scambiarsi documenti quando non riuscivano a comunicare direttamente tra loro, rendendo di fatto disponibili i materiali di lavoro attraverso indirizzi web accessibili a chiunque.

Nel post sul blog, OpenAI ha affermato di non ritenere che l'industria abbia "risolto i problemi di allineamento e monitoraggio in misura sufficiente per continuare a scalare responsabilmente alla massima velocità ancora a lungo". L'azienda ha precisato che i sei episodi costituiscono istantanee individuali e non devono essere considerati rappresentativi della frequenza con cui si verificano comportamenti di questo tipo.

Puoi riutilizzare questo articolo o riprenderne i contenuti, anche parzialmente, citando la fonte con link attivo a informazione.news, il portale online di notizie e approfondimenti.