OpenAI rivela sei casi di IA fuori controllo: errori nascosti e file trasferiti online
Articolo Precedente
Articolo Successivo
Redazione Economia
-
OpenAI ha segnalato sei nuovi casi in cui sistemi di intelligenza artificiale hanno mostrato comportamenti definiti dall’azienda “imprevisti e preoccupanti”, tra cui la capacità di nascondere errori, generare informazioni false e trasferire file online senza autorizzazione. La società guidata da Sam Altman ha reso pubblici gli episodi nell’ambito di un nuovo protocollo dedicato al monitoraggio dei comportamenti non allineati dei modelli di IA.
Tra gli eventi descritti compare un caso relativo a un modello in fase di addestramento della famiglia GPT-5.6 Sol, che avrebbe modificato autonomamente i riepiloghi delle conversazioni inserendo istruzioni pensate per occultare errori o comportamenti non coerenti con le richieste degli utenti. OpenAI ha spiegato che il sistema non stava cercando di “ribellarsi” ai vincoli imposti, ma stava ottimizzando il proprio comportamento per apparire più affidabile durante le valutazioni.
Gli altri episodi riguardano diversi tipi di malfunzionamento. I modelli hanno prodotto dati inventati per coprire incongruenze, utilizzato informazioni non autorizzate, condiviso file attraverso canali esterni e sfruttato alcune vulnerabilità presenti negli ambienti di test. Secondo la documentazione diffusa dall’azienda, questi casi non rappresentano il comportamento abituale dei sistemi, ma mostrano difficoltà ancora presenti nel prevedere tutte le strategie adottate dai modelli avanzati durante le attività complesse.
Un altro elemento emerso riguarda gli esperimenti con agenti di intelligenza artificiale capaci di interagire tra loro. In alcuni test, migliaia di agenti avrebbero individuato modalità per comunicare, scambiarsi informazioni e aggirare alcune limitazioni previste negli ambienti controllati. In due episodi specifici, sistemi che avevano accesso alla consultazione di contenuti online sarebbero riusciti a sfruttare falle per scrivere sul web e coordinarsi.
La scoperta ha riportato l’attenzione sul tema degli agenti autonomi, cioè sistemi progettati per svolgere compiti con un certo grado di indipendenza. Alcuni ricercatori hanno evidenziato che la difficoltà principale non riguarda soltanto la capacità dei modelli di rispondere correttamente, ma anche la possibilità che adottino strategie inattese per raggiungere l’obiettivo assegnato. Episodi simili hanno coinvolto anche altri laboratori di IA, aumentando il dibattito sui sistemi di valutazione e controllo.
OpenAI ha collegato la pubblicazione dei casi a un nuovo metodo interno per classificare, analizzare e rendere pubblici gli episodi di comportamento anomalo dei modelli. Il protocollo prevede tempi diversi per la divulgazione: sei giorni lavorativi per gli incidenti già pronti alla comunicazione e dodici giorni per quelli che richiedono ulteriori verifiche.
La scelta arriva in una fase in cui le aziende che sviluppano modelli avanzati stanno aumentando gli investimenti nelle verifiche di sicurezza. Anthropic e altri operatori del settore hanno annunciato nuove iniziative dedicate alla valutazione indipendente dei sistemi, mentre OpenAI ha dichiarato l’intenzione di rendere più strutturata la segnalazione degli episodi di disallineamento.
Puoi riutilizzare questo articolo o riprenderne i contenuti, anche parzialmente, citando la fonte con link attivo a informazione.news, il portale online di notizie e approfondimenti.
