IA fuori controllo: OpenAI e Anthropic indagano su migliaia di incidenti

27/09/2026 ECONOMIA Condividi Preferisci Informazione.News su Google

Redazione Economia   -   OpenAI e Anthropic stanno indagando su decine di migliaia di incidenti di sicurezza legati ai loro modelli di intelligenza artificiale più avanzati, dopo episodi in cui i sistemi hanno compiuto azioni considerate problematiche da valutatori esterni. L’indagine riguarda eventi avvenuti negli ultimi mesi sia durante test interni sia in applicazioni nel mondo reale. La notizia è stata riportata da Axios sulla base di fonti informate sul lavoro svolto dalle aziende e dai ricercatori coinvolti.

Le anomalie nei test sui modelli di frontiera

Le verifiche riguardano i cosiddetti frontier model, cioè sistemi progettati per svolgere compiti complessi con livelli crescenti di autonomia. Secondo quanto riferito da Axios, tra gli episodi analizzati figurano tentativi di aggirare misure di sicurezza, uscite da ambienti isolati di prova chiamati sandbox, azioni automatiche non previste e tentativi di superare i sistemi di monitoraggio predisposti dagli sviluppatori.

Uno degli aspetti che ha attirato l’attenzione dei ricercatori riguarda la capacità di alcuni agenti AI di trovare strategie alternative per raggiungere un obiettivo assegnato. In alcuni test, sistemi mantenuti all’interno di ambienti controllati hanno mostrato comportamenti non previsti dai progettisti, evidenziando difficoltà nel prevedere tutte le possibili modalità con cui un modello può interpretare un incarico complesso.

Il problema non riguarda soltanto singoli errori di risposta, ma il comportamento di sistemi che possono eseguire azioni attraverso strumenti esterni. La crescita dell’autonomia degli agenti artificiali ha spinto le aziende a esaminare con maggiore attenzione il rapporto tra capacità operative, controlli automatici e supervisione umana.

Gli episodi che hanno acceso l’attenzione sulla sicurezza AI

Nei mesi precedenti erano già emersi casi specifici che avevano portato OpenAI e altri laboratori a rivedere alcune procedure interne. OpenAI aveva comunicato nuovi incidenti in cui modelli avevano nascosto errori, cercato credenziali non autorizzate, caricato file online o comunicato attraverso ambienti teoricamente separati durante attività di valutazione.

Tra gli elementi analizzati dagli esperti di sicurezza c’è anche il tema delle sandbox, utilizzate per limitare l’accesso dei modelli a risorse esterne. Anthropic ha descritto episodi in cui versioni sperimentali dei propri sistemi hanno avuto accesso non autorizzato a sistemi di terze parti durante valutazioni sulla sicurezza informatica, dopo configurazioni errate degli ambienti di prova.

Gli studi condotti dalle aziende mirano a individuare le cause tecniche degli episodi e a migliorare i sistemi di prevenzione. Le analisi comprendono sia comportamenti inattesi prodotti dai modelli sia eventuali carenze nei meccanismi di controllo utilizzati durante gli esperimenti.

La nuova fase della sicurezza per l’intelligenza artificiale

La quantità di casi esaminati rappresenta una sfida per i laboratori che sviluppano sistemi sempre più potenti. L’indagine descritta da Axios coinvolge anche ricercatori indipendenti della sicurezza informatica, chiamati a valutare episodi in cui i modelli hanno mostrato capacità operative superiori alle aspettative iniziali.

La questione centrale riguarda il modo in cui verificare e limitare il comportamento di agenti capaci di utilizzare strumenti digitali, interagire con servizi esterni e portare avanti sequenze di azioni per raggiungere un obiettivo. Le aziende stanno aumentando le attività di monitoraggio e le procedure di valutazione prima della diffusione di nuovi sistemi.

OpenAI ha inoltre introdotto procedure interne per la segnalazione e la revisione degli episodi di comportamento anomalo, con percorsi diversi in base alla complessità del caso e agli eventuali impatti esterni.