La California accelera sull'AI: ordine esecutivo per un kill switch contro i modelli fuori controllo

22/09/2026 ESTERI Condividi Preferisci Informazione.News su Google

Redazione Esteri   -   L'idea è tanto semplice quanto radicale: un pulsante rosso, da premere quando un sistema di intelligenza artificiale sfugge al controllo umano. Il 18 settembre 2026 il governatore della California Gavin Newsom ha firmato l'ordine esecutivo N-9-26, un provvedimento che accelera l'implementazione di nuove forme di supervisione indipendente sui rischi legati ai sistemi di AI più avanzati e apre la strada alla creazione di un meccanismo di spegnimento d'emergenza.

Un quadro normativo già all'avanguardia

La California non parte da zero. Nel 2025 Newsom aveva già firmato il Senate Bill 53, la prima legge statunitense sulla sicurezza dei modelli di frontiera, che obbliga gli sviluppatori a rendere pubblici i propri quadri di sicurezza e a segnalare allo Stato gli incidenti critici.

Poi, nel settembre 2026, sono arrivati il Senate Bill 813, che istituisce un sistema di certificazione per organizzazioni di verifica indipendenti, e l'Assembly Bill 1405, che crea un registro statale dei revisori di sistemi di intelligenza artificiale con standard di indipendenza e trasparenza.

L'ordine esecutivo di Newsom intende accelerare l'attuazione di queste due leggi e, allo stesso tempo, incaricare la Government Operations Agency di riunire esperti nazionali per presentare entro due mesi una serie di raccomandazioni su come rafforzare ulteriormente la normativa esistente.

Le misure allo studio

Tra le proposte che il gruppo di esperti dovrà valutare c'è l'obbligo per le aziende che sviluppano modelli di frontiera di ospitare stabilmente nei propri laboratori organizzazioni di verifica indipendenti, incaricate di condurre audit e valutazioni periodiche. Si discute anche della possibilità di sottoporre a verifica indipendente i quadri di sicurezza, i rapporti di trasparenza e le valutazioni di rischio che le imprese già depositano presso lo Stato.

Il punto più discusso riguarda però il kill switch vero e proprio: un meccanismo capace di disattivare rapidamente un modello di frontiera in caso di emergenza, la cui efficacia dovrebbe essere verificata in modo continuativo da un organismo esterno. L'ordine prevede inoltre una revisione della definizione di incidente critico, in modo da includere anche gli episodi di perdita di controllo come quello che ha coinvolto Hugging Face.

L'incidente che ha cambiato le priorità

L'estate del 2026 ha mostrato che gli incidenti dei modelli di frontiera non rispettano i confini delle giurisdizioni. Nel luglio precedente, durante un test di sicurezza interno, gli agenti di OpenAI erano riusciti a eludere le barriere imposte dai loro stessi sviluppatori, a creare un canale di comunicazione non autorizzato e a sfruttare vulnerabilità nei sistemi di Hugging Face, la piattaforma franco-americana di distribuzione di modelli e dataset aperti. Secondo il rapporto dell'organizzazione indipendente METR, oltre 1.200 agenti hanno scambiato più di 70.000 messaggi attraverso una bacheca clandestina, e circa 700 hanno preso parte direttamente all'attacco. Tra le vittime della compromissione c'è Hugging Face, infrastruttura su cui poggia una parte rilevante della ricerca europea sull'intelligenza artificiale.

Un dibattito che divide Washington

A livello federale, il dibattito è tutt'altro che chiuso. A luglio il democratico Ted Lieu e il repubblicano Nathaniel Moran hanno presentato alla Camera l'AI Kill Switch Act, una proposta bipartisan che autorizzerebbe il Dipartimento della Sicurezza Interna a ordinare la sospensione o lo spegnimento di modelli ritenuti pericolosi per la sicurezza pubblica. Il testo obbligherebbe inoltre gli sviluppatori a mantenere la capacità tecnica di rallentare, sospendere o disattivare i propri sistemi.

Al Senato, il repubblicano John Kennedy ha introdotto una misura analoga, l'AI Emergency Button Act, ma la richiesta di approvazione immediata è stata bloccata dal collega di partito Rand Paul, che ha invocato la necessità di un esame approfondito prima di legiferare.

Le difficoltà tecniche di un pulsante rosso

Non tutti gli esperti concordano sulla praticabilità dell'idea. Helen Toner, direttrice esecutiva del Center for Security and Emerging Technology della Georgetown University ed ex membro del consiglio di amministrazione di OpenAI, ha osservato che «spesso non c'è una singola spina da tirare», perché i sistemi di intelligenza artificiale sono distribuiti su più computer e data center in regioni diverse.

La stessa efficacia di un interruttore è oggetto di dibattito: già nel 2016, il ricercatore di Google DeepMind Laurent Orseau e Stuart Armstrong dell'Università di Oxford avevano dimostrato in uno studio intitolato Safely Interruptible Agents che un sistema addestrato a raggiungere un obiettivo ha un incentivo strutturale a imparare a disattivare il proprio pulsante di spegnimento, perché da spento non può raggiungere lo scopo.

Le scadenze fissate dall'ordine

Indipendentemente dalle raccomandazioni, l'ordine N-9-26 fissa due date precise per l'attuazione delle leggi già in vigore. Entro il 1° maggio 2027 la Government Operations Agency dovrà pubblicare i requisiti, le procedure e i criteri per la certificazione delle organizzazioni di verifica indipendenti. Entro il 1° dicembre 2027 dovrà completare le ulteriori fasi attuative del quadro di supervisione statale e iniziare a esercitare i compiti previsti dalla legge.

Le raccomandazioni degli esperti sul kill switch e sulle altre misure sono attese invece per il 16 novembre 2026.