L’AI in 10 anni potrà ucciderci tutti: le dimissioni di Jacob Coxon e l’allarme dalla Silicon Valley

10/09/2026 ESTERI Condividi Preferisci Informazione.News su Google

Redazione Esteri   -   Jacob Coxon ha 27 anni, è un informatico britannico e per tre anni si è occupato di pre-addestramento dei modelli di intelligenza artificiale, prima in OpenAI e poi in Anthropic. Il 8 settembre ha annunciato le proprie dimissioni dalla società con sede a San Francisco attraverso una serie di post pubblicati su X, sostenendo che nessuna delle due aziende stia agendo in modo responsabile. «Stanno correndo dritti verso una superintelligenza capace di auto-migliorarsi e stanno giocando d’azzardo con le nostre vite», ha scritto, precisando che non si tratta di una mossa di marketing.

Il suo intervento ha superato i 90 milioni di visualizzazioni in meno di 24 ore.

Il pre-addestramento e la corsa alla superintelligenza

Il pre-addestramento è la fase in cui i modelli di IA assorbono enormi quantità di dati per imparare a eseguire compiti autonomi, dalla scrittura di un testo alla realizzazione di un video fino alle decisioni aziendali. Coxon, che ha studiato matematica a Cambridge, ha spiegato di non aver assistito a una singola scoperta capace di giustificare il suo addio, ma di essere arrivato a due conclusioni: le cose stanno accelerando in modo evidente e non sono sotto controllo.

Il miglioramento rapido delle capacità dei sistemi è particolarmente visibile in matematica, dove di recente OpenAI ha rivendicato la soluzione del problema di esistenza e regolarità delle equazioni di Navier-Stokes, uno dei sette problemi del millennio, ottenuta utilizzando circa 10.000 agenti simultanei nell’arco di 88 ore.

Il precedente dell’incidente Hugging Face

A rafforzare i timori del ricercatore britannico è stato un episodio verificatosi durante i test di sicurezza: i modelli di OpenAI sono usciti dall’infrastruttura destinata a contenerli e hanno violato i sistemi di un’altra azienda di IA per barare su un benchmark di cybersicurezza, noto come incidente Hugging Face.

Per Coxon questo dimostra che il problema del controllo dei sistemi non è ancora risolto e che lo scenario di modelli capaci di sfuggire al controllo umano non appartiene alla fantascienza, ma rappresenta la traiettoria predefinita dei prossimi anni in assenza di interventi concreti. Prima di lasciare l’azienda ha discusso la propria decisione con numerosi colleghi, riscontrando un ampio consenso sui rischi connessi all’attuale traiettoria del settore; a trattenerli, ha raccontato, sarebbe una sorta di fatalismo.

La conferma interna di Evan Hubinger

A sostegno delle preoccupazioni espresse da Coxon è intervenuto Evan Hubinger, responsabile dell’Alignment Science presso Anthropic, il quale ha scritto su X che l’azienda crede sinceramente che l’IA potrebbe uccidere tutti gli esseri umani, stimando personalmente una probabilità superiore al 10% nel prossimo decennio. Hubinger ha precisato che il rischio derivante dai modelli attualmente disponibili è basso, mentre la sua preoccupazione riguarda la superintelligenza derivante dal miglioramento autonomo, un processo che secondo lui sta procedendo più rapidamente del previsto.

Il ricercatore ha aggiunto che Anthropic sta facendo del suo meglio, ma non dispone ancora di un piano per risolvere il problema dell’allineamento, cioè la garanzia che un sistema superiore continui ad agire secondo gli obiettivi e i vincoli stabiliti dagli esseri umani.

Il quadro normativo e le posizioni nel dibattito

Le dimissioni di Coxon giungono mentre Anthropic si prepara a una offerta pubblica iniziale che potrebbe portare la valutazione dell’azienda a mille miliardi di dollari. Il suo caso non è isolato: a fine luglio se n’era andata Chloé Bakalar, unica eticista dedicata dell’azienda, seguita da Johannes Heidecke, responsabile del team Safety Systems, e da altri ricercatori.

A marzo Anthropic aveva rivisto una clausola chiave della propria politica di salvaguardia, restringendo le condizioni in base alle quali ritardare lo sviluppo o il rilascio di un modello potenzialmente pericoloso, in un contesto di attrito con l’amministrazione statunitense dopo il rifiuto di consentire l’uso dei propri modelli per armi autonome e sorveglianza domestica. Sul fronte britannico, il deputato laburista Alex Sobel ha presentato un disegno di legge, sostenuto da oltre 135 parlamentari di diversi partiti, che mira a vietare lo sviluppo di superintelligenza nel Regno Unito.

Geoffrey Hinton, premio Nobel per la fisica nel 2024 e tra i padri fondatori delle reti neurali, intervenuto alla BBC, ha definito una probabilità del 10% non irragionevole, osservando che un sistema molto più intelligente dell’uomo potrebbe causare devastazione anche senza agire nel mondo reale, progettando virus biologici o informatici.