Il ricercatore Anthropic si dimette: «L’Ia potrebbe sterminarci entro il 2030»
Articolo Precedente
Articolo Successivo
Redazione Esteri
-
Jacob Coxon ha ventisette anni, una laurea in matematica e un'esperienza triennale nel pre-addestramento dei modelli di intelligenza artificiale, prima in OpenAI e poi in Anthropic. Ebbene, ha deciso di lasciare tutto: il lavoro, il settore, la corsa allo sviluppo di sistemi sempre più potenti. Le sue dimissioni, annunciate su X e confermate al Wall Street Journal, non sono un semplice cambio di carriera, ma un atto di accusa nei confronti di un'intera industria che, secondo lui, sta giocando con il destino dell'umanità.
Il motivo, espresso senza mezzi termini, è che l'intelligenza artificiale potrebbe distruggere la specie umana già entro la fine del decennio.
Una corsa senza freni verso la superintelligenza
Il punto centrale delle preoccupazioni di Coxon risiede nel concetto di "auto-miglioramento ricorsivo": una fase, ormai sempre più vicina, in cui i sistemi di Ia diventerebbero in grado di progettare e addestrare la prossima generazione di modelli con un intervento umano minimo o nullo. "Nessuna delle due aziende si sta comportando in modo responsabile", ha scritto il ricercatore sui suoi canali social, riferendosi ai due colossi per cui ha lavorato. "Stanno correndo dritti verso una superintelligenza in grado di auto-migliorarsi e stanno giocando d'azzardo con le nostre vite".
Secondo Coxon, chi costruisce queste tecnologie è consapevole del pericolo: "Le persone che sviluppano l'Ia credono seriamente che potrebbe ucciderci tutti entro la fine del decennio. Questo non è uno stunt di marketing". A sostenere pubblicamente le sue parole è stato Evan Hubinger, responsabile del team di allineamento di Anthropic, il quale ha stimato in oltre il 10% la probabilità che l'Ia causi l'estinzione umana nei prossimi dieci anni.
Hubinger ha poi precisato che il rischio attuale è basso, ma che la sua paura è concentrata su ciò che accadrà quando la superintelligenza emergerà da un processo di auto-miglioramento, che sta procedendo più velocemente del previsto.
La posizione di Anthropic tra missione e pressioni di mercato
La scelta di Coxon assume un peso particolare perché Anthropic è stata fondata da ex membri di OpenAI proprio con l'obiettivo dichiarato di mettere la sicurezza al primo posto, strutturandosi come public benefit corporation con un trust dedicato a supervisionare i rischi. Eppure, il ricercatore ha sottolineato come anche all'interno di questa realtà la posta in gioco sia ben chiara, ma si sia comunque scelto di partecipare alla competizione, nella convinzione che se non lo facesse qualcun altro lo farebbe in modo ancora meno sicuro.
Le sue dimissioni giungono in un momento delicato per l'azienda, che si prepara al debutto sul mercato azionario, una circostanza che secondo alcuni osservatori potrebbe acuire la pressione a mostrare risultati e innovazioni. Lo stesso Coxon ha voluto chiarire un aspetto non secondario: ha lasciato Anthropic prima che il suo pacchetto di azioni maturasse, rinunciando di fatto a un ingente guadagno personale.
"Non ho più nulla da guadagnare gonfiando la valutazione di Anthropic", ha dichiarato, aggiungendo che se fosse rimasto ancora due mesi, le sue stock option sarebbero maturate.
Un precedente che agita il dibattito sulla sicurezza
Le dimissioni di Coxon rappresentano una delle uscite più eclatanti da Anthropic per motivi di sicurezza, ma non sono un caso isolato. Negli ultimi tempi, altri ricercatori come l'eticista Chloé Bakalar e Johannes Heidecke, responsabile del team per la sicurezza, avevano già lasciato l'azienda sollevando preoccupazioni analoghe. Il settore è stato scosso, nell'estate appena trascorsa, da una serie di attacchi informatici realizzati in autonomia da strumenti di Ia durante le fasi di test, eventi che hanno alimentato i timori su una perdita di controllo.
A dare ulteriore peso alle parole di Coxon è il fatto che la dirigenza di Anthropic stessa, incluso l'amministratore delegato Dario Amodei, aveva in precedenza sollecitato i governi a valutare un rallentamento coordinato nello sviluppo dei modelli più avanzati.
Il ricercatore britannico, nel suo messaggio di commiato, ha lanciato un appello diretto ai colleghi, chiedendo loro di riflettere su cosa significhi realmente avviare una corsa verso la superintelligenza senza una comprensione rigorosa delle sue implicazioni e se sia giusto accettare un simile "azzardo" solo perché "tanto accadrà comunque".
Puoi riutilizzare questo articolo o riprenderne i contenuti, anche parzialmente, citando la fonte con link attivo a informazione.news, il portale online di notizie e approfondimenti.
