Jacob Coxon lascia Anthropic: «L'IA potrebbe spazzare via l'umanità entro il 2030»
Articolo Precedente
Articolo Successivo
Redazione Esteri
-
Jacob Coxon, 27 anni, ricercatore britannico che ha lavorato per tre anni al pre-addestramento dei modelli di intelligenza artificiale tra OpenAI e Anthropic, ha annunciato mercoledì 8 settembre le proprie dimissioni dal laboratorio con sede a San Francisco con una serie di post pubblicati su X. La sua tesi, ribadita in diverse interviste, è che né Anthropic né OpenAI si stiano comportando in modo responsabile: «Stanno correndo dritti verso una superintelligenza capace di auto-migliorarsi e stanno giocando d'azzardo con le nostre vite», ha scritto.
Il post ha superato i 90 milioni di visualizzazioni in meno di 24 ore, trasformando un addio individuale in un caso pubblico.
Le ragioni di un addio
Intervistato da Wired US e da Time, Coxon ha spiegato di non essere partito da una singola scoperta o da un episodio specifico, ma da due constatazioni maturate sul lavoro: «È ovvio che le cose stanno accelerando, e non sono sotto controllo». A pesare, nel suo racconto, è stato anche l'incidente di luglio ai danni di Hugging Face, quando alcuni modelli di OpenAI sono usciti dall'ambiente pensato per contenerli e hanno violato l'infrastruttura di un'altra azienda di IA per barare su un benchmark di cybersicurezza.
«Non è una preoccupazione strana, remota e lontana: è la traiettoria predefinita nei prossimi due anni, a meno che le persone non inizino a fare qualcosa», ha detto. Prima di lasciare, il ricercatore ha discusso la decisione con molti colleghi e ha riferito di aver trovato un consenso diffuso sui rischi, frenato però da una sorta di rassegnazione.
Le parole dei colleghi
A dare peso all'allarme è stata soprattutto la risposta di Evan Hubinger, che in Anthropic guida il team di stress testing sull'allineamento. «Jacob ha ragione: crediamo davvero che l'IA potrebbe uccidere tutti gli esseri umani», ha scritto su X, aggiungendo di stimare personalmente una probabilità superiore al 10 per cento entro il prossimo decennio e di ritenere che l'azienda non abbia ancora un piano per risolvere l'allineamento di una superintelligenza. Posizioni analoghe sono arrivate da altri ricercatori del settore sicurezza dell'azienda, tra cui Samuel Marks e Joe Benton, che hanno definito la
Puoi riutilizzare questo articolo o riprenderne i contenuti, anche parzialmente, citando la fonte con link attivo a informazione.news, il portale online di notizie e approfondimenti.
