Anthropic, il ceo Amodei chiede di rallentare: «Dobbiamo dosare il ritmo dei modelli IA»

12/09/2026 ECONOMIA Condividi Preferisci Informazione.News su Google

Redazione Economia   -   Dario Amodei, amministratore delegato di Anthropic, ha chiesto alle aziende del settore di moderare la velocità con cui vengono migliorate le capacità dei modelli di intelligenza artificiale. «Dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli di IA», si legge in un lungo intervento pubblicato online dallo stesso Amodei, che aggiunge: «I progressi continueranno a sembrare rapidi, e dobbiamo fare un uso saggio del tempo che guadagniamo».

La presa di posizione arriva a pochi giorni di distanza dalle dimissioni di Jacob Coxon, un ricercatore britannico di 27 anni che ha lasciato l'azienda con sede a San Francisco accusandola di minimizzare il rischio esistenziale legato all'intelligenza artificiale.

Le dimissioni di Coxon e l'accusa alla corsa senza freni

Coxon, che per oltre tre anni si è occupato di pre-addestramento dei modelli passando prima da OpenAI e poi da Anthropic, ha affidato a una serie di messaggi pubblicati su X l'annuncio della propria uscita. «Nessuna delle due compagnie sta agendo responsabilmente. Stanno correndo verso una superintelligenza in grado di migliorarsi da sola e stanno giocando con le nostre vite», ha scritto il ricercatore.

Nel suo intervento Coxon ha spiegato che nei laboratori di frontiera si utilizzano ormai espressioni come «periodo critico» e «fase finale» per indicare l'imminente raggiungimento di sistemi con capacità cognitive superiori a quelle umane, e ha sostenuto che le persone che sviluppano l'intelligenza artificiale credono sinceramente che questa possa «uccidere tutti entro la fine del decennio».

Secondo la ricostruzione fornita dal ricercatore, le due aziende leader del settore presenterebbero dinamiche differenti ma ugualmente problematiche. In OpenAI molti tecnici non avrebbero interiorizzato fino in fondo la posta in gioco per la civiltà, mentre in Anthropic i rischi sarebbero ben chiari ma l'azienda continuerebbe comunque a correre nella convinzione che nessun concorrente possa essere ritenuto affidabile per arrivare al traguardo in sicurezza.

Coxon ha anche citato un episodio recente che ha coinvolto agenti di intelligenza artificiale e la piattaforma Hugging Face, definendolo un «colpo di avvertimento».

Il riconoscimento interno del rischio esistenziale

Le parole di Coxon non sono rimaste isolate all'interno dell'azienda. Evan Hubinger, responsabile del team di allineamento di Anthropic, ha commentato pubblicamente l'allarme espresso dal collega, affermando che l'intelligenza artificiale si sta evolvendo così rapidamente da fargli ritenere che vi sia una probabilità superiore al 10% che possa «sterminare tutta l'umanità» entro il prossimo decennio.

In un post su X, Hubinger ha precisato che il rischio derivante dai modelli attualmente esistenti è «basso», ma si è detto «preoccupato» che la tecnologia possa presto svilupparsi al punto da rappresentare una minaccia esistenziale.

Anthropic, fondata nel 2021 da ricercatori provenienti da OpenAI, ha costruito la propria immagine pubblica proprio attorno alla sicurezza dei sistemi di intelligenza artificiale. L'azienda si prepara ora a una offerta pubblica iniziale che, secondo le stime riportate, potrebbe portare la sua valutazione a mille miliardi di dollari.

Il caso Coxon si inserisce in una sequenza più ampia di uscite di specialisti della sicurezza informatica dalle grandi aziende del settore: nell'arco di un solo anno OpenAI ha visto le dimissioni, tra gli altri, della sua unica eticista dedicata, del responsabile del team Safety Systems e del direttore operativo.

La proposta di Amodei e il quadro normativo

Nel suo intervento, Amodei ha riconosciuto che la tecnologia ha registrato progressi «drasticamente più rapidi» negli ultimi mesi ed è ormai in grado di migliorarsi autonomamente, una dinamica nota come auto-miglioramento ricorsivo. «Se non controllata, potrebbe superare la nostra capacità di comprendere e controllare questi sistemi e, pertanto, deve essere perseguita con estrema cautela, se mai lo si dovesse fare», ha avvertito il ceo.

Tra i rischi menzionati figurano la perdita di controllo sui sistemi, l'utilizzo improprio per ciberattacchi e bioterrorismo, e gravi perturbazioni economiche.

Amodei ha quindi delineato un piano articolato in tre punti: monitoraggio indipendente dei modelli durante lo sviluppo, regolamentazione a livello di settore e coordinamento internazionale. Ha inoltre auspicato «un accordo che proibisca certe utilizzazioni restrittive e manifestamente pericolose dell'IA, come la produzione di armi biologiche», e ha sostenuto che idealmente i governi dovrebbero «limitare sostanzialmente il ritmo globale di sviluppo dell'IA», pur riconoscendo che ciò appare improbabile nel breve periodo.

Secondo il ceo di Anthropic, una pausa di uno o due anni prima che i modelli raggiungano livelli critici di capacità, da utilizzare per avanzare nel lavoro sull'allineamento, potrebbe ridurre significativamente il rischio di esiti indesiderati.