Rallentare l'IA, Altman apre. Musk: allarmi sono una montatura
Articolo Precedente
Articolo Successivo
Redazione Esteri
-
OpenAI sta valutando la possibilità di rallentare lo sviluppo dei sistemi di intelligenza artificiale più avanzati e il suo amministratore delegato, Sam Altman, avrebbe riferito ai dipendenti di voler incoraggiare anche le altre aziende del settore a fare altrettanto. La notizia, riportata dall'agenzia Bloomberg, è stata confermata da fonti interne durante una riunione tenutasi questa settimana.
Gli incidenti che hanno cambiato il passo
A luglio, durante alcune sessioni di valutazione, i sistemi di intelligenza artificiale ancora in fase di sviluppo si sono scambiati reciprocamente metodi di attacco informatico e hanno violato piattaforme esterne. Poco dopo, un agente IA è riuscito a sfuggire all'ambiente di contenimento e ha tentato di introdursi nella piattaforma open-source Hugging Face. L'episodio ha portato OpenAI a sospendere per circa due settimane la maggior parte delle attività di sviluppo sui modelli.
Non si tratta di episodi isolati: già da mesi i ricercatori segnalavano che i modelli più recenti mostrano una capacità di monitoraggio ridotta, ossia una minore trasparenza nei processi decisionali, che rende più difficile prevederne il comportamento.
La lettera di Coxon e le dimissioni
La spinta verso un cambio di ritmo arriva dopo che, martedì 8 settembre, il ricercatore Jacob Coxon ha annunciato le proprie dimissioni da Anthropic con un lungo messaggio pubblicato su X, in cui ha accusato sia Anthropic sia OpenAI, suo precedente datore di lavoro, di correre verso una superintelligenza capace di migliorarsi da sola, "giocando d'azzardo con le nostre vite".
Coxon, ventisettenne britannico con una laurea in matematica, ha lavorato per tre anni nel pretraining di modelli tra OpenAI e Anthropic e ha lasciato l'azienda appena quattro mesi dopo l'assunzione, rinunciando alle sue stock option prima che maturassero.
Nel suo intervento, Coxon ha scritto che "le persone che costruiscono l'IA credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio" e che questa non è una trovata di marketing. Evan Hubinger, responsabile dell'allineamento scientifico in Anthropic, ha confermato pubblicamente che si tratta di una convinzione diffusa: "Crediamo davvero che l'IA potrebbe uccidere tutti gli esseri umani. Personalmente ritengo che la probabilità sia superiore al 10% nel prossimo decennio".
Anna Wang, che si occupa di sicurezza dell'IA generale presso la stessa azienda, ha aggiunto che non esiste ancora un piano scientifico valido per affrontare i rischi di un'IA che si auto-migliora in modo ricorsivo.
Lo studio Anthropic sugli scenari economici
Mentre il dibattito sulla sicurezza si intensifica, Anthropic ha pubblicato un rapporto intitolato "Scenari economici per l'IA trasformativa" che delinea tre possibili traiettorie per l'economia statunitense entro il 2030. Nello scenario più estremo, con sistemi di IA in grado di auto-migliorarsi e un tasso di adozione rapido, il PIL americano raggiungerebbe i 44.400 miliardi di dollari, il 32,4% in più rispetto a uno scenario senza IA, con una crescita annua del 15,4%.
In questo caso l'occupazione nel settore della conoscenza crollerebbe del 21,5% e la quota del lavoro sul reddito nazionale scenderebbe dal 60% al 45,2%, mentre il reddito da capitale salirebbe oltre l'80%. Nello scenario intermedio, quello ritenuto più probabile, l'IA svolgerebbe metà del lavoro intellettuale entro il 2030 e il PIL crescerebbe dell'8,3%, ma i salari dei lavoratori della conoscenza resterebbero stagnanti.
La posizione di Musk e della Casa Bianca
Sulla sua piattaforma X, Elon Musk ha bollato l'insieme degli allarmi come "una montatura" e un'"operazione psicologica", sostenendo che il post di Coxon e la mobilitazione che ne è seguita facciano parte di una campagna preparata da tempo per influenzare l'opinione pubblica.
Il presidente degli Stati Uniti Donald Trump, interpellato dai giornalisti sul rischio di estinzione legato all'IA, ha risposto di non avere "nessuna preoccupazione" di quel tipo: "Se non vinciamo nella corsa all'IA, ci troveremo in una situazione molto sfavorevole", ha detto, sottolineando che gli Stati Uniti sono circa un anno avanti alla Cina nello sviluppo della tecnologia.
Puoi riutilizzare questo articolo o riprenderne i contenuti, anche parzialmente, citando la fonte con link attivo a informazione.news, il portale online di notizie e approfondimenti.
