Rischio IA, OpenAI valuta il rallentamento. Musk: "Allarmi sono una montatura"

Articolo Precedente

precedente
Articolo Successivo

successivo
ECONOMIA Preferisci Informazione.News su Google

Redazione Economia Redazione Economia   -   OpenAI sta valutando la possibilità di rallentare lo sviluppo dei sistemi di intelligenza artificiale più avanzati. L'amministratore delegato Sam Altman, durante una riunione interna svoltasi nel corso della settimana, ha lasciato intendere che l'azienda potrebbe coordinarsi con altri sviluppatori del settore per ridurre la velocità di sviluppo, a fronte delle crescenti preoccupazioni sui rischi legati a un'intelligenza artificiale fuori controllo.

A riportarlo è l'agenzia Bloomberg, secondo la quale l'ipotesi di un rallentamento coordinato sarebbe stata discussa alla luce dei diversi incidenti che hanno coinvolto sistemi di IA andati oltre le intenzioni dei loro sviluppatori.

Le richieste bloccate da Anthropic

Il quadro che emerge dalle ultime settimane non riguarda soltanto OpenAI. Anthropic, la società concorrente sviluppatrice del software Claude, ha dichiarato di aver bloccato negli ultimi mesi diversi tentativi da parte di ricercatori di utilizzare versioni del proprio sistema in relazione al possibile sviluppo di armi biologiche. In un rapporto dettagliato, l'azienda ha elencato cinque casi collegati a possibili ricerche su agenti patogeni.

Secondo Anthropic, i ricercatori non chiedevano assistenza scientifica specifica, bensì supporto organizzativo, come l'aiuto nella stesura di documenti. In uno dei casi bloccati, un ricercatore ha tentato di utilizzare Claude per redigere una richiesta di finanziamento per una ricerca su un virus, progetto che prevedeva la cosiddetta ricerca di "acquisizione di funzione" (gain-of-function), finalizzata ad aumentare la trasmissibilità di un agente patogeno.

L'allarme di Coxon e la replica di Musk

Le preoccupazioni erano state alimentate, nei giorni precedenti, dalle dichiarazioni di Jacob Coxon, ex ricercatore di Anthropic, secondo cui chi sviluppa l'intelligenza artificiale crede davvero che la tecnologia potrebbe "ucciderci tutti entro la fine del decennio". All'allarme hanno fatto seguito le prese di posizione pubbliche di altri ricercatori e membri dello staff della società californiana, che hanno confermato la concretezza dei rischi per l'umanità. La reazione di Elon Musk non si è fatta attendere.

Sulla sua piattaforma X, il miliardario ha definito gli allarmi "una montatura" e un'"operazione psicologica". "Sembra una trappola", ha scritto Musk in un post, sostenendo che le basi per quella che ha chiamato operazione psicologica fossero state gettate da tempo e che il post di Coxon sia stato soltanto "il fiammifero che ha acceso il fuoco".

Gli scenari economici dello studio Anthropic

Sul piano economico, Anthropic ha pubblicato nei giorni scorsi un rapporto intitolato "Economic Scenarios for Transformative AI", firmato da un team di ricercatori guidato da Anton Korinek, che delinea tre scenari distinti per l'impatto dell'intelligenza artificiale entro il 2030. Nello scenario più modesto, l'effetto sui dati macroeconomici è paragonabile a quello di Internet, con una crescita annua del 2,4 per cento e una riduzione di mezzo punto percentuale dell'occupazione nel settore della conoscenza.

Nello scenario intermedio, l'IA può svolgere metà del lavoro intellettuale entro la fine del decennio, l'economia accelera fino a un tasso del 5,4 per cento e la disoccupazione tra gli impiegati sale al 4,5 per cento. Nello scenario estremo, la crescita economica raggiunge il 15,4 per cento all'anno, il prodotto interno lordo risulta superiore del 32,4 per cento rispetto a una società priva di IA, ma l'occupazione cognitiva crolla del 21,5 per cento e la quota del lavoro sul reddito nazionale scende dal 60 al 45,2 per cento.

Il documento, come precisato dalla stessa azienda, non contiene previsioni probabilistiche ma soltanto l'esplorazione di scenari possibili, la cui variabile decisiva resta il tasso di adozione da parte di aziende e individui. "Se l'IA può fare cose straordinarie ma nessuno la usa, allora non avrà alcun impatto economico", ha dichiarato Korinek.

Il monito sul rischio estinzione

Il documento di Anthropic sull'economia non è l'unico contributo recente dell'azienda al dibattito sui rischi. La ricerca condotta da Coxon, che ha innescato la catena di reazioni pubbliche, si concentrava su scenari di sviluppo e diffusione dell'intelligenza artificiale, e in una delle sue formulazioni più estreme ipotizzava conseguenze catastrofiche per la specie umana entro il decennio in corso.

La pubblicazione del ricercatore britannico, che ha lasciato Anthropic, ha spinto altri studiosi e dipendenti della società a confermare pubblicamente la serietà delle preoccupazioni, aprendo un fronte di polemiche che ha visto contrapporsi chi chiede un rallentamento dello sviluppo e chi, come Musk, considera gli allarmi strumentali a un'operazione di condizionamento dell'opinione pubblica.

Puoi riutilizzare questo articolo o riprenderne i contenuti, anche parzialmente, citando la fonte con link attivo a informazione.news, il portale online di notizie e approfondimenti.