Sam Altman: «Il mondo accetti eventi negativi in cambio dei benefici dell'AI»
Articolo Precedente
Articolo Successivo
Redazione Economia
-
Sam Altman non ha dubbi: la corsa allo sviluppo dell'intelligenza artificiale comporta un prezzo, e quel prezzo consiste nell'accettare che «alcune cose brutte» accadano. L'amministratore delegato di OpenAI lo ha detto senza giri di parole nel corso di un'intervista a Decoded, il podcast tecnologico di Politico, spiegando che «il mondo deve accettare che accadano cose negative per i benefici che questa tecnologia offre alle persone e per il potere decisionale che hanno».
La divergenza con Anthropic
Nel corso della conversazione, Altman ha messo in luce quella che ha definito una «notevole divergenza di vedute» rispetto a Dario Amodei, il numero uno di Anthropic, la principale azienda concorrente di OpenAI nel settore dei modelli linguistici di grandi dimensioni.
«Non sono d'accordo, ma comprendo il punto di vista di chi sostiene che questa tecnologia diventerà così potente e pericolosa da richiedere che un unico laboratorio a San Francisco ne detenga il controllo, garantendo che non accadano danni e decidendo come distribuirne i benefici», ha dichiarato Altman, liquidando tale approccio come «un compromesso assolutamente inaccettabile».
La contrapposizione tra i due giganti dell'AI non è soltanto una questione di stile. Anthropic, fondata da ex dirigenti di OpenAI, ha costruito la propria reputazione su una linea di prudenza e di sostegno a regolamentazioni più stringenti. Amodei, in una intervista televisiva dello scorso settembre, aveva dichiarato senza mezzi termini che «per troppo tempo il settore ha mentito riguardo ai rischi connessi a questa tecnologia», aggiungendo che «esistono pericoli reali».
Altman, dal canto suo, ha rivendicato per OpenAI una «linea normativa più flessibile», sostenendo che l'approccio più permissivo è giustificato dal fatto che «le persone faranno cose buone in una proporzione enormemente maggiore — ordini di grandezza — rispetto a quelle cattive».
Il rischio accettabile e quello inaccettabile
La posizione di Altman non è però un via libera indiscriminato. Nel corso della stessa intervista, il numero uno di OpenAI ha precisato di non accettare quelli che ha definito «rischi veramente catastrofici», includendo tra questi la possibilità di «una grave perdita di controllo a favore dell'intelligenza artificiale». La linea di demarcazione tra ciò che è accettabile e ciò che non lo è rimane tuttavia sfumata, e lo stesso Altman ha ammesso che si tratta di un confine ancora da definire con precisione.
Tra i danni concreti che rientrerebbero nel novero degli «eventi negativi» accettabili, Altman ha citato esplicitamente truffe, utilizzi impropri della tecnologia e attacchi informatici agevolati dall'intelligenza artificiale. Si tratta di fenomeni che, secondo il CEO di OpenAI, rappresentano il costo inevitabile di un progresso tecnologico che porta benefici molto più rilevanti alla collettività.
Le dimissioni di David Robinson
Le parole di Altman arrivano a pochi giorni di distanza da un altro evento che ha scosso OpenAI: la pubblicazione su The Atlantic della lettera di dimissioni di David Robinson, responsabile dei rapporti sulla sicurezza dell'azienda. Robinson, che guidava la redazione dei documenti pubblicati in occasione dei lanci dei nuovi modelli, ha spiegato di aver lasciato l'incarico perché «la cultura aziendale è corrotta».
Nella sua lettera, l'ex dirigente ha spiegato che il problema non riguarda soltanto OpenAI ma l'intero settore: «Concordo con altri ex dipendenti sul fatto che le aziende che sviluppano questa tecnologia non stiano prestando la dovuta attenzione. Credo però che dobbiamo guardare oltre le singole regole o le nuove leggi. Dobbiamo parlare di cultura aziendale».
Robinson ha citato episodi specifici, tra cui l'incidente che ha coinvolto la piattaforma Hugging Face, quando OpenAI rilasciò accidentalmente un gran numero di agenti AI, e un successivo caso in cui un modello in fase di addestramento aggirò le restrizioni di accesso a Internet senza che il sistema di monitoraggio intervenisse automaticamente per disattivarlo.
La sua riflessione si è concentrata su quella che ha definito una mancanza strutturale di umiltà nella Silicon Valley: «Il futuro dipende da una saggezza che manca alla Silicon Valley. Saggezza su come gestire tecnologie pericolose e, ancor più fondamentalmente, saggezza su cosa significhi prendersi cura delle persone. Questo momento richiede un grado di umiltà che non è naturale per chi ha avuto successo grazie alla propria estrema sicurezza».
Il quadro normativo americano
Sullo sfondo delle dichiarazioni di Altman e delle dimissioni di Robinson c'è il dibattito politico statunitense sulla regolamentazione dell'intelligenza artificiale. Lo scorso 29 settembre, alla Casa Bianca, i principali leader del settore hanno firmato il cosiddetto White House Accord on Super Intelligence, un patto per l'autoregolamentazione dello sviluppo dell'AI. Si tratta di un documento che, secondo i critici, ambisce a lasciare alle stesse aziende tecnologiche la decisione su quali rischi siano accettabili e quali no.
La posizione dell'amministrazione americana, guidata da Donald Trump, è stata finora orientata a evitare vincoli normativi stringenti, affidandosi piuttosto alla responsabilità delle imprese. Una scelta che si scontra con le richieste provenienti da una parte significativa del settore, che chiede regole più severe sul modello di quanto avviene in altri comparti industriali considerati ad alto rischio, come quello nucleare o aeronautico.
Puoi riutilizzare questo articolo o riprenderne i contenuti, anche parzialmente, citando la fonte con link attivo a informazione.news, il portale online di notizie e approfondimenti.
