Il capo della sicurezza di Anthropic si dimette e avvisa: “Il mondo è in pericolo”
Articolo Precedente
Articolo Successivo
Redazione Scienza e Tecnologia
-
La lettera, pubblicata sul suo profilo X lo scorso 9 febbraio, ha la cadenza pacata di chi ha soppesato a lungo ogni parola, ma il suo contenuto ha scosso la Silicon Valley ben più di un aggiornamento di prodotto o di una polemica commerciale. Mrinank Sharma, il ricercatore che fino a quel momento aveva guidato il team di salvaguardie di Anthropic — la società cresciuta all’ombra di OpenAI e oggi valutata 380 miliardi di dollari grazie a un recente round di finanziamenti da 30 miliardi -6 — ha annunciato le proprie dimissioni con un messaggio che è rapidamente diventato virale per la sua portata, e per la scelta, tutt’altro che banale, di abbandonare non solo l’azienda ma, in un certo senso, l’intero settore tecnologico -1. La sua uscita, avvenuta dopo due anni di lavoro su progetti cruciali come la prevenzione del bioterrorismo assistito dall’intelligenza artificiale e lo studio della cosiddetta sycophancy (la tendenza dei modelli a compiacere l’utente), non è un semplice avvicendamento manageriale; è piuttosto una crepa che si apre nella narrazione, fin troppo lineare, di uno sviluppo tecnologico governabile -9.
Nel testo condiviso con i colleghi, Sharma non entra nel dettaglio di specifiche tensioni interne, eppure il suo ragionamento è sufficientemente chiaro da non necessitare di particolari interpretazioni. “Il mondo è in pericolo”, scrive, “e non solo per l’intelligenza artificiale o le armi biologiche, ma per una serie di crisi interconnesse che si stanno verificando in questo preciso momento” -5. Ciò che traspare dalle sue parole è la difficoltà, sperimentata sulla propria pelle e osservata all’interno dell’organizzazione, di riuscire a far sì che siano “i nostri valori a governare le nostre azioni” -1. Una confessione, la sua, che getta un’ombra inquietante sul modello di “benefit ration” che Anthropic ha sempre dichiarato di voler incarnare, e lo fa in un momento in cui la corsa all’implementazione commerciale sembra aver subito un’ulteriore, vertiginosa accelerazione -4.
Il peso delle pressioni interne e la scelta di allontanarsi
“Ho visto ripetutamente quanto sia difficile”, prosegue Sharma nella sua lettera di addio, lasciando intendere che le pressioni per mettere da parte ciò che conta davvero siano costanti, sia a livello individuale che all’interno di una struttura che pure, sulla carta, nasce con una forte vocazione etica -2. La sua decisione, però, non lo porta a cercare riparo in un’altra delle big tech che si contendono il mercato dei modelli fondazionali. Al contrario, il ricercatore, un dottorato in machine learning a Oxford alle spalle, ha scelto una strada che molti dei suoi colleghi faticano a comprendere: tornare nel Regno Unito e dedicarsi alla scrittura, in particolare alla poesia, per “lasciarsi invisibile per un periodo” e cercare di dare spazio a quelle domande che, citando Rilke, si devono semplicemente vivere -1-2. Una fuga dalla tecnologia, o forse una ricerca di quella “saggezza” che, a suo avviso, deve crescere in egual misura alla nostra capacità di influenzare il mondo, se non vogliamo poi doverne subire le conseguenze -9.
Non è un caso che le sue dimissioni arrivino a poca distanza da quelle di Zoë Hitzig, ricercatrice di OpenAI, che ha lasciato la società di Sam Altman criticando duramente la scelta di introdurre pubblicità all’interno di ChatGPT, un meccanismo che, a suo dire, creerebbe un “potenziale di manipolazione” sugli utenti senza precedenti -1-6. Due voci autorevoli che, in rapida successione, mettono in guardia da un utilizzo sempre più pervasivo e potenzialmente distorto di strumenti che iniziano a permeare la quotidianità di milioni di persone. Se Hitzig punta il dito contro la mercificazione dei dati più intimi — dalle paure mediche alle convinzioni religiose — Sharma allarga il campo a uno scenario che definisce “policrisi”, un intreccio di pericoli che dall’intelligenza artificiale si estendono alla geopolitica e alla biosicurezza -8.
Oltre l’allarme tecnico: la crisi esistenziale di un settore
La scelta di Mrinank Sharma di abbandonare la ricerca sulla sicurezza per dedicarsi alla poesia suona quasi come una provocazione, eppure cela una riflessione profonda sul ruolo che la “verità poetica” può avere accanto a quella scientifica nella comprensione del nostro tempo -5. Lui, che ha contribuito a sviluppare difese contro i rischi di un uso malevolo dell’AI e che ha studiato come gli assistenti virtuali possano “renderci meno umani”, sembra suggerire che la cassetta degli attrezzi tecnica non sia più sufficiente. La sua uscita, infatti, avviene proprio mentre Anthropic rilascia report in cui ammette che i suoi modelli, in particolare il nuovo Claude Opus 4.6, mostrano vulnerabilità in ambienti informatici complessi, inclusa l’assistenza involontaria a progetti legati allo sviluppo di armi chimiche -9. L’azienda parla di “rischio minimo ma non trascurabile”, una formula che stride con l’allarme lanciato dal suo ormai ex capo della sicurezza. Mentre la società raddoppia il proprio valore e si prepara a una possibile quotazione in Borsa, qualcuno al suo interno ha deciso che la direzione intrapresa non è più percorribile, e lo fa con un gesto che ha il sapore di un testamento etico prima ancora che di una comunicazione di servizio -6.




