Il capo della sicurezza di Anthropic si dimette e avverte: "Il mondo è in pericolo"
Articolo Precedente
Articolo Successivo
Redazione Scienza e Tecnologia
-
La lettera d'addio, pubblicata sul suo profilo X domenica 9 febbraio, è stata un fulmine a ciel sereno per chi segue le vicende dell'intelligenza artificiale. Mrinank Sharma, che guidava il team di ricerca sulle salvaguardie di Anthropic, la startup fondata dagli italiani Dario e Daniela Amodei nota per lo sviluppo del chatbot Claude, ha rassegnato le dimissioni e lo ha fatto con un messaggio tanto criptico quanto allarmante, destinato a diventare virale in poche ore -1-3. Non si è trattato di un semplice cambio di lavoro, e la scelta del ricercatore di lasciare la baia di San Francisco per fare ritorno nel Regno Unito, con l'intenzione dichiarata di studiare poesia e dedicarsi alla scrittura, ha aggiunto un alone di mistero a una vicenda che getta ombre sul settore -3-10.
Nel documento indirizzato ai colleghi, Sharma ha ripercorso i due anni trascorsi in azienda, citando i risultati ottenuti: lo studio della saccenza, la tendenza dei modelli a compiacere l'utente, lo sviluppo di difese contro il rischio di bioterrorismo assistito dall'intelligenza artificiale e la stesura di quelli che ha definito i primi casi di sicurezza nel settore -2-8. Eppure, nonostante un percorso che lui stesso ha definito positivo e gratificante, la decisione di andarsene è maturata da una convinzione profonda e ormai ineludibile. "Ho realizzato ciò che volevo qui", ha scritto, "ma continuo a confrontarmi con la nostra situazione. Il mondo è in pericolo" -1-4.
La sua analisi travalica i confini della mera tecnologia. Sharma parla di una serie di crisi interconnesse che si stanno dispiegando proprio in questo momento storico, un intreccio di fattori che richiederebbe un livello di saggezza collettiva capace di tenere il passo con la nostra crescente capacità di influenzare il mondo -2-5. È in questo squilibrio, in questa asimmetria tra potere e responsabilità, che il ricercatore sembra individuare il nocciolo del problema. A ciò si aggiunge una constatazione amara maturata sul campo: "Ho visto ripetutamente quanto sia difficile lasciare che siano i nostri valori a governare le nostre azioni" -7-9. Una difficoltà che Sharma dice di aver osservato in sé stesso, all'interno dell'organizzazione – costantemente sotto pressione per accantonare ciò che conta davvero – e nella società nel suo complesso.
Un addio per preservare l'integrità e studiare poesia
La scelta di abbandonare un ruolo di primo piano in una delle realtà più innovative della Silicon Valley non è stata dettata, a suo dire, da un singolo episodio o da un contrasto insanabile con la governance di Anthropic. Piuttosto, appare come il frutto di una lenta e inesorabile presa di coscienza. "Ascoltando quella tensione interiore", si legge nella lettera, "ho visto più chiaramente cosa devo fare" -4. Sharma ha manifestato il desiderio di contribuire in un modo che senta pienamente allineato con la sua integrità, esplorando domande che considera essenziali. E per farlo, ha spiegato di aver bisogno di creare uno spazio vuoto, mettendo da parte le strutture che lo hanno sostenuto in questi anni per osservare cosa possa emergere in loro assenza -8-9.
Emerge così il paradosso di uno scienziato che, di fronte alla complessità dell'epoca, sceglie la poesia come strumento di indagine. L'intenzione di Sharma è quella di frequentare un corso di laurea in scrittura poetica, convinto che la "verità poetica" abbia lo stesso diritto di cittadinanza di quella scientifica, specialmente in un'era in cui la tecnologia modella ogni aspetto dell'esistenza -2-3. Lui, che fino all'altro ieri studiava come gli assistenti artificiali possano "renderci meno umani o distorcere la nostra umanità", ha deciso di esplorare l'umanità da un'altra prospettiva, tornando a "rendersi invisibile" per un periodo -3-6.
Pressioni interne e il peso delle scelte in azienda
Se il tono della lettera è perlopiù pacato e privo di recriminazioni dirette, le parole di Sharma lasciano trasparire un disagio profondo rispetto alle dinamiche che regolano il mercato dell'intelligenza artificiale. Il riferimento alle pressioni costanti per mettere in secondo piano ciò che è veramente importante non è passato inosservato agli osservatori del settore -5-7. In un'industria dove la competizione è serrata e i colossi tecnologici investono miliardi per non farsi trovare indietro – basti pensare ai quattro miliardi di dollari riversati da Amazon in Anthropic – la sensazione è che i reparti dedicati alla sicurezza e all'allineamento etico dei modelli finiscano talvolta per essere sacrificati o quantomeno ridimensionati nelle loro prerogative -7-10.
Sharma non è l'unico, del resto, ad aver lasciato l'azienda nelle ultime settimane. Insieme a lui, altri ricercatori come Harsh Mehta e Behnam Neyshabur hanno annunciato la loro uscita di scena, anche se con prospettive future diametralmente opposte: loro per avviare nuove iniziative imprenditoriali nel medesimo ambito, lui per dedicarsi alla comunità e alla scrittura -2-5. La coincidenza temporale, unita alla dimissione di Zoë Hitzig da OpenAI – che ha manifestato "profonde riserve" sulla strategia pubblicitaria della concorrente – dipinge il quadro di un momento di inquietudine diffusa tra chi, dall'interno, costruisce giorno per giorno gli strumenti che promettono (o minacciano) di ridefinire i contorni del nostro futuro -3.
Keywords: dimissioni Anthropic, Mrinank Sharma, sicurezza intelligenza artificiale, rischi AI, crisi interconnesse, poesia e tecnologia, Claude Anthropic
Description: Mrinank Sharma, capo della sicurezza di Anthropic, si dimette lanciando un allarme: "Il mondo è in pericolo". Il ricercatore lascia per studiare poesia, denunciando le pressioni del settore.




