Anthropic e l’incubo Mythos: il modello Ai «pericoloso» finisce (subito) nelle mani sbagliate

Articolo Precedente

precedente
Articolo Successivo

successivo

Redazione Economia Redazione Economia   -   Bastano poche ore, talvolta, per trasformare una narrazione di sicurezza assoluta – costruita con cura da un’azienda che fa della mitigazione dei rischi il proprio manifesto – in un imbarazzante esercizio di retorica. Succede ad Anthropic, la creatura di Dario Amodei che aveva deciso di non rilasciare al grande pubblico Claude Mythos, il suo modello sperimentale avanzato, proprio per timore che quell’arma a doppio taglio (capace di scovare vulnerabilità dove l’occhio umano fallisce) potesse finire nelle mani di chi non doveva averlo. Il risultato, a dir poco paradossale, è che la gabbia progettata per tenere lontani i malintenzionati aveva già un varco, e qualcuno l’ha attraversato.

Un accesso «da dilettanti» che espone il fianco più debole della sicurezza AI

Secondo quanto ricostruito da Bloomberg e poi ripreso da testate specializzate come The Verge, un piccolo gruppo di «utenti non autorizzati» – riunito in un forum privato su Discord – ha sostanzialmente bussato alla porta sbagliata trovandola aperta. L’accesso, avvenuto il 7 aprile, lo stesso giorno in cui Anthropic annunciava il lancio limitato del modello, non è il frutto di un’operazione da film: niente hacker sofisticati in incognito, bensì un «colpo di fortuna ragionato», un mix di informazioni recuperate da un precedente data breach (quello della piattaforma Mercor) e un account di un appaltatore terzo che collabora con l’azienda. Utilizzando strumenti di ricerca aperti a chiunque e un po’ di ingegno digitale, i membri del gruppo hanno localizzato l’endpoint del modello. Per due settimane, stando alle testimonianze raccolte, hanno giocato con Mythos senza che nessuno se ne accorgesse, limitandosi a testarne le potenzialità (non per scopi offensivi, fortunatamente, ma il danno reputazionale era ormai fatto).

«Project Glasswind», la gabbia d’oro che non ha retto

Per comprendere l’entità dello scivolone, bisogna guardare a cosa rappresenta Mythos nel panorama della cyber security. Anthropic lo aveva descritto come un modello in grado di autonomamente identificare e sfruttare vulnerabilità «zero-day» in ogni sistema operativo e browser moderno, scoprendo bachi sopravvissuti anche per decenni – come un difetto di 27 anni in OpenBSD. Per questo era nato il «Project Glasswind»: un consorzio ristretto di partner selezionati (tra cui colossi come Apple, Microsoft, Google, Nvidia e Amazon) che avrebbero dovuto lavorare in un ambiente protetto, sfruttando l’Ai per rafforzare le difese invece di lasciarlo in balia del crimine informatico. L’ironia, amara per la società fondata da ex membri di OpenAI, è che il perimetro così rigidamente tracciato è stato violato da un baco interno (una vulnerabilità nel sistema di accesso di un fornitore terzo) e non da un attacco esterno.

L’ombra della cronaca nera tecnologica e il dilemma della doppia verità

La vicenda, che ha dell’assurdo per una realtà che aveva posto la «sicurezza» come proprio cavallo di battaglia, solleva interrogativi precisi sulla catena di custodia dei modelli più sensibili. Se è vero che Microsoft sta accelerando l’integrazione di queste intelligenze nei propri framework di difesa informatica – e che governi e banche centrali (come quelle del Giappone e dell’Australia) guardano a Mythos con un misto di timore e attrazione – è altrettanto vero che la falla dimostra una certa fragilità del sistema. Il fatto che l’accesso non abbia provocato una catastrofe immediata non cancella l’evidenza: Anthropic non ha monitorato abbastanza da vicino un modello che la stessa azienda definiva «una svolta epocale» per la capacità di scovare errori nei prodotti digitali. La violazione, come notato da esperti di sicurezza intervistati dalla stampa estera, era «del tutto immaginabile» e rappresenta un’umiliazione per chi si era autoproclamato il baluardo dell’Ai responsabile.

Un precedente che pesa come un macigno sul futuro normativo

Resta, sullo sfondo, la natura ambivalente di uno strumento che promette di riparare i sistemi ma che, se impugnato da mani sbagliate, potrebbe diventare un moltiplicatore di disastri. La capacità di Mythos di scrivere exploit in autonomia o di aggirare sandbox in modo creativo (come documentato nei report interni della stessa Anthropic) è esattamente ciò che attrae sia i difensori che gli aggressori. Se i «ragazzi di Discord» ci sono riusciti con un semplice ragionamento a indovinare l’indirizzo del modello, chissà cosa potrebbe accadere se a fare lo stesso tentativo fosse un attore statale o una criminal organization ben finanziata. Siamo di fronte a una crepa nel mito della sicurezza preventiva: l’intelligenza artificiale più temuta del momento ha già mostrato il fianco, e il colpo, paradossalmente, non è partito dall’esterno.

Puoi condividere questo articolo o riprenderne i contenuti, anche parzialmente, citando la fonte con link attivo a informazione.news, il portale online di notizie e approfondimenti.