Il modello “troppo pericoloso” di Anthropic finisce nelle mani sbagliate, e qualcuno lo stava già usando

Articolo Precedente

precedente
Articolo Successivo

successivo

Redazione Economia Redazione Economia   -   La storia della sicurezza informatica è costellata di ironie tragiche, ma quella che coinvolge Anthropic in queste ore ha il sapore amaro di una profezia che si autoavvera. L’azienda, che aveva definito il suo modello Claude Mythos Preview una minaccia troppo grave per essere messa a disposizione del pubblico data la sua capacità di bucare qualsiasi sistema operativo e browser esistente su semplice comando, si è trovata a fare i conti con l’incubo che sperava di evitare. Il modello, custodito con la massima riservatezza e concesso solo a pochissime aziende selezionate, è stato violato. Secondo quanto riportato da Bloomberg, un gruppo di utenti non autorizzati è riuscito a metterci le mani sopra ormai da diverse settimane, accedendovi attraverso un ambiente di un fornitore terzo, una falla nella catena di fornitura che ha reso vana ogni precauzione interna.

La fuga di Mythos e l’accesso illecito dei “curiosi”

Non era ancora stato ufficialmente rilasciato quando qualcuno lo stava già testando nell’ombra. Questo è quanto accaduto a Claude Mythos Preview, il modello che Anthropic stessa descrive come il più pericoloso mai sviluppato, capace di identificare e sfruttare vulnerabilità in autonomia. La violazione sarebbe avvenuta nello stesso giorno in cui l’azienda annunciava il rilascio limitato del progetto Glasswing, quasi come se gli intrusi avessero voluto dimostrare la fragilità del concetto di “accesso controllato”. Gli utenti, che si muovono all’interno di un canale Discord specializzato nella ricerca di modelli IA non ancora pubblicati, avrebbero avuto accesso al modello per oltre due settimane. Fonti vicine alla vicenda rivelano che, una volta entrati in possesso delle credenziali (presumibilmente appartenenti a un dipendente di un contractor), il gruppo non si è limitato a un semplice sguardo, ma ha utilizzato Mythos regolarmente, sebbene dichiarino di averlo fatto per scopi esplorativi e non offensivi, come la realizzazione di semplici siti web, forse per non alzare bandiere rosse nei sistemi di monitoraggio.

L’integrazione Microsoft e la guerra silenziosa nella difesa cyber

Proprio mentre Anthropic correva ai ripari per tappare la falla, Microsoft ha ufficializzato l’integrazione del discusso modello nei propri strumenti di sicurezza. Una scelta, quest’ultima, che riflette una tendenza sempre più netta nel settore: quella di utilizzare l’intelligenza artificiale non solo come firewall passivo, ma come scudo attivo in grado di anticipare le mosse degli aggressori. L’inserimento di Mythos all’interno del framework di sviluppo di Redmond avviene in un momento storico delicato, in cui le aziende tecnologiche e i governi stanno cercando di comprendere l’impatto reale di queste tecnologie, spostando l’ago della bilancia tra offesa e difesa informatica. Tuttavia, l’incidente di sicurezza che ha riguardato Anthropic getta un’ombra inquietante su questa strategia: se un modello pensato per difendere può essere sottratto e potenzialmente usato per attaccare, la corsa agli armamenti dell’IA rischia di avere un unico, pericoloso vincitore.

Dati alla mano: il paradosso della trasparenza negata

Nonostante le rassicurazioni di rito da parte di Anthropic, che ha dichiarato di stare indagando sull’accaduto senza trovare al momento prove di un impatto sui propri sistemi centrali, la vicenda solleva dubbi sostanziali sulla gestione dei cosiddetti “modelli di frontiera”. La stessa azienda aveva ammesso che i modelli pubblici, sebbene inferiori a Mythos, sono già in grado di scovare vulnerabilità dimenticate da anni. Eppure, mentre il modello veniva utilizzato senza permesso, la comunità dei ricercatori (quella esclusa dal progetto) non ha avuto modo di verificare le reali capacità di Mythos. Se da un lato l’azienda vanta il ritrovamento di migliaia di vulnerabilità, dall’altro mancano dati cruciali, come il tasso di falsi positivi o la capacità del modello di operare al di fuori dei dataset di addestramento standard. In questo vuoto di trasparenza, l’accesso illecito del gruppo Discord rappresenta quasi un’analisi forense parallela, mostrando che la sicurezza assoluta, quando si parla di IA, è un’illusione costosa quanto pericolosa.

Puoi condividere questo articolo o riprenderne i contenuti, anche parzialmente, citando la fonte con link attivo a informazione.news, il portale online di notizie e approfondimenti.