Intelligenza artificiale, il rapporto Anthropic sugli abusi di Claude: dalla Marina Usa ai missili Houthi

Articolo Precedente

precedente
Articolo Successivo

successivo
ESTERI Preferisci Informazione.News su Google

Redazione Esteri Redazione Esteri   -   L'opinione pubblica globale è spaccata a metà nei confronti dell'intelligenza artificiale. Da un lato c'è la diffusione di massa dell'Ai, entusiastica e acritica, con centinaia di milioni di utenti settimanali; dall'altro un rifiuto quasi luddista, dettato dai timori per le conseguenze occupazionali, economiche, sociali e politiche. A gettare benzina sul fuoco arriva ora l'ultimo report del colosso Anthropic sull'uso improprio dei suoi modelli, che documenta una serie di operazioni malevole identificate e interrotte dall'azienda fondata da Dario e Daniela Amodei.

Il caso Iran e il tracciamento delle navi americane

Un gruppo collegato all'Iran ha utilizzato Claude, il modello di intelligenza artificiale sviluppato dalla startup americana, per tentare di tracciare navi da guerra della Marina degli Stati Uniti in Medio Oriente. Lo rivela il rapporto di 154 pagine pubblicato da Anthropic, che descrive le nuove modalità con cui gli avversari degli Stati Uniti stanno sfruttando l'IA per scopi ostili. Secondo il documento, l'azienda afferma di aver sventato il piano prima che producesse effetti.

Il gruppo ha raccolto informazioni provenienti da transponder di navi e aerei, fotografie militari e immagini satellitari commerciali, compilando quella che Anthropic definisce una sorta di manuale di targeting. Non solo: gli operatori hanno chiesto a Claude di catalogare vulnerabilità note nei sistemi di comunicazione di bordo, inclusi terminali satellitari marittimi e apparecchiature Cisco.

Dai droni kamikaze russi ai missili degli Houthi

Il rapporto Anthropic non si limita al caso iraniano. Un piccolo team di sviluppatori russi ha utilizzato Claude per costruire software destinato a droni autonomi capaci di scegliere i propri bersagli e schiantarsi per detonare, senza che un essere umano prenda la decisione finale. Nella programmazione, il gruppo indicava ripetutamente una località nella regione ucraina di Donetsk come obiettivo, aggirando i blocchi geografici di Anthropic tramite VPN.

Sempre secondo il report, un gruppo nel nord dello Yemen controllato dagli Houthi ha sfruttato Claude Code per progettare software per un razzo guidato, un missile a lungo raggio e persino un veicolo ipersonico. Anthropic sostiene che non ci sono prove che gli attori siano riusciti a mettere in campo un dispositivo operativo, ma hanno effettuato un test di lancio fallito e sono tornati dall'IA per capire cosa fosse andato storto.

Il rapporto cita anche un consulente in Mali che ha sviluppato un sistema di sorveglianza di massa per conto dei servizi segreti della giunta, un'operazione di propaganda gestita da un'agenzia pubblicitaria francese con circa 70 siti di notizie false, e una rete di app di incontri cinesi gestite segretamente da Claude.

I rischi segnalati da Anthropic e la richiesta di rallentare

Tra i pericoli analizzati dallo studio, quello della realizzazione di organismi biologici a duplice uso civile-militare è tra i più inquietanti. Il rapporto evidenzia casi di ricercatori che hanno tentato di utilizzare i modelli linguistici per pianificare esperimenti di potenziamento su agenti patogeni, come modifiche al virus Chikungunya per aumentarne la virulenza e la trasmissibilità. Anthropic ha anche bloccato una richiesta di assistenza per la stesura di una domanda di finanziamento scientifico relativa a ricerca gain-of-function.

Nel campo cibernetico, le operazioni malevole hanno riguardato lo sviluppo di agenti per attacchi informatici, spingendo la macchina a evolversi da semplice assistente conversazionale ad architettura autonoma capace di eseguire scansioni, sfruttare vulnerabilità del software ed esfiltrare dati a velocità massima. Non sono mancati i tentativi di sviluppare programmi per la costruzione di armi convenzionali come droni, missili e armi da fuoco.

La corsa Usa e la posizione di Trump

Nei giorni della grande paura per la perdita di controllo di un'AI ormai quasi sovrumana, Dario Amodei ha incassato l'adesione degli altri tre leader Usa del settore — OpenAI, Google e la xAI di Musk — alla sua proposta di rallentare lo sviluppo dei modelli più avanzati per avere il tempo di costruire protezioni per l'umanità. Sam Altman ha dichiarato di voler introdurre valutatori indipendenti con accesso simile a quello dei dipendenti, mentre Demis Hassabis ha affermato che l'essay di Amodei indica la direzione giusta. Elon Musk si è limitato a scrivere: "Dario ha ragione".

Il presidente degli Stati Uniti Donald Trump ha però respinto gli allarmi, definendo "forze negative" chi vuole rallentare lo sviluppo dell'IA. "Siamo in vantaggio rispetto alla Cina nell'IA, siamo il Paese più avanzato al mondo. E francamente, voglio che resti così, perché chi vince la sfida dell'IA, vince tutto", ha detto. Il leader dei Democratici alla Camera, Hakeem Jeffries, ha invece esortato il Congresso ad agire con urgenza, annunciando una riunione con i colleghi di partito per fare dell'azione sull'intelligenza artificiale una priorità assoluta.

Puoi riutilizzare questo articolo o riprenderne i contenuti, anche parzialmente, citando la fonte con link attivo a informazione.news, il portale online di notizie e approfondimenti.