Il braccio di ferro tra Anthropic e il Pentagono: l’azienda rifiuta di rimuovere i limiti etici dal suo chatbot Claude
Articolo Precedente
Articolo Successivo
Redazione Esteri
-
La tensione tra il dipartimento della Guerra americano, ex dipartimento della Difesa, e il mondo dell’intelligenza artificiale è esplosa in uno scontro aperto e senza precedenti. Anthropic, la startup guidata da Dario Amodei che ha sviluppato il noto chatbot Claude, ha ufficialmente respinto l’ultimatum del Pentagono, il quale chiedeva la rimozione di due specifiche salvaguardie per poter utilizzare la tecnologia AI in ambito militare senza restrizioni. La posta in gioco è alta, considerando che sul tavolo c’è un contratto del valore di duecento milioni di dollari, ma l’azienda ha deciso di non cedere, motivando la propria scelta con principi etici e preoccupazioni legate all’affidabilità dei sistemi attuali -1-2.
Le due linee rosse che Anthropic non intende oltrepassare
Il nocciolo della disputa, che va avanti ormai da settimane, ruota attorno a due punti specifici che Anthropic considera non negoziabili. Da un lato, l’azienda si oppone fermamente all’utilizzo di Claude per operazioni di sorveglianza di massa sul territorio statunitense, un impiego che, a suo giudizio, risulterebbe “incompatibile con i valori democratici” -2-3. Dall’altro lato, c’è il rifiuto categorico di vedere la propria intelligenza artificiale impiegata in sistemi d’arma completamente autonomi, capaci cioè di selezionare e colpire un bersaglio senza l’intervento umano diretto. Amodei, in una nota pubblica, ha spiegato che i modelli di AI cosiddetti “di frontiera”, come Claude, non sono ancora sufficientemente affidabili per essere utilizzati in contesti dove sono in gioco vite umane, citando il rischio concreto di errori, fuoco amico o escalation indesiderate -1-4. L’azienda ha ribadito di non voler fornire consapevolmente un prodotto che potrebbe mettere a rischio soldati e civili americani -2.
La replica del Pentagono: “Accesso per tutti gli scopi legali”
Di fronte a questa posizione, la risposta del dipartimento della Guerra non si è fatta attendere ed è apparsa altrettanto netta. Il portavoce Sean Parnell, attraverso un messaggio sulla piattaforma X, ha dichiarato che il Pentagono non ha alcun interesse nell’effettuare sorveglianza di massa sui cittadini americani, definendo tale pratica illegale, né intende sviluppare armi autonome che operino senza controllo umano -1-9. La richiesta, secondo Parnell, è molto più semplice: “Permettere al Pentagono di utilizzare il modello di Anthropic per tutti gli scopi legali” -9. La tensione è salita ulteriormente quando Emil Michael, sottosegretario alla Difesa per la Ricerca e l’Ingegneria, ha attaccato duramente Amodei sui social, definendolo un “bugiardo” con un “complesso di Dio” e accusandolo di voler mettere a rischio la sicurezza nazionale anteponendo i capricci di un’azienda privata alle esigenze militari -1-10.
Le minacce di Washington e la determinazione di Anthropic
Le conseguenze per Anthropic, in caso di mancato adeguamento alle richieste entro il termine ultimo fissato per le 17:01 di venerdì, sarebbero state pesanti. Il Pentagono aveva minacciato non solo di rescindere il contratto, ma anche di dichiarare l’azienda un “rischio per la catena di approvvigionamento”, una designazione che di fatto la escluderebbe da future commesse governative -1-5. Ancora più grave, era stata ventilata la possibilità di invocare il Defense Production Act, una legge del 1950, per costringere Anthropic a cedere l’accesso alla propria tecnologia -1-5. Nonostante queste pressioni, definite dallo stesso Amodei come “minacce intrinsecamente contraddittorie”, la posizione della società non è mutata: “Non possiamo in buona coscienza accedere alla loro richiesta”, ha scritto il CEO, ribadendo la piena disponibilità a continuare a servire le forze armate, ma solo con le due garanzie richieste saldamente in vigore -1-8. Fonti vicine all’azienda hanno precisato che non si tratta di accusare il Pentagono di voler compiere operazioni illecite, ma di offrire un giudizio di sicurezza sul prodotto, sottolineando che l’attuale quadro normativo non impedisce all’AI di trarre conclusioni invasive aggregando dati, violando di fatto lo spirito delle tutele costituzionali -1-4.
Lo scenario e le possibili conseguenze del no
Mentre l’ora X si avvicinava, Anthropic, in una nota, aveva sottolineato come il nuovo testo contrattuale ricevuto dal dipartimento della Guerra non facesse “virtualmente alcun progresso” sulla questione della sorveglianza di massa e delle armi autonome, presentando un linguaggio che di fatto avrebbe permesso di ignorare le salvaguardie a piacimento -7-9. L’azienda ha comunque assicurato che, in caso di rottura, lavorerà per garantire una transizione fluida verso un altro fornitore, evitando così disagi alle operazioni militari -1-3. Nel frattempo, il Pentagono aveva già iniziato a sondare il terreno con grandi appaltatori della difesa come Boeing e Lockheed Martin per valutare l’impatto di una possibile esclusione di Anthropic, un primo passo concreto verso la dichiarazione di “rischio per la catena di approvvigionamento” -2-7. La posizione della startup, sostenuta pubblicamente da oltre duecento dipendenti di Google e OpenAI, ha trasformato una disputa commerciale in un caso di principio sull’etica dell’intelligenza artificiale e sul suo ruolo nei meccanismi di difesa e sicurezza nazionale -1.




