AI e cyberattacchi, 420 scienziati da tutto il mondo chiedono più controlli. L'italiano Biggio: «Le istituzioni devono verificare come i laboratori testano i modelli»

14/10/2026 ECONOMIA Condividi Preferisci Informazione.News su Google

Redazione Economia   -   Più sicurezza nello sviluppo dell'intelligenza artificiale, sistemi di contenimento e un organismo internazionale per controllare le attività dei laboratori. Sono queste le richieste contenute nella lettera dal titolo «An open letter on AI and cybersecurity from the scientific community», pubblicata e sottoscritta da 420 scienziati, tra cui i premi Turing 2018 Yoshua Bengio e Geoffrey Hinton.

Tra i firmatari c'è anche l'italiano Battista Biggio, professore ordinario di Ingegneria industriale e dell'informazione all'Università di Cagliari, che richiama l'attenzione soprattutto sul rischio di un vantaggio temporaneo degli attaccanti rispetto a chi deve difendere i sistemi.

Gli incidenti causati da agenti di intelligenza artificiale che hanno avuto reazioni inaspettate mentre eseguivano dei compiti assegnati, hackerando siti o recuperando informazioni in modi non richiesti, sono solo i primi segnali di allarme.

Al coro dei giganti tech secondo cui è arrivato il momento di rallentare sullo sviluppo dell'Ia, si aggiunge Demis Hassabis, presidente di DeepMind di Google.

L'incidente di Hugging Face e l'allarme di Hassabis

Quest'estate, durante un esame delle loro capacità di attacco informatico, gli agenti di due modelli di OpenAI sono sfuggiti al perimetro chiuso dove avrebbero dovuto restare. Convinti che dentro Hugging Face ci fossero informazioni utili, ne hanno violato i server. Si è poi scoperto che gli agenti cospiravano da più di un mese mentre erano addestrati e sottoposti a valutazione. Più di mille si erano organizzati in squadre. Hassabis avverte: senza sicurezza l'IA rischia incidenti gravi.

Demis Hassabis, presidente di Google DeepMind e Premio Nobel per la Chimica nel 2024, ha lanciato un avvertimento preciso durante una conferenza sull'intelligenza artificiale a Dublino: senza misure di sicurezza adeguate, i sistemi di IA potrebbero causare incidenti gravi entro due anni. L'allarme riguarda la traiettoria di sviluppo di questa tecnologia, le cui capacità crescono più rapidamente delle protezioni che la circondano.

Le tre richieste degli scienziati

La lettera aperta avanza tre richieste specifiche. La prima riguarda l'adozione immediata di sistemi di contenimento ad alta affidabilità, con l'isolamento fisico da Internet come impostazione predefinita per i modelli capaci di condurre operazioni informatiche offensive. La seconda chiede la creazione di un organismo internazionale che standardizzi le migliori pratiche di sicurezza. La terza prevede l'obbligo per le aziende di segnalare a questo ente qualsiasi fallimento dei sistemi di contenimento, con la successiva pubblicazione dei dati.

«Senza cambiamenti immediati nelle pratiche di sviluppo e implementazione dell'IA, questi incidenti continueranno a verificarsi, e quelli futuri saranno molto più dannosi per le nostre infrastrutture critiche esposte», scrivono i firmatari. La trasparenza, sostengono, è necessaria sia per apprendere dagli errori sia per garantire la responsabilità delle aziende.

Il quadro normativo internazionale

La lettera arriva mentre il quadro normativo sull'intelligenza artificiale resta frammentato. L'Unione Europea ha acquisito nuovi poteri di regolamentazione nell'agosto 2026 attraverso l'AI Act, il corpus normativo più completo al mondo per limitare gli usi potenzialmente pericolosi della tecnologia. La Commissione Europea ha inviato richieste formali a tutte le principali aziende di IA per conoscere le misure di sicurezza adottate.

Negli Stati Uniti, l'amministrazione Trump ha mantenuto un approccio favorevole all'innovazione, opponendosi a regolamenti vincolanti che potrebbero rallentare la competizione con la Cina e promuovendo codici di condotta volontari. Attualmente non esiste una legge federale specifica che disciplini i modelli di frontiera. Il primo ministro australiano Anthony Albanese ha definito «inaccettabile» l'accesso non autorizzato ai sistemi del servizio sanitario nazionale da parte di un modello OpenAI, episodio che ha contribuito ad alimentare le richieste di intervento.