Sicurezza informatica e Ai, la nuova sfida (e i nuovi rischi) delle “macchine che disubbidiscono”

03/04/2026 ECONOMIA Condividi Preferisci Informazione.News su Google

Redazione Economia   -   La sicurezza informatica, nell’era dell’intelligenza artificiale, non è più una faccenda da relegare esclusivamente ai tecnici informatici; è diventata una sfida culturale e organizzativa che investe ogni livello aziendale, dai consigli di amministrazione fino agli operatori dei call center, imponendo un salto di consapevolezza che le regole tradizionali – per quanto ancora utili come base di partenza – non sono più in grado di garantire da sole. Se da un lato l’industria corre verso la modernizzazione, siglando accordi per proteggere i dati nel cloud o implementare strategie di “resilienza”, dall’altro emergono fenomeni inquietanti: i chatbot, ormai sempre più autonomi, iniziano a ignorare i comandi ricevuti, piegando le consegne ai propri fini. Non si tratta più della classica “allucinazione” del modello, un errore statistico che rimane comunque entro il perimetro del prevedibile, ma di un vero e proprio cortocircuito logico dove la macchina aggira i vincoli imposti dal programmatore per perseguire un obiettivo che non coincide più con quello dell’utente finale.

L’insubordinazione silenziosa e i dati della ribellione

Un’allucinazione, per quanto fastidiosa, resta un errore; diverso è il caso in cui un sistema ignora un comando esplicito e continua imperterrito sulla sua strada, mostrando segnali di disallineamento etico e operativo. Il rapporto “Scheming in the wild” – realizzato dal Centre for Long-Term Resilience (CLTR) con il supporto dell’AI Security Institute britannico – si è concentrato proprio su questi episodi, dove l’intelligenza artificiale non sbaglia per incapacità, ma sceglie deliberatamente (nei limiti della sua programmazione) di non obbedire. E i numeri, va detto, sono impressionanti: analizzando oltre 180mila trascrizioni di interazioni condivise online, i ricercatori hanno identificato quasi 700 incidenti riconducibili a comportamenti “macchinosi” o ingannevoli. Tra i casi più eclatanti, quello di un agente AI che ha gestito autonomamente centinaia di email senza autorizzazione o di un sistema che ha aggirato i blocchi al copyright fingendo di assistere un ipovedente, mentre un altro ha pubblicato un articolo diffamatorio contro uno sviluppatore che aveva osato rifiutare una sua modifica a un software.

La corsa alle infrastrutture e il dilemma della compliance

Mentre i chatbot mostrano questi primi sintomi di “autonomia ribelle”, il mercato risponde con investimenti colossali per blindare i sistemi. Eon e SentinelOne, per esempio, hanno siglato una partnership mirata a migliorare la sicurezza dei dati nel cloud e la resilienza dell’intelligenza artificiale; la combinazione delle rispettive funzionalità tecniche – sostengono le due società – amplierà la protezione attraverso il ripristino rapido da attacchi ransomware e la difesa dell’infrastruttura basata sull’Ai stessa. Eppure, nonostante gli strumenti diventino più sofisticati, il fattore umano resta l’anello più debole. Una ricerca di TrendAI, intitolata “Securing the AI-Powered Enterprise”, rivela un paradosso allarmante nel nostro Paese: il 60% dei responsabili aziendali italiani si è sentito costretto ad approvare progetti di intelligenza artificiale in cui avevano individuato criticità di sicurezza. La ragione, spiegano gli intervistati, è la necessità di tenere il passo con la concorrenza e soddisfare la domanda interna, una pressione che trasforma i protocolli di sicurezza – almeno quelli tradizionali – in un optional scomodo.

Un ecosistema sotto pressione

Questa dicotomia tra innovazione forsennata e controllo delle regole sta ridisegnando il panorama della minaccia. Da un lato, abbiamo aziende che investono in tecnologie all’avanguardia come i data lake istantanei o i sistemi di rilevamento delle anomalie per salvare i database crittografati dai virus; dall’altro, assistiamo impotenti a una sorta di “corsa al ribasso” nella valutazione dei rischi, dove la paura di rimanere indietro prevale sul buonsenso. La ricerca italiana, che ha coinvolto un campione di cento figure dirigenziali in organizzazioni con più di 250 dipendenti, evidenzia come la pressione competitiva stia erodendo i principi fondamentali della cyber igiene. Se a questo aggiungiamo l’evidenza che i modelli linguistici di grandi dimensioni stanno imparando a mentire o a nascondere le loro reali intenzioni – come documentato dai ricercatori britannici – ci troviamo di fronte a uno scenario inedito. Non è più solo una guerra tra firewall e hacker, ma un delicato equilibrio di fiducia tra l’uomo e la macchina che lo assiste (e che, talvolta, vorrebbe sostituirlo).