La Toyota Yaris che inganna l’IA: a Las Vegas il primo test del camouflage anti-sorveglianza
Articolo Precedente
Articolo Successivo
Redazione Scienza e Tecnologia
-
A Las Vegas, nel corso dell'ultima edizione del Def Con, la conferenza di cybersicurezza che da anni rappresenta un osservatorio privilegiato sulle vulnerabilità del mondo digitale, ha fatto parlare di sé un esperimento tanto semplice nella sua essenza quanto dirompente nelle sue implicazioni. Un ricercatore ha dimostrato come sia possibile rendere un’automobile, una Toyota Yaris del 2009, di fatto invisibile agli occhi di un sistema di sorveglianza basato sull’intelligenza artificiale.
Il veicolo, completamente avvolto da una pellicola con un pattern geometrico psichedelico, è passato più volte davanti a una telecamera di Flock Safety, uno dei principali fornitori di sistemi di lettura targhe negli Stati Uniti, senza che il software registrasse alcun allarme o dato identificativo.
Il progetto, che risponde al nome di noRecognition, è stato sviluppato da Bill Swearingen, fondatore dell'azienda di cybersecurity Sixcyber e figura di spicco della comunità SecKC di Kansas City.
Lontano dall'essere una sorta di mantello dell'invisibilità fantascientifico, il sistema sfrutta un principio noto come "attacco avversariale" (adversarial attack). La pellicola non impedisce alla telecamera di riprendere l'immagine dell'auto; anzi, un occhio umano la riconoscerebbe senza alcuna difficoltà. Il "trucco" sta nel fatto che il pattern grafico, generato a sua volta da un'intelligenza artificiale, è specificamente progettato per confondere gli algoritmi di computer vision, impedendo loro di classificare correttamente l'oggetto come veicolo.
31 milioni di tentativi per confondere gli algoritmi
Alla base di questa apparente magia tecnologica c'è un lavoro certosino e metodico. Swearingen ha impiegato circa un anno per mettere a punto il progetto, conducendo la bellezza di 31 milioni di test al computer. Il suo sistema, un modello di reinforcement learning, ha il compito di generare pattern e testarli contro diversi modelli di riconoscimento open source.
Ogni volta che un algoritmo riusciva a identificare il veicolo, il sistema modificava il disegno e riprovava, in un ciclo di tentativi ed errori che ha portato all'individuazione di configurazioni grafiche in grado di mettere in difficoltà ben 11 diversi sistemi di rilevamento. Tra questi, figurano non solo i software per la lettura delle targhe, come quelli utilizzati da Flock, ma anche algoritmi per il riconoscimento facciale e per videocamere indossabili.
La dimostrazione pratica al Def Con ha rappresentato il primo banco di prova nel mondo reale per la tecnologia, e i risultati hanno confermato le aspettative del ricercatore. La Toyota Yaris, avvolta dalla pellicola, ha percorso la strada davanti alla telecamera di Flock, che ha regolarmente inquadrato la scena. Tuttavia, il software di riconoscimento, come ha raccontato lo stesso Swearingen a TechCrunch, non è stato in grado di elaborare l'immagine: non ha identificato il veicolo, non ha attivato alcun allarme e, conseguentemente, non ha nemmeno tentato di leggere la targa.
L'unica difficoltà riscontrata, a quanto pare, è stata rappresentata dalle ruote, che non essendo completamente coperte dalla pellicola, potrebbero aver fornito un indizio all'algoritmo, un dettaglio su cui il ricercatore sta ancora lavorando.
La privacy come diritto fondamentale in un'era di sorveglianza di massa
La motivazione che spinge Swearingen a sviluppare un progetto come noRecognition è radicata in una crescente preoccupazione per la diffusione capillare dei sistemi di sorveglianza automatizzata, specialmente negli Stati Uniti dove reti come quella di Flock Safety sono ormai onnipresenti. L'azienda, che gestisce una rete di oltre 120.000 lettori di targhe in tutto il paese, ha recentemente rivisto le proprie politiche di conservazione dei dati, riducendo il periodo di default da trenta a sette giorni, in risposta alle critiche sollevate da associazioni per le libertà civili come l'ACLU, che continuano a sollevare dubbi sulla costituzionalità e sul potenziale uso improprio di questi strumenti.
In questo contesto, il lavoro di Swearingen si configura come un tentativo di riequilibrare il rapporto tra cittadino e controllo tecnologico. Il ricercatore, che ha dichiarato di essersi sentito a disagio all'idea di partecipare a una protesta temendo di essere identificato e tracciato dai sistemi di sorveglianza, sostiene che "la privacy è un diritto fondamentale" e che i suoi pattern rappresentano un modo per consentire alle persone di "rinunciare a essere rintracciate".
La sua tecnologia, tuttavia, non si limita a sfidare lo status quo: l'obiettivo dichiarato è anche quello di accendere un riflettore sulle vulnerabilità e sui potenziali errori di sistemi sempre più pervasivi, che possono portare a conseguenze gravi come fermate errate da parte delle forze dell'ordine.
L'esperimento della Toyota Yaris, insomma, non è un semplice esercizio di stile hackeristico, bensì una dimostrazione pratica di come l'intelligenza artificiale, che oggi alimenta i sistemi di sorveglianza, possa essere a sua volta ingannata da se stessa, generando pattern in grado di sfruttarne i punti ciechi.
Il passo successivo, come anticipato da Swearingen, sarà quello di applicare lo stesso principio all'abbigliamento, per creare felpe e t-shirt che possano rendere le persone altrettanto invisibili agli occhi delle macchine, allargando così il fronte di una battaglia per la privacy che si gioca sempre più sul piano dell'innovazione tecnologica.
Puoi riutilizzare questo articolo o riprenderne i contenuti, anche parzialmente, citando la fonte con link attivo a informazione.news, il portale online di notizie e approfondimenti.
