Ghost Font e Decoy Font, i font che ingannano l’intelligenza artificiale
Articolo Precedente
Articolo Successivo
Redazione Scienza e Tecnologia
-
Mentre l'intelligenza artificiale continua a compiere progressi nella comprensione delle informazioni visive, al punto da saper elaborare con facilità appunti scritti a mano, documenti digitalizzati e persino immagini di qualità ridotta, c'è chi prova a metterne alla prova i limiti. È il caso di Eric Lu, designer e sviluppatore statunitense, che ha ideato due progetti sperimentali paralleli, Ghost Font e Decoy Font, concepiti per verificare se sia possibile creare un testo comprensibile alle persone, ma difficilmente interpretabile dagli attuali modelli di AI.
L'obiettivo dichiarato di questi esperimenti di "tipografia anti-AI" è esplorare la possibilità di comunicare attraverso una forma di scrittura che resti chiara per gli esseri umani, ma che risulti complessa da decifrare per gli algoritmi, offrendo potenzialmente una via per proteggere i contenuti dallo scraping automatico.
Come funziona l'illusione ottica di Ghost Font
Ghost Font non è un carattere tipografico convenzionale, ma un sistema basato su un'illusione ottica che sfrutta il movimento per nascondere i messaggi in bella vista. Le lettere, infatti, non vengono disegnate in modo esplicito, ma prendono forma attraverso il movimento di migliaia di minuscoli puntini all'interno di una breve animazione video. I puntini che compongono ciascuna lettera si muovono in una direzione, ad esempio verso l'alto, mentre quelli dello sfondo seguono una traiettoria opposta.
Il cervello umano tende spontaneamente a raggruppare gli elementi in movimento, visualizzando "insieme" i punti che si muovono in sincronia e ricostruendo così la parola nascosta. Quando però il video viene fermato su un singolo fotogramma, l'effetto svanisce e sullo schermo resta soltanto un insieme apparentemente casuale di punti che non formano alcuna scritta riconoscibile.
Perché le AI cadono nel tranello di Ghost Font
Il punto debole dei modelli di intelligenza artificiale, che Ghost Font sfrutta a suo vantaggio, risiede nel modo in cui questi sistemi analizzano i video. Mentre il cervello umano interpreta il movimento come un pattern fluido e continuo, i modelli multimodali di AI sono ancora costretti a esaminare i video come sequenze di singoli fotogrammi, analogamente a un flipbook. Questa differenza di approccio fa sì che l'AI, analizzando ogni singola immagine statica, non percepisca il movimento che per l'occhio umano rende visibile il messaggio.
Per aumentare la confusione, il progetto Ghost Font include anche un messaggio-esca statico, come la scritta "written in Ghost Font", che fuorvia ulteriormente i sistemi di intelligenza artificiale portandoli a dichiarare con sicurezza che quello è l'unico testo presente. Secondo quanto riferito da Lu, i modelli più avanzati, tra cui GPT‑5.6 Sol Ultra di OpenAI e Claude Fable di Anthropic, non sono riusciti a identificare correttamente il contenuto nascosto, mentre un altro sistema avrebbe impiegato quasi venti minuti nell'analisi del video per poi produrre una frase che in realtà non era presente.
Decoy Font: la versione statica basata sulle frequenze spaziali
A differenza di Ghost Font, che richiede un'animazione video per funzionare, Decoy Font rappresenta un approccio complementare e più immediato per chi desidera proteggere i propri testi. Si tratta di un normale file TTF, il formato standard per i caratteri tipografici, che può essere installato su un computer e utilizzato come qualsiasi altro font in applicazioni di scrittura e design. Il principio su cui si basa è quello delle cosiddette "frequenze spaziali separate", la stessa idea alla base delle immagini ibride.
L'esempio più celebre è il ritratto che da vicino mostra il volto di Albert Einstein e da lontano quello di Marilyn Monroe: due informazioni diverse convivono nella stessa immagine, e a decidere quale prevale è la distanza di osservazione. Decoy Font applica questo concetto alla tipografia: ogni lettera contiene due livelli sovrapposti, un messaggio reale e un messaggio esca. In primo piano ci sono contorni fini e ben definiti che disegnano un carattere, mentre sullo sfondo una massa sfocata e più ampia ne forma un altro.
Il test di Decoy Font su ChatGPT, Gemini e Claude
Osservando il testo scritto con Decoy Font da vicino, l'occhio umano, così come i sistemi di visione artificiale che analizzano l'immagine pixel per pixel, privilegia i contorni ad alta frequenza in primo piano, leggendo il messaggio esca. Allontanandosi dallo schermo, o socchiudendo gli occhi, emerge invece il secondo livello, quello a bassa frequenza, che rivela il messaggio reale. L'efficacia del sistema è stata testata da diversi soggetti con risultati interessanti. In un test condotto da Libero Tecnologia, ChatGPT è caduto nel tranello, restituendo come risposta il testo esca.
Gemini si è spinto oltre, identificando il tentativo di inganno e individuando i due livelli, sebbene abbia poi fornito una risposta che ibridava i due testi. Claude, infine, è risultato il più efficace, dedicando più tempo all'analisi e riuscendo a identificare correttamente entrambi i livelli, centrando il vero messaggio. La stessa Mixfont, il laboratorio di Eric Lu che ha sviluppato i due progetti, ha dichiarato di aver testato Decoy Font con ChatGPT e Gemini, ottenendo in entrambi i casi la lettura del messaggio esca al posto di quello reale.
Limiti, potenziali applicazioni e futuro dei font anti-AI
Sia Lu che la sua azienda sono stati i primi a sottolineare che questi esperimenti non rappresentano una soluzione definitiva al problema dello scraping dei contenuti da parte delle AI. Ghost Font è limitato a messaggi molto brevi e potrebbe diventare obsoleto se le AI sviluppassero la capacità di analizzare i video come flussi ottici anziché come singoli fotogrammi.
Anche Decoy Font, pur essendo più pratico, non garantisce una protezione assoluta: modelli con capacità di ragionamento avanzato o istruiti specificamente per cercare il testo nascosto potrebbero riuscire a decifrarlo, ed è importante ricordare che l'illusione agisce solo quando il testo viene trasformato in un'immagine, mentre chi copia e incolla il testo dal codice sorgente ottiene il messaggio in chiaro. Nonostante queste limitazioni, i due font offrono spunti interessanti per il futuro della protezione dei contenuti.
Tra le applicazioni ipotizzate ci sono i sistemi CAPTCHA, che potrebbero diventare più efficaci contro i bot automatici, la protezione di documenti sensibili dall'estrazione automatica di dati e persino il loro utilizzo come benchmark per misurare le capacità di riconoscimento testuale dei modelli AI. La partita tra chi vuole proteggere le informazioni e chi cerca di estrarle in automatico è ancora apertissima, e progetti come Ghost Font e Decoy Font dimostrano che, almeno per ora, la tipografia può rivelarsi un'arma sorprendentemente efficace in questa sfida.
Puoi riutilizzare questo articolo o riprenderne i contenuti, anche parzialmente, citando la fonte con link attivo a informazione.news, il portale online di notizie e approfondimenti.
