OpenAI firma i testi di ChatGPT con textGrain: come funziona il watermark invisibile e perché è facile da aggirare

06/10/2026 SCIENZA E TECNOLOGIA Condividi Preferisci Informazione.News su Google

Redazione Scienza e Tecnologia   -   OpenAI ha annunciato l'introduzione di un watermark invisibile nei testi generati da ChatGPT e Codex per gli utenti dell'Unione europea. La tecnologia si chiama textGrain e risponde a un obbligo preciso dell'articolo 50 dell'AI Act, il regolamento europeo sull'intelligenza artificiale entrato in vigore il 2 agosto 2025. La marcatura sarà attiva su tutti i piani di abbonamento e arriverà nelle prossime settimane.

La scelta di limitare l'applicazione al territorio europeo, almeno in questa fase iniziale, segna una differenza netta rispetto al passato: la stessa richiesta formulata da un utente a New York o a Tokyo non produrrà alcuna traccia.

Come funziona textGrain, il watermark che non si vede

A differenza dei sistemi più noti di filigrana digitale, textGrain non inserisce caratteri nascosti, spazi invisibili o metadati all'interno del documento. Il meccanismo agisce direttamente sul processo di generazione: a ogni passaggio, il modello linguistico assegna una probabilità a ciascun token, cioè a ogni parola o porzione di parola che potrebbe seguire. Una chiave segreta interviene su questo calcolo, orientando sottilmente le scelte del modello verso determinate alternative lessicali. Il risultato è un andamento statistico riconoscibile solo da un rilevatore dotato della stessa chiave.

Per chi legge, la risposta appare del tutto naturale, senza anomalie di stile o di punteggiatura. E poiché il segnale risiede nella formulazione stessa del testo, non svanisce con un semplice copia e incolla in un altro documento.

La fragilità del sistema: bastano poche modifiche per confondere il rilevatore

OpenAI ha reso noti i limiti del proprio sistema con una franchezza insolita. I test condotti dall'azienda mostrano che sostituire il 10% delle parole di un brano di 400 token con dei sinonimi fa scendere il tasso di rilevamento dal 92% al 66%. Se le parole sostituite diventano un quarto del totale, la percentuale crolla al 17%. Sono dati che descrivono una protezione tutt'altro che robusta, vulnerabile a interventi di editing nemmeno troppo sofisticati.

Anche la lunghezza del testo incide: i passaggi brevi offrono al rilevatore meno materiale da analizzare, mentre gli argomenti con un lessico vincolato, come la matematica, lasciano al modello meno libertà di scelta e quindi meno spazio per nascondere il segnale. Le traduzioni, infine, possono indebolire ulteriormente la traccia, perché alterano proprio le scelte linguistiche su cui la filigrana è costruita.

Cosa il watermark non può dire

OpenAI ha precisato con chiarezza i confini di ciò che la marcatura è in grado di stabilire. Un rilevamento positivo indica che un sistema OpenAI ha probabilmente generato o elaborato una parte del testo, ma non misura quanto lavoro umano sia confluito in quel contenuto: istruzioni, revisioni, decisioni editoriali e creatività personale non lasciano traccia nel segnale. Il watermark non identifica l'utente, non stabilisce chi possiede il testo o chi ne sia responsabile, e non verifica l'accuratezza delle informazioni.

Allo stesso modo, l'assenza della filigrana non dimostra che un testo sia stato scritto da una persona: potrebbe essere troppo breve, essere stato modificato in modo pesante, tradotto, oppure provenire da un modello di un altro fornitore.

Rilevatore riservato e tecnologia in open source

Proprio a causa di questi limiti, OpenAI non renderà pubblico lo strumento in grado di riconoscere textGrain. L'accesso sarà inizialmente riservato a ricercatori e organizzazioni specializzate che ne faranno richiesta, con concessione valutata caso per caso. Il rilevatore indicherà soltanto se è stata individuata una filigrana di OpenAI, senza identificare l'utente né rivelare i prompt o il contenuto delle conversazioni.

L'azienda ha inoltre annunciato l'intenzione di rilasciare textGrain come tecnologia open source, così che altri possano svilupparla e contribuire a migliorare i sistemi di marcatura del testo. Nel frattempo, i clienti delle API in tutto il mondo possono già attivare volontariamente la funzione su modelli selezionati, ma per impostazione predefinita l'opzione resta disattivata.