OpenAI introduce textGrain, la filigrana invisibile che lascia traccia nei testi generati dall'IA

14/10/2026 SCIENZA E TECNOLOGIA Condividi Preferisci Informazione.News su Google

Redazione Scienza e Tecnologia   -   OpenAI ha annunciato l'introduzione di un sistema di filigrana invisibile per i testi generati da ChatGPT e Codex. La tecnologia si chiama textGrain e verrà implementata nelle prossime settimane esclusivamente per gli utenti dell'Unione europea, in risposta agli obblighi di trasparenza previsti dall'articolo 50 dell'AI Act, entrato in vigore il 2 agosto 2026.

La decisione arriva a poche settimane di distanza da un annuncio analogo da parte di Anthropic, che già da agosto ha introdotto marcature invisibili per i testi prodotti dal suo modello Claude, estendendo la misura a livello globale.

Come funziona il watermark statistico

A differenza di quanto si potrebbe immaginare, textGrain non inserisce caratteri nascosti, spazi invisibili o metadati all'interno del testo. Il sistema interviene invece sul processo di campionamento dei token, cioè su quel meccanismo con cui il modello, passo dopo passo, sceglie la parola successiva all'interno di una distribuzione di probabilità.

Durante questa fase, un valore pseudocasuale derivato da una chiave segreta orienta leggermente le scelte lessicali, creando una correlazione statistica che risulta impercettibile alla lettura umana ma rilevabile da uno strumento che conosce il metodo di generazione. L'approccio è stato sviluppato con il contributo di ricercatori dell'Università della Pennsylvania e di Yale, come si legge nel rapporto tecnico pubblicato contestualmente all'annuncio.

I limiti dichiarati dalla stessa OpenAI

OpenAI ha accompagnato l'annuncio con una dettagliata esposizione dei limiti della tecnologia, specificando che la filigrana non rappresenta una firma indelebile né una prova definitiva di paternità. Con un tasso di falsi positivi fissato all'1%, il rilevatore identifica il segnale in circa l'80% dei brani da 200 token e in circa il 95% di quelli da 400 token, ma i risultati variano sensibilmente in base al tipo di contenuto. Nei testi matematici o nelle formule, dove la libertà di scelta lessicale è molto ridotta, l'efficacia cala drasticamente.

Anche le modifiche apportate da un editor umano indeboliscono il segnale: la sostituzione del 10% delle parole con sinonimi riduce il tasso di rilevamento dal 92% al 66%, mentre con un quarto delle parole sostituite la capacità di detection crolla al 17%. OpenAI sottolinea inoltre che l'assenza della filigrana non dimostra che un testo sia stato scritto da una persona, poiché il contenuto potrebbe essere troppo breve, tradotto, generato da un modello precedente all'attivazione del sistema o prodotto da un fornitore concorrente.

Accesso riservato al rilevatore

Per queste ragioni, il rilevatore di textGrain non sarà disponibile al pubblico. OpenAI ha aperto le candidature per ricercatori e organizzazioni specializzate, che potranno ottenere l'accesso caso per caso, in linea con le indicazioni del codice di buone pratiche europeo sulla trasparenza dei contenuti generati dall'IA. Lo strumento indicherà esclusivamente se un dato passaggio contiene una filigrana compatibile con i sistemi OpenAI, senza identificare l'utente, il prompt o la conversazione da cui il testo è stato generato.

Restano invece accessibili a tutti gli strumenti di verifica già esistenti per immagini e audio, basati su metadati C2PA e sul watermark SynthID di Google.

Un quadro normativo più ampio

L'introduzione di textGrain si inserisce nel più ampio processo di adeguamento all'AI Act da parte dei principali sviluppatori di intelligenza artificiale. Oltre a OpenAI e Anthropic, anche Google, Meta e Microsoft hanno sottoscritto il codice di buone pratiche sulla trasparenza dei contenuti generati dall'IA. L'articolo 50 del regolamento europeo richiede che i fornitori di sistemi generativi appongano marcature leggibili dalle macchine sugli output sintetici, con soluzioni che siano efficaci, interoperabili, robuste e affidabili per quanto tecnicamente possibile.

Per i sistemi immessi sul mercato prima del 2 agosto 2026, il termine per l'adeguamento è fissato al 2 dicembre 2026. La misura annunciata da OpenAI riguarda inizialmente solo gli utenti europei di ChatGPT e Codex su tutti i piani di abbonamento, mentre per i clienti API a livello globale la filigrana resta un'opzione attivabile su base volontaria e disattivata per impostazione predefinita.