OpenAI aggiunge la filigrana invisibile textGrain ai testi di ChatGPT e Codex nell'Ue

07/10/2026 SCIENZA E TECNOLOGIA Condividi Preferisci Informazione.News su Google

Redazione Scienza e Tecnologia   -   A partire dalle prossime settimane, i testi generati da ChatGPT e Codex nell'Unione europea conterranno una filigrana digitale invisibile all'occhio umano ma leggibile dalle macchine. La decisione, annunciata lunedì 5 ottobre, nasce dall'esigenza di conformarsi all'articolo 50 del Regolamento europeo sull'intelligenza artificiale, entrato in vigore lo scorso 2 agosto, che impone ai fornitori di rendere riconoscibile in formato machine-readable qualsiasi contenuto sintetico prodotto dai propri modelli.

Come funziona textGrain

Il sistema sviluppato da OpenAI si chiama textGrain e opera in modo del tutto diverso da una tradizionale etichetta visibile. Non c'è alcun simbolo, alcuna scritta, alcun metadato applicato a posteriori. La filigrana viene inserita direttamente nel processo di generazione: il modello riceve sottili condizionamenti statistici nella scelta delle parole, in modo che il testo prodotto segua un pattern rilevabile da un apposito strumento di detection. Poiché il segnale risiede nelle parole stesse, rimane intatto anche quando il testo viene copiato e incollato altrove.

OpenAI sostiene che textGrain abbia eguagliato o superato altri approcci testati, incluso SynthID di Google DeepMind, e ha pubblicato un rapporto tecnico redatto con ricercatori della University of Pennsylvania e della Yale University. Nelle valutazioni interne sul modello Astra non sarebbero emerse differenze significative di prestazioni tra testi marcati e non marcati. L'azienda ha inoltre annunciato l'intenzione di rilasciare la tecnologia come software open source.

Un'implementazione su base regionale

La distribuzione della filigrana seguirà un criterio geografico preciso. Nell'Unione europea verrà applicata a tutti i piani di ChatGPT e Codex, senza possibilità di disattivazione per gli utenti. Al di fuori dei confini comunitari, invece, OpenAI ha scelto di non rendere il watermarking una impostazione predefinita globale: gli sviluppatori che utilizzano le API potranno attivarlo volontariamente per modelli selezionati, ma resterà disattivato per default.

L'azienda ha motivato la scelta con la volontà di apprendere dall'uso reale e dai feedback prima di un'eventuale estensione mondiale.

Per quanto riguarda lo strumento di rilevamento, l'accesso sarà inizialmente limitato a ricercatori approvati e organizzazioni di esperti, che potranno presentare domanda da subito. OpenAI ha precisato che il detector segnalerà unicamente la presenza o l'assenza della filigrana, senza identificare l'utente né rivelare i prompt o il contenuto delle conversazioni. La decisione di non rendere pubblico il rilevatore è legata al rischio di falsi positivi e falsi negativi, che potrebbero compromettere l'affidabilità dello strumento.

I limiti dichiarati dalla stessa OpenAI

L'azienda non ha nascosto i limiti della tecnologia. I test interni mostrano che la detection funziona meglio su testi lunghi e poco modificati: con un tasso di falsi positivi dell'1%, il rilevatore ha identificato la filigrana in circa l'80% dei passaggi di 200 token su argomenti come la psicologia, percentuale che sale al 95% per passaggi di 400 token. Le prestazioni calano sensibilmente su materie come la matematica, dove il modello ha meno libertà nella scelta delle parole.

La modifica del testo rappresenta il principale punto debole del sistema. Sostituire il 10% delle parole con sinonimi in un passaggio di 400 token ha ridotto il tasso di rilevamento dal 92% al 66%; con il 25% di parole cambiate la percentuale è scesa al 17%. Anche traduzioni e riscritture possono indebolire o cancellare il segnale.

OpenAI ha messo nero su bianco che l'assenza di una filigrana rilevata non prova che un testo sia stato scritto da un essere umano, così come la presenza di una filigrana non certifica che l'intero contenuto sia stato generato da un modello né misura quanto lavoro umano vi sia stato.

Il quadro normativo di riferimento prevede sanzioni significative per i trasgressori: fino a 15 milioni di euro o al 3% del fatturato annuo globale, a seconda di quale importo risulti più elevato. I sistemi già presenti sul mercato hanno tempo fino al 2 dicembre per adeguarsi all'obbligo di marcatura machine-readable, mentre le altre disposizioni dell'articolo 50 sono operative dal 2 agosto.