USPI informa:dopo l’AI Act, OpenAI introdurrà un watermark nei testi di ChatGPT

OpenAI, azienda madre di ChatGPT, introdurrà un watermark invisibile nei testi generati da ChatGPT all’interno dell’Unione europea. La decisione arriva a seguito degli obblighi europei sulla trasparenza dei contenuti generati da Intelligenza Artificiale (IA) a seguito dell’AI Act.

Il watermark si chiamerà textGrain e verrà introdotto gradualmente nelle prossime settimane in tutti i testi generati da ChatGPT.

Una maggior riconoscibilità dei contenuti IA

A fare da sfondo a questi cambiamenti è articolo 50 dell’AI Act. Dal 2 agosto 2026, la norma prevede che tutte le IA generative debbano avere un sistema di marcature di audio, video, immagini e testi in un formato tale che le macchine possano riconoscerli come contenuti generati da IA.

Dal suo ingresso, textGrain modificherà invisibilmente i testi prodotti da ChatGPT: quando l’IA dovrà scegliere quali parole inserire nel testo, il watermark indirizzerà la scelta verso alcune opzioni piuttosto che altre, seguendo uno schema nascosto ma che permetterà di identificare il testo come generato da IA.

Questa modifica sarà invisibile a “occhio nudo”, ma diventerà più distinguibile su testi di lunghezza maggiore.

La verificabilità del watermark

Come detto, il watermark influirà principalmente sulla composizione del testo. Questo renderà più ardua l’identificazione più ardua qualora il testo venga modificato.

Per questo, OpenAI aprirà un rilevatore inizialmente ad uso limitato di ricercatori ed esperti, per testarne l’efficacia e limitare il rischio di falsi negativi e positivi, ed eventuali allucinazioni.

Tuttavia l’introduzione di textGrain dovrebbe agire “su più livelli”, fornendo al rilevatore un segnale di provenienza del testo che indica se sistemi OpenAI sono stati utilizzati nella creazione del testo.

Testi destinati all’informazione pubblica

Come indicato dall’AI Act, vige l’obbligo di indicazione di provenienza IA anche su testi destinati all’informazione pubblica e di interesse generale.

Tuttavia, è possibile esentarsi da questo obbligo qualora il testo venga revisionato da una persona o un’organizzazione che si assume la responsabilità di pubblicazione.

Articolo di E.M.