Filigrana invisibile nei testi: come le aziende rispettano gli obblighi dell'AI Act

L'obbligo di marcare i contenuti generati dall'AI sembra una questione di correttezza verso il lettore. In pratica è un problema tecnico, e il settore lo affronta in modi diversi. heise online racconta come Anthropic estende la filigrana del testo ad altri modelli Claude. Sullo sfondo ci sono le richieste del regolamento europeo sull'intelligenza artificiale.

Secondo heise, dal 30 settembre 2026 la filigrana invisibile sarà applicata anche ai risultati dei modelli Claude Fable 5, Claude Sonnet 5 e Claude Opus 4.8. Oggi risultano già marcati Claude Fable 5.1, Claude Mythos 5.1, Claude Opus 5.5 e Claude Opus 5. Quest'ultimo è stato contrassegnato con un aggiornamento arrivato dopo il lancio. Entro il 2 dicembre toccherà ai modelli più vecchi. La notizia arriva da un'e-mail che Anthropic ha inviato ai clienti il 24 settembre. Un dettaglio conta: il marchio viene applicato a livello di modello e l'utente non può disattivarlo.

Come funziona

Il metodo non si basa su segni nascosti né su metadati facili da rimuovere. Anthropic usa una propria variante della tecnica SynthID-Text sviluppata da Google DeepMind. Il meccanismo influenza la scelta di uno tra diversi token successivi ugualmente probabili. Su un testo lungo si forma uno schema statistico. Basta la chiave giusta per rilevarlo, a patto che il frammento analizzato sia abbastanza lungo. L'azienda sostiene che questo non peggiora la qualità del testo.

I limiti sono più seri di quanto suggerisca la semplicità dell'idea, e la stessa Anthropic li ammette. Un riscontro indica soltanto che Claude ha probabilmente partecipato alla stesura del testo. Il modello può riscrivere un frammento altrui, aggiungere frasi proprie o tradurre un testo di altri. In tutti questi casi il marchio scompare. Non è quindi uno strumento probatorio, ma un segnale di probabilità.

Da dove nasce l'obbligo

Il motivo è regolatorio. L'AI Act europeo impone obblighi di trasparenza a chi sviluppa sistemi generativi: dal 2 agosto deve garantire che i contenuti generati dall'AI, testi compresi, siano marcati in modo leggibile dalle macchine e riconoscibili come generati. Anthropic applica la sua soluzione a livello globale, su tutte le piattaforme Claude, anche se l'iniziativa è partita dall'Europa.

Il contesto istituzionale aiuta a capire la portata della norma. La Commissione europea gestisce l'Ufficio per l'AI, oltre 125 dipendenti in sei unità, che si occupa dell'attuazione dell'AI Act, comprese le regole per i modelli di uso generale. Può tra l'altro svolgere valutazioni di tali modelli, chiedere informazioni e imporre sanzioni. L'obbligo di marcatura è quindi solo uno dei molti requisiti che i fornitori di modelli devono considerare nel processo produttivo.

Funziona davvero

Le critiche arrivano da due parti. Da un lato gli addetti ai lavori fanno notare che le filigrane nel testo sono vulnerabili alla semplice modifica e facili da eliminare con una traduzione o un riassunto. Dall'altro emerge la domanda opposta: cosa succede se il marchio viene rilevato in un testo che una persona ha scritto da sola, usando il modello solo per la correzione? Allora il significato di "marcato come AI" si confonde ed è facile incorrere in un'accusa ingiusta. La lettura più sicura è considerare questo meccanismo uno strumento di monitoraggio statistico dei contenuti su scala di internet, non un modo per stabilire la paternità di un singolo paragrafo.