Anthropic introdurrà un sistema per rendere identificabili i testi elaborati con Claude

La società di intelligenza artificiale (AI) Anthropic ha detto che introdurrà un sistema per applicare una sorta di etichetta leggibile da un computer che renda riconoscibili i testi e i file elaborati da Claude, il suo programma più famoso, e dai suoi altri software come Claude Code, molto usato dai programmatori. Un’etichetta di questo tipo, chiamata in gergo watermark, è stata resa obbligatoria per motivi di trasparenza dall’AI Act, la legge europea che regola lo sviluppo e l’utilizzo dei sistemi di intelligenza artificiale, approvata nel 2024.

Anthropic non ha diffuso molti dettagli sul funzionamento del sistema. Ha detto che sarà impercettibile per gli utenti, non influenzerà il senso, la qualità o la leggibilità delle risposte, e continuerà a funzionare anche quando il testo verrà copiato e incollato o modificato leggermente. Anche le immagini elaborate da Claude saranno etichettate, con il sistema C2PA, che inserisce nei file dei metadati che li identificano come modificati dall’intelligenza artificiale. È un sistema già adottato da altre grosse aziende come Microsoft e OpenAI.

L’azienda ha specificato che l’etichetta verrà applicata in modo automatico nei prodotti elaborati dai modelli diffusi a partire dal 2 agosto, data in cui sono entrate in vigore diverse regole previste dall’AI Act, che però lasciano alle aziende un periodo di 4 mesi per adeguarsi. Invece per quelli che sono stati pubblicati prima il sistema di etichettatura non è ancora stato introdotto, ma Anthropic sta lavorando a un modo per farlo.

L’azienda ha specificato che la presenza di questa etichetta non indica che la provenienza originale del contenuto in questione sia un modello AI di Anthropic: il watermark viene infatti aggiunto anche a quei file di origine diversa che però vengono elaborati da Claude. Per esempio: se si chiede a Claude di correggere un testo, il testo corretto sarà etichettato come un prodotto di Claude, ma non significa che sia stato originariamente prodotto da Claude. Anthropic ha anche detto che in alcune circostanze l’etichetta potrebbe cancellarsi dal file e che quindi la sua mancanza non garantisce che non sia mai stato elaborato tramite la sua AI.