Tutti i contenuti scritti elaborati dai modelli di intelligenza artificiale Claude di Anthropic conterranno d’ora in avanti una filigrana digitale invisibile, applicata a livello globale. La decisione della società statunitense nasce dalla necessità di conformarsi all’AI Act dell’Unione Europea, il nuovo regolamento sulla trasparenza dell’IA le cui implicazioni si riflettono inevitabilmente sui mercati internazionali. Anthropic ha chiarito il funzionamento e i limiti della tecnologia con un intervento sul proprio blog, spiegando che l’aggiornamento riguarda i modelli rilasciati dopo il 2 agosto e verrà esteso a quelli precedenti nei prossimi mesi, senza alterare i diritti degli utenti sul testo generato.
- Anthropic ha introdotto filigrane digitali nei testi di Claude per rispettare l’AI Act dell’Unione Europea.
- La tecnologia sfrutta uno schema matematico nelle scelte lessicali senza alterare il tono o la qualità dell’output.
- Un’interfaccia API consentirà di verificare la probabilità che un testo sia stato elaborato o modificato dal modello.
Un tracciamento basato sui modelli di scelta lessicale
L’introduzione della misura ha seguito le perplessità espresse da diversi utenti dopo un aggiornamento della pagina di supporto di Claude. Per chiarire la propria posizione, Anthropic ha spiegato come la tecnologia consenta di identificare i testi senza appesantirne la lettura. Il metodo si basa su una ricerca del 2024 condotta da Google DeepMind e pubblicata sulla rivista Nature. Durante la generazione di una frase, i modelli linguistici selezionano le parole da un elenco di opzioni coerenti utilizzando normalmente un generatore di numeri casuali. Il sistema di filigrana sostituisce tale casualità con una sequenza numerica segreta che orienta in modo impercettibile la selezione dei termini.
La filigrana non utilizza caratteri nascosti o font speciali, ma si affida unicamente alla frequenza e alla combinazione delle parole scelte dal modello.
Per verificare la presenza dell’impronta digitale, l’azienda metterà a disposizione un’interfaccia di programmazione (API). Questo strumento consentirà a terzi di analizzare un testo e stabilire la probabilità che sia stato elaborato da Claude, una soluzione a cui stanno lavorando anche altri attori del settore come OpenAI per rispondere alle medesime disposizioni europee.
I limiti operativi e la tutela della proprietà dei contenuti
L’efficacia del tracciamento varia a seconda del tipo di contenuto scritto. Nei passaggi di natura strettamente fattuale o nei codici di programmazione, dove le regole sintattiche riducono le opzioni di scelta delle parole, l’applicazione della filigrana risulta più limitata per evitare che un termine errato comprometta il funzionamento del software. Analogamente, una modifica leggera del testo non eliminerà il tracciamento, mentre una riscrittura integrale in cui ogni parola viene sostituita cancellerà l’impronta dell’algoritmo.
Sul piano regolatorio, l’applicazione della misura a livello globale dimostra come le norme europee sulla trasparenza stiano definendo gli standard tecnici dell’intero settore, poiché le piattaforme non dispongono ancora di sistemi stabili per limitare la filigrana su base geografica. Anthropic ha precisato che la presenza della filigrana conferma soltanto l’intervento del modello linguistico sull’elaborato e non modifica i diritti d’autore o la titolarità del testo garantiti dai termini di servizio.
Ritenete che l’introduzione di filigrane digitali nei testi sia una misura utile per garantire la trasparenza o un ostacolo per chi utilizza l’IA nel proprio lavoro? Fateci sapere la vostra opinione nei commenti.
