Il vocabolario dell'IA

Marcatura dei testi generati: che cosa prova esattamente?

La marcatura inserisce in un testo prodotto da un modello un segnale statistico impercettibile alla lettura, destinato a rivelare che un sistema è intervenuto. Attesta un trattamento, non una paternità: un testo interamente generato e uno semplicemente riformulato recano lo stesso segnale, e nulla li distingue.

Come funziona

Nel momento in cui il modello sceglie le proprie parole, un vincolo orienta lievissimamente quelle scelte secondo uno schema noto al suo editore. Il testo resta naturale, la sua qualità non ne risente, e un'analisi statistica può poi riconoscere lo schema.

Non è dunque una firma apposta in un file, che si potrebbe cancellare cambiando formato. È una proprietà del testo stesso, che sopravvive al copia-incolla e a una parte delle modifiche.

Che cosa attesta, e che cosa non attesta

Attesta che un modello marcato ha prodotto quel passaggio. È tutto, ed è poco rispetto a ciò che interessa un giurista.

Non attesta che il ragionamento provenga dal modello. Un testo redatto da un collaboratore e poi sottoposto per migliorarne la formulazione reca la marcatura allo stesso titolo di un testo interamente prodotto.

Non dice quale proporzione del testo sia interessata, né in quale momento della redazione l'intervento sia avvenuto.

E non copre tutti i modelli: si applica ai sistemi immessi sul mercato a partire da una certa data, essendo progressiva la copertura delle versioni anteriori.

Il caso ordinario, che è quello preoccupante

Un collaboratore redige un progetto di comparsa. Sottopone un paragrafo per verificarne la chiarezza, riprende la versione proposta, la rielabora, la integra. Il testo finale è suo, l'analisi è sua, la strategia è quella del socio che firma.

Quel testo reca ormai una marcatura. Se rilevata, attesta che un modello ha trattato quel passaggio. Non dice che il ragionamento ne provenga, e nulla nel segnale permette di stabilirlo.

La difficoltà non è dunque giuridica in senso stretto, è probatoria: lo studio dovrà spiegare che cosa sia accaduto, e potrà farlo soltanto se ne avrà conservato traccia.

La difficoltà propria di uno studio

Deriva da uno sfasamento di calendario. Le marcature sono apposte fin d'ora, in testi che circolano, vengono depositati e archiviati. Gli strumenti che consentono di rilevarle non sono ancora ampiamente diffusi.

Uno studio non ha dunque oggi alcun modo di sapere che cosa la propria produzione passata ne rechi. E dovrà, eventualmente, spiegare una situazione che non può constatare da sé.

Che cosa non risolve

La marcatura non dice nulla della qualità del testo, né dell'esattezza dei suoi riferimenti. Un testo marcato può essere eccellente e un testo non marcato può contenere errori gravi.

Non costituisce nemmeno una prova in senso processuale: è un segnale probabilistico, può scomparire con la riscrittura, e la sua interpretazione dipende da strumenti le cui specifiche non sono pubblicate.

E non crea alcun obbligo nuovo per voi. Nulla vieta a un avvocato di impiegare uno strumento; ciò che è in gioco è la capacità di descrivere ciò che è stato fatto, esigenza risalente e non nuova.

Perché conta per un giurista

Perché l'onere della spiegazione ricadrà su di voi. Se una marcatura viene rilevata, non dirà che cosa sia accaduto: spetta a voi dirlo, e potrete farlo soltanto se avrete conservato traccia del vostro processo di produzione.

Questa evoluzione non crea dunque un obbligo: rende improvvisamente utile una tracciabilità che pochi studi avevano organizzato.