Il vocabolario dell'IA

Tracciabilità: vedete il percorso, o soltanto la conclusione?

La tracciabilità consiste nel poter ricostituire come un risultato sia stato ottenuto: che cosa sia stato consultato, che cosa trattenuto, che cosa scartato e a quale titolo. Si distingue dalla spiegazione: non si chiede al sistema di giustificare il proprio ragionamento, gli si chiede di conservare ciò che ha percorso.

Perché la spiegazione non è l'esigenza giusta

Un modello interrogato sulle ragioni della propria risposta ne produce una, plausibile e articolata. Nulla garantisce che descriva ciò che è realmente accaduto: produce una giustificazione come produrrebbe qualsiasi altro testo.

Esigere una spiegazione equivale dunque a chiedere un racconto della cui fedeltà non si può verificare nulla. È rassicurante e privo di valore probatorio.

La tracciabilità verte invece su fatti verificabili: quel documento è stato aperto, quella fonte consultata, quell'opzione incontrata. Quegli elementi esistono indipendentemente da ciò che il sistema ne dice.

I tre elementi che fanno una tracciabilità utile

Le fonti effettivamente consultate, e non quelle che avrebbero potuto esserlo. È ciò che consente alla verifica di vertere su ciò che ha fondato il risultato.

I punti in cui più posizioni erano sostenibili, e quella che è stata adottata. È l'equivalente della nota a piè di pagina di un collaboratore, quella che indica al revisore dove guardare.

Ciò che è stato scartato, e perché. Distinguere «non pertinente» da «non trovato» cambia tutto per chi firma.

Una distinzione che cambia la richiesta al fornitore

Molti sistemi mostrano oggi le fonti impiegate, sotto forma di collegamenti sotto la risposta. È utile e copre soltanto un terzo dell'esigenza.

Ciò che manca è il resto del percorso: le fonti consultate e poi scartate, i punti in cui più letture erano possibili, il momento in cui il sistema ha smesso di cercare. Quegli elementi esistono al momento della produzione e vengono soppressi alla restituzione, perché si presenta un lavoro compiuto anziché un lavoro tracciabile.

È una scelta progettuale, non un'impossibilità tecnica — ed è dunque una richiesta legittima da formulare a un fornitore.

Che cosa cambia per il revisore

Un elaborato privo di tracciabilità impone un'attenzione uniforme: nulla indica dove concentrare lo sforzo, dunque si legge tutto allo stesso livello, il che è il contrario di ciò che una rilettura deve fare.

Un elaborato tracciato restituisce una mappa: ecco ciò che è stato verificato, ecco i punti di incertezza. La rilettura ritrova allora la conduzione che aveva con un lavoro umano, le cui esitazioni erano visibili nella scrittura.

Che cosa non risolve

La tracciabilità non rende nulla esatto. Indica dove guardare, non dice se il risultato sia giusto — è il lavoro del revisore, e resta intero.

Ha un costo: produce volume, e un volume che nessuno consulta è un costo senza contropartita. Ha valore soltanto se il suo formato consente di ritrovare un'informazione precisa in qualche minuto.

E non sostituisce la tracciabilità professionale, quella che annota chi abbia validato che cosa. Le due si completano e attengono a responsabilità diverse.

Perché conta per un giurista

Perché è ciò che separa supervisionare dal credere. Firmare un lavoro di cui non si può risalire il percorso significa accordargli fiducia, che è un'operazione diversa dalla supervisione.

La domanda da porre a un fornitore è dunque precisa: che cosa posso vedere del percorso, e non soltanto della conclusione?