Prodotto

Non ci si fida di un cervello, ma di una catena

Il mercato cerca la fiducia nell'affidabilità dei modelli. Un avvocato, invece, non si fida di un modello. Si fida di una catena. E questa differenza cambia tutto ciò che va costruito.

Quando il mercato parla di fiducia nell'IA giuridica, ne parla quasi sempre come di una proprietà dei modelli: tasso di allucinazione, affidabilità di generazione, precisione della risposta. Come se la fiducia si risolvesse all'interno del modello, e come se ogni miglioramento ci avvicinasse al momento in cui l'IA giuridica diventerebbe pienamente affidabile. Questo modo di porre la domanda è ingannevole, e comincia a stancare gli acquirenti seri, che constatano che i modelli migliorano senza che la loro riluttanza ad affidare pratiche importanti diminuisca di conseguenza.

Questa confusione ha un costo. Fa attendere dai modelli qualcosa che non potranno mai dare. Si può perfezionare un modello all'infinito senza mai produrre la minima oncia di fiducia organizzativa, perché quella fiducia si gioca altrove, in tutto ciò che circonda il modello e che esso non contiene. Attendere la fiducia da un modello migliore è come attendere da un termometro più preciso che guarisca il paziente.

Migliorare il modello non risolve la fiducia, perché la fiducia non ha mai abitato il modello.

Come un avvocato giudica il proprio lavoro

Lo si verifica osservando come un avvocato valuta l'affidabilità del proprio lavoro. Non lo si sente mai rispondere che si fida del proprio cervello. Lo si sente descrivere un dispositivo. La propria verifica anzitutto, lo sguardo della sua squadra poi, i precedenti che ha consultato, la validazione di un collega, la revisione di un senior, la firma di un socio, la traccia di ciò che è stato fatto. Ciascuna di queste tappe contribuisce alla fiducia complessiva nel deliverable; nessuna basta da sola. La fiducia, nel mestiere giuridico, non è una proprietà di una persona, è una proprietà di una catena.

Questo modo di funzionare non è un eccesso di prudenza, è la struttura stessa della responsabilità professionale. Un avvocato impegna la propria responsabilità su ciò che firma; non può dunque affidarsi alla sola convinzione, per quanto solida, perché la convinzione non è verificabile da un terzo. Gli serve un dispositivo che trasformi una convinzione individuale in qualcosa che altri possano controllare: una traccia, una validazione, una procedura. È questo dispositivo, e non la qualità intrinseca del suo giudizio, a rendere il suo lavoro degno di fiducia agli occhi del cliente, del collega, del giudice.

In diritto, l'affidabilità non è mai stata individuale. È sempre stata collettiva e procedurale.

Questa osservazione ha una conseguenza diretta su ciò che un'IA giuridica seria deve essere. Un prodotto costruito attorno all'affidabilità di un modello è, per costruzione, in una categoria di pensiero che non corrisponde al mestiere. Propone una garanzia individuale, la qualità del suo modello, in un universo professionale in cui l'affidabilità è sempre stata collettiva e procedurale. Offre una risposta, là dove il mestiere attende un dispositivo. Quale che sia la prestazione del modello, questo scarto sussiste, perché non è uno scarto di qualità ma di natura.

La trappola dell'affidabilità statistica

Questa idea urta un'intuizione diffusa, secondo cui basterebbe che il modello diventasse abbastanza affidabile perché ci si fidi di lui senza catena. Ma è confondere affidabilità statistica e fiducia professionale. Un modello può avere ragione novantanove volte su cento e restare, per un avvocato, impossibile da usare da solo su una pratica seria, perché il centesimo errore, senza catena per intercettarlo, impegna la sua responsabilità. Non è il tasso di errore a porre problema, è l'assenza di un dispositivo per intercettarlo. E nessun progresso del modello fabbrica quel dispositivo, perché esso è, per natura, attorno al modello e non dentro di esso.

Il problema non è che il modello sbagli a volte. È che nessuna catena è lì per intercettarlo.

Bisogna misurare cosa significhi un errore su cento nel lavoro giuridico. In molti ambiti, un tasso di errore dell'uno per cento è eccellente e perfettamente sfruttabile. In diritto, dove ogni deliverable impegna e dove un errore può costare una pratica o una responsabilità, quel tasso è accettabile solo se esiste un dispositivo per intercettare l'errore prima che produca i suoi effetti. Senza quel dispositivo, l'uno per cento di errore non è un buon risultato, è un rischio permanente che nessuno può assumersi. La prestazione del modello sposta il problema; non lo sopprime.

La difendibilità, oltre la correttezza

C'è un secondo modo, complementare, di misurare perché una risposta isolata non basti. Un modello perfetto, immerso in un ambiente non governato, produce output in cui nessun professionista serio può riporre una fiducia organizzativa. Non perché sarebbero falsi, ma perché sono indifendibili. Indifendibili in senso proprio: non sopravvivono alla prima domanda seria. Un collega chiede su cosa si fondino, e non c'è nulla da mostrare. Un cliente chiede come siano stati stabiliti, e la risposta si perde. La correttezza, da sola, non basta mai in diritto: bisogna poterne rendere conto.

Una risposta corretta ma senza traccia, senza validazione, senza contesto attribuito, è una risposta fragile.

Questa esigenza di difendibilità illumina perché la fiducia giuridica sia sempre stata lenta, procedurale, ridondante, là dove altri mestieri si accontentano dell'efficienza. Ciò che può passare per una pesantezza del diritto è in realtà la sua risposta a un vincolo proprio: non solo decidere giusto, ma poterlo provare a chiunque lo chieda, a volte anni dopo. Un'IA che ignora questo vincolo propone un'efficienza che il mestiere non può usare così com'è, perché produce output rapidi ma orfani, senza il filo che li ricollega a ciò che li fonda. Il diritto non ha bisogno di risposte più rapide al prezzo della loro difendibilità; ha bisogno di risposte di cui possa, in ogni momento, rendere conto.

La difendibilità è un'esigenza propria del diritto che la prestazione tecnica ignora completamente. Un modello ottimizza per avere ragione; il diritto, invece, esige di poter mostrare perché si ha ragione, e questa esigenza non si riduce alla prima. Si può avere ragione senza poterlo difendere, e in diritto una verità indifendibile non vale molto più di un errore, perché non regge davanti a chi la contesta. Costruire per la difendibilità significa costruire tutto ciò che permette di risalire il filo di un output: da dove viene, su cosa si fonda, chi l'ha verificato, quando e come. Nulla di tutto ciò è nel modello; tutto ciò è nella catena che lo circonda.

Perché il mercato si ostina a cercare nel posto sbagliato

Se la fiducia risiede nella catena e non nel modello, ci si può chiedere perché il mercato continui, con tanta costanza, a cercarla nel modello. La ragione dipende da ciò che è facile da misurare. L'affidabilità di un modello si misura: si produce un tasso, lo si confronta, lo si migliora, lo si mette su una diapositiva. Un dispositivo di fiducia, invece, non si riassume in una cifra; si constata all'uso, nella capacità di rendere conto quando sorge una domanda. Il mercato cerca nel modello perché è lì che sa misurare, come si cercano le chiavi sotto il lampione.

Questa facilità di misura orienta tutto, e falsa tutto. I fornitori ottimizzano ciò che si misura, quindi l'affidabilità del modello, e comunicano su di essa, perché è ciò che si confronta in riunione. Gli acquirenti, a loro volta, chiedono tassi, perché è ciò che è stato loro insegnato a chiedere. E l'intero mercato finisce per concentrarsi su una metrica che non decide nulla, trascurando il dispositivo che decide tutto, semplicemente perché il primo si cifra e il secondo si vive. È un errore collettivo, alimentato dalla comodità, e corretto solo dagli acquirenti abbastanza esperti da sapere dove guardare.

Lo spostamento da operare è dunque anzitutto uno spostamento dello sguardo. Finché si valuta un'IA giuridica sulla qualità delle sue risposte, si valuta il modello, e si resta ciechi al dispositivo. Per vedere il dispositivo, bisogna porre altre domande: cosa accade quando una risposta è contestata? Si può risalire alla sua fonte? Chi l'ha validata, e la traccia esiste? Queste domande non vertono sulla prestazione, vertono sulla catena, e sono esse, non i tassi di errore, a predire se un'organizzazione potrà davvero appoggiarsi allo strumento per le sue pratiche serie.

MAX come dispositivo, non come modello

Questa doppia osservazione, sullo scarto tra affidabilità statistica e fiducia professionale da un lato, sulla difendibilità dall'altro, conduce alla stessa conclusione. La fiducia nell'IA giuridica non è, e non sarà mai, una questione di prestazione grezza del modello. È una questione di dispositivo attorno al modello, cioè di catena capace di verificare, tracciare, far validare, rendere conto.

MAX non è uno strumento che produce un output, è un dispositivo che ne inquadra la produzione. La Legal Semantic Layer porta, attorno a ogni output generato, ciò che ne rende possibile la fiducia nell'ambiente giuridico: la fonte consultata, il ragionamento seguito, la verifica superata, la validazione umana innescata all'occorrenza, la traccia che rende il tutto verificabile. L'output non è più solo, è inserito in una catena, ed è la catena, non l'output isolato, a portare la fiducia. Il modello resta un componente; il dispositivo è ciò che trasforma la sua produzione in qualcosa a cui un'organizzazione può affidarsi.

Non adottate un'IA sulla qualità delle sue risposte. Adottatela sulla solidità di ciò che le circonda.

C'è, in questo spostamento, una buona notizia per le organizzazioni. Se la fiducia dipendesse dalla perfezione dei modelli, resterebbe sempre fuori portata, perché nessun modello sarà mai perfetto. Poiché dipende dal dispositivo, è raggiungibile fin da oggi: basta costruire la catena che governa, traccia e rende conto, e la fiducia diventa una proprietà che si controlla, invece di una promessa che si attende. Si smette di sperare in un modello degno di fiducia per costruire un dispositivo che rende la fiducia verificabile.

Dove vanno i temi che contano

Questa differenza si vede nel quotidiano. Un'IA che risponde da sola produce output che gli utenti seri finiranno per aggirare sui temi importanti, perché sanno che resteranno soli a risponderne. Un'IA che produce dentro una catena diventa progressivamente il luogo in cui i temi importanti vengono trattati, perché la catena porta la responsabilità collettiva invece di delegarla all'utente isolato. La condivisione di questa responsabilità non è un dettaglio: è proprio ciò che permette a un professionista di appoggiarsi allo strumento invece di sorvegliarlo.

Ecco perché la sorte dell'IA giuridica non si giocherà là dove il mercato la cerca ancora. L'IA giuridica di domani non si vincerà sull'affidabilità dei suoi modelli, ma sulla solidità dei suoi dispositivi. Il mercato cerca ancora la fiducia nei modelli; essa si costruisce già nella catena che li circonda, presso chi ha capito che non ci si fida mai di un'intelligenza isolata, ma sempre di una procedura che la verifica.

Una risposta isolata si aggira. A una catena, ci si appoggia. È lì che vanno i temi che contano.