Prodotto

La verifica non deve essere un'opzione

Lasciare la verifica alla discrezione dell'utente significa trasferirgli in silenzio una responsabilità che tutta la cultura del mestiere rifiuta di far pesare su uno solo.

Nella maggior parte degli strumenti d'IA giuridica attuali, la verifica è un'opzione lasciata all'utente. Lo strumento produce, e spetta a chi riceve l'output decidere se verificare, come, in che misura. La promessa implicita è rassicurante, l'utente resta padrone, ma alla scala di un'organizzazione questo modo di presentare le cose è un trasferimento silenzioso di responsabilità. Ed è questo trasferimento, più di qualsiasi difetto tecnico, a porre problema.

Perché l'opzione non regge

Perché un utente, nella pratica, non verifica sistematicamente. Non per negligenza, ma per carico cognitivo. Sotto la pressione del tempo, sotto il flusso delle pratiche, sotto l'accumulo di piccole decisioni, la verifica scivola verso l'implicito, verso il parziale, verso il « sembra corretto ». È umano, è universale, ed è proprio per questo che nessuna organizzazione giuridica seria fonda la propria affidabilità sulla sola vigilanza individuale. Contare sul fatto che ciascuno verificherà sempre significa contare su una costanza che la natura del lavoro rende impossibile.

La verifica lasciata alla discrezione di ciascuno finisce sempre per cedere sotto il carico. Non è negligenza, è fatica.

C'è un'asimmetria crudele tra il costo e il beneficio della verifica, che spiega perché ceda. Verificare costa uno sforzo certo, immediato, ogni volta; non verificare non costa nulla la maggior parte del tempo, perché la maggior parte del tempo l'output è corretto. L'utente che salta una verifica è premiato in novantanove casi, e punito nel centesimo, che sopraggiunge di rado e tardi. Questa struttura di incentivi spinge meccanicamente verso il rilassamento, indipendentemente dalla coscienza professionale di ciascuno. Non si può chiedere a un dispositivo di reggere contro l'incentivo che esso stesso crea.

Bisogna vedere bene che non è un problema che una migliore buona volontà risolverebbe. Si possono formare gli utenti, ricordare loro l'importanza di verificare, sensibilizzarli ai rischi: nulla di tutto ciò regge di fronte alla realtà di una giornata carica. La vigilanza è una risorsa che si esaurisce, e un dispositivo che ne dipende è un dispositivo che cederà, non sempre, ma abbastanza spesso da non potervisi affidare. Il problema non è la qualità delle persone; è che si chiede loro una costanza che nessuno può reggere.

Ciò che la cultura del mestiere ha sempre saputo

Tutta la cultura del mestiere è costruita, da tempo, sull'idea inversa: la verifica deve essere procedurale, integrata, ridondante, indipendente dalla volontà di fare bene di ogni individuo. Il doppio sguardo, la revisione di un senior, la validazione di un socio, il controllo incrociato tra colleghi non sono segni di sfiducia verso le persone; sono dispositivi che mettono l'affidabilità al riparo dai fallimenti individuali, non facendola mai riposare su uno solo. Questa cultura è il frutto di una lunga esperienza di ciò che può andare storto quando un solo sguardo basta.

Questa cultura è mal onorata dagli strumenti IA attuali, che ristabiliscono in pratica ciò che il mestiere aveva pazientemente accantonato, cioè un'affidabilità sospesa alla vigilanza di uno solo. Lasciando la verifica opzionale, riportano il lavoro giuridico a una fase anteriore a tutte le sue garanzie procedurali, quella in cui la qualità del deliverable dipendeva dalla cura di un individuo e da nient'altro. È un arretramento che nessuno ha deciso, ma che la progettazione degli strumenti impone in silenzio.

Il mestiere ha passato un secolo a non dipendere più da un solo sguardo. Gli strumenti IA attuali ve lo riportano.

Questo arretramento è tanto più paradossale in quanto l'IA è proprio lo strumento che produce più in fretta, quindi di più da verificare. Aumentando il volume di output pur lasciando la verifica opzionale, gli strumenti attuali aggravano il problema che pretendono di risolvere: riversano sull'utente una massa di produzione che andrebbe controllata, proprio nel momento in cui gli tolgono le garanzie procedurali che rendevano quel controllo sostenibile. Più l'IA produce, più la verifica opzionale diventa insostenibile, e più diventa urgente renderla strutturale.

In MAX, questa constatazione si traduce in un principio esplicito: la verifica non deve essere un'opzione, deve essere strutturale. Le tappe di verifica non sono proposte all'utente, sono innescate dall'architettura, in momenti definiti, su criteri definiti, e non possono essere aggirate senza lasciare traccia. Ciò si traduce in meccanismi concreti: cicli di verifica automatici sugli output sensibili, punti di validazione umana innescati dalla natura della pratica e non dalla volontà dell'utente, controlli incrociati tra fonti, tra tappe, tra versioni, traccia sistematica di ciò che è stato verificato, da chi, come, e di ciò che non lo è stato.

Il risultato di questa scelta è che in qualsiasi momento l'organizzazione può documentare il livello di verifica applicato a qualsiasi deliverable, senza dover sperare che ciascuno abbia fatto coscienziosamente la propria parte. La verifica cessa di essere una promessa per diventare un fatto constatato, iscritto nell'architettura. È una differenza di natura con gli strumenti che si accontentano di raccomandare prudenza: raccomandare prudenza riversa il carico sull'individuo; iscriverla nel dispositivo lo toglie dalle sue spalle.

Raccomandare prudenza riversa il carico sull'individuo. Iscriverla nel dispositivo glielo toglie.

Questa iscrizione nel dispositivo cambia anche la natura di ciò che un'organizzazione può promettere ai propri clienti. Finché la verifica è opzionale, uno studio può garantire solo la propria buona intenzione: spera che le sue squadre verifichino, ma non può provarlo. Non appena la verifica è strutturale e tracciata, può affermare, prove alla mano, il livello di controllo applicato a ogni deliverable. La verifica cessa di essere una questione di fiducia nelle persone per diventare una proprietà dimostrabile dell'organizzazione, che è esattamente ciò che un cliente esigente si aspetta, e ciò che la cultura del mestiere ha sempre cercato di garantire.

C'è, in questo partito preso, una forma di rispetto per l'utente che può sembrare controintuitiva. Rendere la verifica strutturale non significa diffidare del professionista, significa sgravarlo di un fardello che nessuno dovrebbe portare da solo. Significa riconoscere che, per quanto eccellente, per quanto coscienzioso, egli lavora sotto vincolo di tempo e di attenzione, e che il ruolo di una buona infrastruttura è proteggerlo dai propri momenti di stanchezza, non sfruttarli. La verifica strutturale non toglie nulla alla sua competenza; la circonda di ciò che la rende sostenibile nel tempo.

È così che questo principio allinea l'uso dell'IA con la cultura professionale reale, in cui la verifica è un valore e non una corvée. Rende possibile un'adozione serena sui temi sensibili, perché la responsabilità non riposa sulla sola vigilanza dell'utente isolato. I sistemi che sopravvivranno al deployment non saranno quelli che chiederanno di verificare meglio; saranno quelli che avranno reso la verifica impossibile da sopprimere.

I sistemi che sopravvivranno al deployment non chiederanno di verificare meglio. Renderanno la verifica impossibile da sopprimere.