Prodotto

Potete verificare ciò che avete messo in campo?

Su sei mesi, quali deliverable sono stati prodotti con l'IA, come, sotto quale controllo? Quasi nessuno sa rispondere.

Ponete la domanda a una qualunque direzione giuridica dotata di IA da diciotto mesi: per gli ultimi sei mesi, quali deliverable sono stati prodotti con l'aiuto dell'IA, con quale strumento, a partire da quali fonti, e con quali validazioni? Nella quasi totalità dei casi, la risposta è no. Non per cattiva volontà, non per mancanza di serietà. Per costruzione. La domanda pare innocua, quasi amministrativa, e tuttavia tocca un punto che la maggior parte delle organizzazioni dotate non può affrontare.

Ciò che rende questa domanda così rivelatrice è che non verte su una pratica, ma sull'insieme. Non si chiede « puoi difendere quel parere », domanda a cui un professionista attento può spesso rispondere per una data pratica. Si chiede « puoi rendere conto di tutto ciò che la tua organizzazione ha prodotto con l'IA », il che presuppone una vista consolidata che quasi nessun dispositivo attuale fornisce. La domanda salta dalla scala della pratica alla scala dell'istituzione, ed è a quella scala che il deficit appare.

Gli strumenti di IA giuridica attuali non sono stati concepiti per rendere conto alla scala dell'organizzazione. Sono stati concepiti per rispondere a degli utenti. Tracciano poco, in formati loro propri, in silos che non comunicano e non aggregano nulla a livello dell'organizzazione. Ogni strumento sa, al meglio, ciò che ha fatto lui stesso; nessuno sa ciò che l'insieme ha prodotto, perché nessuno è stato concepito per vedere al di là del proprio perimetro.

Uno strumento concepito per rispondere a un utente non ha alcuna ragione di saper rendere conto a un'organizzazione.

Il momento in cui la domanda si pone davvero

Questa incapacità resta teorica fino al giorno in cui un responsabile ha bisogno, concretamente, di una vista d'insieme. Quel giorno arriva sempre, e sotto forme varie: preparare un audit interno, rispondere a un regolatore, misurare l'uso reale per arbitrare un rinnovo, verificare la conformità contrattuale di un deployment, istruire un incidente. In ciascuno di questi casi, la domanda non è più « questo strumento è buono », ma « cosa possiamo dire, collettivamente, di ciò che abbiamo prodotto ». Ed è lì che l'informazione si rivela dispersa, non standardizzata, parzialmente persa.

Questo deficit sta diventando il soggetto numero uno nei comitati IA seri. Non la prestazione dei modelli, non il prezzo degli abbonamenti: la capacità di audit di ciò che è stato messo in campo. Il ribaltamento di criterio è già all'opera. Un anno fa, un bando di IA giuridica cominciava dalle capacità del modello. Oggi, i migliori capitolati cominciano da un'altra serie di domande: potete tracciare, attribuire, presentare, consolidare? Uno strumento brillante ma opaco fallisce ormai alla tappa che, ieri, veniva per ultima.

Bisogna misurare l'ampiezza di questo ribaltamento, perché cambia la definizione di ciò che è un buon strumento. Ieri, un buon strumento era quello che produceva la migliore risposta; l'auditabilità, se evocata, veniva alla fine, negli allegati, come una casella da spuntare. Oggi, nelle organizzazioni lucide, viene all'inizio, come un criterio di eliminazione: uno strumento che non sa rendere conto alla scala dell'organizzazione è scartato prima ancora che se ne valuti la prestazione. L'ordine dei criteri si è invertito, e con esso la gerarchia dei fornitori.

Il primo criterio di eliminazione di questo mercato non sarà la qualità dei modelli. Sarà l'auditabilità.

Consolidare, non solo registrare

Si obietterà che gli strumenti producono registri di attività, e che basterebbe raccoglierli. Ma raccogliere registrazioni tecniche non produce una vista di organizzazione, per una ragione di natura. Ciò che un responsabile deve poter presentare non è un elenco di eventi macchina, è una risposta a domande di organizzazione: su quali pratiche l'IA è stata impiegata, secondo quali metodi, con quali validazioni, e questa risposta deve essere consolidata alla scala di tutta l'istituzione, non dispersa strumento per strumento. Accatastare registrazioni non produce questa vista consolidata, allo stesso modo in cui accatastare estratti conto non produce una contabilità.

La differenza sta nel fatto che una vista di organizzazione esige una consolidazione che gli strumenti, per costruzione, non forniscono. Ogni strumento registra ciò che lo riguarda, nel suo formato, sul suo perimetro; nessuno aggrega questi frammenti in un'immagine coerente di ciò che l'organizzazione ha prodotto. Ora è proprio questa immagine coerente che reclama un audit, un regolatore, un comitato. La consolidazione non è la somma delle registrazioni; è un lavoro di aggregazione, di standardizzazione, di messa in coerenza che nessuno strumento isolato ha ragione di fare per gli altri.

Questa richiesta di consolidazione non è un capriccio di conformità, è un'esigenza operativa. Un'organizzazione che non può rendere conto, globalmente, del suo uso dell'IA non può iscriverlo durevolmente nei suoi processi, né difenderlo davanti a un cliente, un collega o un regolatore. La risposta non è negli strumenti, di cui nessuno può consolidare ciò che fanno i suoi vicini, ma in uno strato di orchestrazione al di sopra della pila, che rende l'uso osservabile e consolidabile alla scala dell'organizzazione. È proprio la funzione di MAX come Legal Semantic Layer: dare all'istituzione la vista d'insieme che nessuno strumento, da solo, può produrre.

Registrazioni disperse non si sommano in vista di organizzazione, come estratti conto non si sommano in contabilità.

Perché nessuno strumento può verificare gli altri

Bisogna spiegare perché la soluzione non possa venire dagli strumenti stessi, perché è ciò che rende il problema strutturale. Uno strumento può rendere conto solo di ciò che ha fatto; non ha alcuna visibilità su ciò che fanno gli altri strumenti della pila, e nessuna ragione di averne. Chiedere a ogni strumento di verificare sé stesso produce tanti rapporti parziali quanti sono gli strumenti, in altrettanti formati, senza che nulla li colleghi. Si ottengono frammenti, mai l'immagine d'insieme, perché l'immagine d'insieme è proprio ciò che nessuno strumento può vedere dalla sua posizione.

Questa impossibilità non è un difetto passeggero che i fornitori correggeranno. Sta nella posizione di ogni strumento nella pila: è un partecipante, non un osservatore. Ora, verificare presuppone di porsi al di sopra di ciò che si osserva, in una posizione che abbraccia l'insieme. Uno strumento che fa parte della pila non può occupare quella posizione, per definizione; occorrerebbe per questo un'istanza situata al di sopra degli strumenti, che li veda tutti senza essere uno di essi. L'auditabilità su larga scala non è dunque una funzionalità che uno strumento potrebbe acquisire, è una proprietà di uno strato che li sovrasta.

È la ragione per cui l'auditabilità è, per natura, una faccenda di strato e non di strumento. Esige un punto di vista che solo un dispositivo posto al di sopra della pila può occupare: quello che vede passare tutte le interazioni, quale che sia lo strumento che le ha prodotte, e le registra in un formato comune, interrogabile, consolidato. Senza questo strato, ogni strumento resta cieco agli altri, e l'organizzazione resta cieca all'insieme. Con esso, l'uso ridiventa osservabile come un tutto, che è la condizione stessa dell'audit.

La frontiera tra uso personale e uso istituzionale

Ecco perché l'auditabilità non è una funzionalità tra le altre, ma una condizione di esistenza in organizzazione. Uno strumento che non si può verificare su larga scala può essere usato da un individuo per proprio conto; non può essere adottato da un'istituzione che deve rispondere di ciò che produce. La frontiera tra l'uso personale e l'uso istituzionale dell'IA passa esattamente lì, su questa capacità di rendere conto collettivamente. Un individuo deve conto a sé stesso; un'istituzione ne deve a terzi, e questa differenza cambia tutto ciò che ci si aspetta dallo strumento.

Man mano che questo criterio si impone, ridisegna la gerarchia dei fornitori. Strumenti brillanti sul piano della generazione, ma incapaci di rendere conto su larga scala, si ritroveranno relegati al rango di accessori personali, mentre soluzioni meno spettacolari ma verificabili diventeranno il basamento dei deployment seri. Il mercato non premierà più la prestazione da sola; premierà la prestazione governata, quella di cui un'organizzazione può rendere conto davanti a chi di dovere.

Questo spostamento separerà le organizzazioni tanto quanto i fornitori. Quelle che avranno trattato l'auditabilità come un dettaglio da regolare più tardi si ritroveranno, il giorno in cui la domanda si pone, incapaci di rispondervi, con anni di produzione di cui non possono rendere conto. Quelle che l'avranno trattata come una condizione di esistenza avranno, fin dall'inizio, posato lo strato che rende il loro uso dell'IA consolidabile, e potranno rispondere, con calma, alla domanda che mette gli altri in difficoltà. L'auditabilità non è ciò che si aggiunge alla fine; è ciò senza cui il resto non tiene in organizzazione.

Un'IA che non si può verificare su larga scala è, in pratica, un'IA che un'organizzazione non può davvero mettere in campo.