Produit

La vérification ne doit pas être une option

Laisser la vérification à la discrétion de l’utilisateur, c’est lui transférer en silence une responsabilité que toute la culture du métier refuse de faire reposer sur un seul.

Dans la plupart des outils d’IA juridique actuels, la vérification est une option laissée à l’utilisateur. L’outil produit, et il revient à celui qui reçoit la sortie de décider s’il veut vérifier, comment, à quel degré. La promesse implicite est rassurante, l’utilisateur reste maître, mais à l’échelle d’une organisation, cette manière de présenter les choses est un transfert silencieux de responsabilité. Et c’est ce transfert, plus que tout défaut technique, qui pose problème.

Pourquoi l’option ne tient pas

Parce qu’un utilisateur, dans la pratique, ne vérifie pas systématiquement. Pas par négligence, mais par charge cognitive. Sous la pression du temps, sous le flux des dossiers, sous l’accumulation de petites décisions, la vérification glisse vers l’implicite, vers le partiel, vers le « ça a l’air correct ». C’est humain, c’est universel, et c’est précisément pour cela qu’aucune organisation juridique sérieuse ne fonde sa fiabilité sur la seule vigilance individuelle. Compter sur le fait que chacun vérifiera toujours, c’est compter sur une constance que la nature du travail rend impossible.

La vérification laissée à la discrétion de chacun finit toujours par céder sous la charge. Ce n’est pas de la négligence, c’est de la fatigue.

Il y a une asymétrie cruelle entre le coût et le bénéfice de la vérification, qui explique pourquoi elle cède. Vérifier coûte un effort certain, immédiat, à chaque fois ; ne pas vérifier ne coûte rien la plupart du temps, parce que la plupart du temps la sortie est correcte. L’utilisateur qui saute une vérification est récompensé dans quatre-vingt-dix-neuf cas, et puni dans le centième, qui survient rarement et tard. Cette structure d’incitation pousse mécaniquement vers le relâchement, indépendamment de la conscience professionnelle de chacun. On ne peut pas demander à un dispositif de tenir contre l’incitation qu’il crée lui-même.

Il faut bien voir que ce n’est pas un problème qu’une meilleure volonté résoudrait. On peut former les utilisateurs, leur rappeler l’importance de vérifier, les sensibiliser aux risques : rien de tout cela ne tient face à la réalité d’une journée chargée. La vigilance est une ressource qui s’épuise, et un dispositif qui en dépend est un dispositif qui cédera, non pas toujours, mais assez souvent pour qu’on ne puisse pas s’y fier. Le problème n’est pas la qualité des gens ; c’est qu’on leur demande une constance que personne ne peut tenir.

Ce que la culture du métier a toujours su

Toute la culture du métier est construite, depuis longtemps, sur l’idée inverse : la vérification doit être procédurale, intégrée, redondante, indépendante de la volonté de bien faire de chaque individu. Le double regard, la relecture par un senior, la validation par un associé, le contrôle croisé entre confrères ne sont pas des marques de défiance envers les personnes ; ce sont des dispositifs qui mettent la fiabilité à l’abri des défaillances individuelles, en ne la faisant jamais reposer sur un seul. Cette culture est le fruit d’une longue expérience de ce qui peut mal tourner quand un seul regard suffit.

Cette culture est mal honorée par les outils IA actuels, qui rétablissent en pratique ce que le métier avait patiemment écarté, à savoir une fiabilité suspendue à la vigilance d’un seul. En laissant la vérification optionnelle, ils ramènent le travail juridique à une étape antérieure à toutes ses garanties procédurales, celle où la qualité du livrable dépendait du soin d’un individu et de rien d’autre. C’est un recul que personne n’a décidé, mais que la conception des outils impose en silence.

Le métier a passé un siècle à ne plus dépendre d’un seul regard. Les outils IA actuels y ramènent.

Ce recul est d’autant plus paradoxal que l’IA est précisément l’outil qui produit plus vite, donc davantage à vérifier. En augmentant le volume de sorties tout en laissant la vérification optionnelle, les outils actuels aggravent le problème qu’ils prétendent résoudre : ils déversent sur l’utilisateur une masse de production qu’il faudrait contrôler, au moment même où ils lui retirent les garanties procédurales qui rendaient ce contrôle tenable. Plus l’IA produit, plus la vérification optionnelle devient intenable, et plus il devient urgent de la rendre structurelle.

Chez MAX, ce constat se traduit par un principe explicite : la vérification ne doit pas être une option, elle doit être structurelle. Les étapes de vérification ne sont pas proposées à l’utilisateur, elles sont déclenchées par l’architecture, à des moments définis, sur des critères définis, et ne peuvent pas être contournées sans laisser de trace. Cela se traduit par des mécanismes concrets : boucles de vérification automatiques sur les sorties sensibles, points de validation humaine déclenchés par la nature de la matière et non par la volonté de l’utilisateur, contrôles croisés entre sources, entre étapes, entre versions, trace systématique de ce qui a été vérifié, par qui, comment, et de ce qui ne l’a pas été.

Le résultat de ce choix est qu’à n’importe quel moment, l’organisation peut documenter le niveau de vérification appliqué à n’importe quel livrable, sans avoir à espérer que chacun ait fait consciencieusement sa part. La vérification cesse d’être une promesse pour devenir un fait constaté, inscrit dans l’architecture. C’est une différence de nature avec les outils qui se contentent de recommander la prudence : recommander la prudence reporte la charge sur l’individu ; l’inscrire dans le dispositif la retire de ses épaules.

Recommander la prudence reporte la charge sur l’individu. L’inscrire dans le dispositif la lui retire.

Cette inscription dans le dispositif change aussi la nature de ce qu’une organisation peut promettre à ses clients. Tant que la vérification est optionnelle, un cabinet ne peut garantir que sa bonne intention : il espère que ses équipes vérifient, mais il ne peut pas le prouver. Dès que la vérification est structurelle et tracée, il peut affirmer, preuve à l’appui, le niveau de contrôle appliqué à chaque livrable. La vérification cesse d’être une affaire de confiance dans les personnes pour devenir une propriété démontrable de l’organisation, ce qui est exactement ce qu’un client exigeant attend, et ce que la culture du métier a toujours cherché à garantir.

Il y a, dans ce parti pris, une forme de respect pour l’utilisateur qui peut sembler contre-intuitive. Rendre la vérification structurelle, ce n’est pas se méfier du professionnel, c’est le décharger d’un fardeau que personne ne devrait porter seul. C’est reconnaître que, même excellent, même consciencieux, il travaille sous contrainte de temps et d’attention, et que le rôle d’une bonne infrastructure est de le protéger de ses propres moments de fatigue, pas de les exploiter. La vérification structurelle n’enlève rien à sa compétence ; elle l’entoure de ce qui la rend tenable dans la durée.

C’est ainsi que ce principe aligne l’usage de l’IA avec la culture professionnelle réelle, dans laquelle la vérification est une valeur et non une corvée. Il rend possible une adoption sereine sur les sujets sensibles, parce que la responsabilité ne repose pas sur la seule vigilance de l’utilisateur isolé. Les systèmes qui survivront au déploiement ne seront pas ceux qui demanderont de vérifier mieux ; ce seront ceux qui auront rendu la vérification impossible à supprimer.

Les systèmes qui survivront au déploiement ne demanderont pas de vérifier mieux. Ils rendront la vérification impossible à supprimer.