Le vocabulaire de l'IA
Supervision humaine : à partir de quand relit-on vraiment ?
La supervision humaine désigne l'intervention d'une personne dans le fonctionnement d'un système automatisé. Le règlement européen l'impose pour les systèmes à haut risque et laisse à chaque organisation le soin d'en définir le niveau. Or trois niveaux très différents portent le même nom.
Les trois niveaux
La supervision de principe : une personne peut intervenir, elle en a la possibilité technique, et elle ne le fait pas systématiquement. C'est le niveau le plus faible, et il est souvent celui qui existe en pratique quand rien n'a été décidé.
La supervision par échantillon : une personne contrôle une partie de la production, selon un critère défini à l'avance. Ce niveau n'a de valeur que si le critère est objectif et si l'échantillon est réellement prélevé.
La supervision effective : une personne examine chaque résultat avant qu'il produise un effet, avec les moyens de le corriger ou de l'écarter. C'est le seul niveau où l'on peut dire que la décision reste humaine.
Ce qui distingue les trois en pratique
Non pas l'intention, qui est toujours bonne, mais le déclencheur. Un dispositif où le contrôle dépend de la disponibilité de celui qui contrôle relève du premier niveau, quelle que soit la conscience professionnelle des personnes.
Un déclencheur objectif — la nature du livrable, son destinataire, l'exposition de la pratique — fait basculer au deuxième. Un contrôle systématique préalable fait basculer au troisième.
C'est pourquoi un régime de vérification décidé à froid vaut mieux qu'un engagement de vigilance : le premier se vérifie, le second se constate seulement après un incident.
Une remarque sur le vocabulaire du règlement, qui emploie l'expression « contrôle humain effectif ». L'adjectif n'est pas décoratif : il exclut précisément le premier niveau, celui où la possibilité d'intervenir existe sans être exercée.
Ce que ça ne résout pas
La supervision ne compense pas un travail que le relecteur ne peut pas évaluer. Sur un texte homogène qui n'émet aucun signal, une relecture attentive porte sur tout et donc sur rien en particulier.
Elle ne se renforce pas non plus en la doublant. Deux relecteurs face à un texte qui ne signale rien ne produisent pas plus d'information : on double le coût sans augmenter le rendement.
Et elle ne protège pas contre l'accoutumance. Un contrôle exercé 1 000 fois sans jamais rien trouver se relâche, ce qui est documenté dans tous les métiers où la vérification est routinière.
Il faut ajouter que le niveau applicable n'est pas uniforme dans une organisation. Un même cabinet peut relever du troisième niveau sur ses écritures judiciaires et du premier sur ses notes internes, sans incohérence : c'est l'exposition du livrable qui commande, pas le statut de l'outil employé.
Ce que le règlement laisse à votre charge
Le texte impose que des mesures de supervision existent et soient adaptées au risque ; il ne dit pas lequel des trois niveaux appliquer à quelle production. C'est à l'organisation de le définir, et de pouvoir le documenter.
Une page suffit : quels livrables relèvent de quel niveau, selon quel déclencheur, et qui en répond. Ce document est aussi ce qui protège celui qui relit — il a appliqué le régime prévu, il n'a pas exercé un jugement solitaire à huit heures du soir.
Pourquoi ça compte pour un juriste
Parce que c'est le point où la conformité réglementaire et la responsabilité professionnelle se rejoignent. Le règlement demande que quelqu'un supervise ; votre ordre et votre client demandent que quelqu'un réponde.
La même page répond aux deux, à condition qu'elle décrive un régime déclenché par des faits et non par la vigilance résiduelle de chacun.