Le vocabulaire de l'IA

Hallucination : pourquoi la fausse référence est-elle toujours la plus crédible ?

Une hallucination est une affirmation produite par un système d'IA avec la même assurance qu'une affirmation exacte, mais qui ne correspond à rien. En matière juridique, elle prend le plus souvent la forme d'une référence plausible et inexistante : bonne juridiction, format correct, solution cohérente avec l'argumentation, et aucune décision derrière.

Pourquoi ça se produit

Un modèle de langage ne consulte pas une base au moment où il répond. Il produit la suite la plus probable d'un texte, à partir de ce qu'il a appris. Or une référence de jurisprudence a une forme très régulière — une juridiction, une chambre, une date, un numéro — et cette forme est parfaitement imitable sans que le contenu existe.

Le système ne ment pas et ne se trompe pas au sens où un humain se tromperait. Il produit quelque chose qui ressemble à une référence, parce que c'est ce qu'on lui a demandé.

Ce que ce n'est pas

Ce n'est pas une erreur de raisonnement. Un système peut halluciner une source tout en tenant un raisonnement juridique correct, et c'est ce qui rend la chose dangereuse : le texte se lit bien.

Ce n'est pas non plus un défaut qu'un modèle plus puissant élimine. Les modèles récents hallucinent moins, ils hallucinent encore, et leurs hallucinations sont plus difficiles à repérer précisément parce que le reste du texte est meilleur.

Et ce n'est pas propre à un fournisseur. Les décisions françaises de la fin 2025 qui ont relevé des jurisprudences inventées dans des écritures ne distinguent pas les outils employés.

Un collaborateur se trompe là où il hésite, et son hésitation est visible. Un système produit une erreur avec la même assurance qu'une affirmation exacte.

Un exemple, pour fixer les idées

Vous demandez s'il existe une jurisprudence sur un point précis. Le système répond en citant un arrêt d'une cour d'appel, avec sa date et son numéro, et en résume la solution en deux lignes parfaitement adaptées à votre question.

Tout est plausible : la cour existe, la date est cohérente, le numéro a le bon format, et la solution est exactement celle qu'on attendrait. Il n'y a rien à repérer, sauf en ouvrant la décision. C'est ce qui explique que ces références passent la relecture d'avocats compétents.

Comment on la contient

Trois mesures, par ordre d'efficacité.

Fournir les sources plutôt que de les faire produire. Un système qui cherche dans un fonds réel avant de répondre ne peut pas inventer une décision qu'il n'a pas trouvée — il peut en revanche mal l'interpréter, ce qui est un autre problème.

Exiger que chaque référence soit ouvrable en un geste. Une référence qu'on ne peut pas ouvrir ne sera pas ouverte, et une référence non ouverte est une référence non vérifiée.

Poser une règle absolue plutôt qu'un régime proportionné : aucune source citée ne figure dans un livrable sortant sans avoir été ouverte par quelqu'un.

Ce que ça ne résout pas

Aucune architecture n'élimine le phénomène. On réduit la fréquence, on rend la vérification praticable, on n'obtient pas une garantie. Un fournisseur qui affirmerait le contraire décrirait mal son propre système.

Et la vérification a un coût qui ne disparaît pas. Ouvrir 40 références prend du temps ; ce que l'on peut changer, c'est que ce temps soit de quelques secondes par référence plutôt que de plusieurs minutes.

Pourquoi ça compte pour un juriste

Parce que le risque ne se mesure pas au nombre d'erreurs mais à celles qui passent. Un taux d'erreur qui baisse pendant que la détectabilité des erreurs restantes s'effondre est un arrangement défavorable pour quelqu'un dont la signature engage.

Et parce que la sanction, quand elle vient, ne porte pas sur l'usage de l'outil. Elle porte sur le défaut de vérification, qui est une obligation ancienne.