Fausse jurisprudence produite par une IA : le protocole de vérification avant dépôt

Pourquoi une référence inventée paraît vraie

Un modèle de langage produit le texte le plus plausible, pas le texte vérifié. Quand vous demandez une décision soutenant un moyen, le modèle connaît la forme d'une référence française : une juridiction, une chambre, une date, un numéro de pourvoi, une formule de principe. Il assemble ces éléments de façon cohérente.

Le résultat a donc exactement l'apparence d'une référence authentique. C'est ce qui rend le contrôle indispensable : l'erreur ne se détecte pas à la lecture, elle se détecte à la vérification dans une base.

Le phénomène touche aussi les citations partielles. Une décision réelle peut être citée pour une solution qu'elle ne contient pas, ou dans une portée qu'elle n'a pas. Ce cas est plus insidieux, parce que la référence existe et résiste à un contrôle superficiel.

Ce que les juridictions françaises reprochent

Les premières décisions françaises ne sanctionnent pas l'usage de l'intelligence artificielle. Elles relèvent le défaut de vérification et la présentation, devant une juridiction, d'éléments que l'auteur n'a pas contrôlés.

La distinction est essentielle pour un cabinet. Elle signifie qu'aucune règle n'interdit d'utiliser un outil génératif pour travailler, et qu'aucun outil ne vous dispense du contrôle qui relève de votre office.

Elle a aussi une conséquence déontologique classique : l'obligation de compétence et de diligence, et le devoir de loyauté envers la juridiction. Déposer une référence non vérifiée engage ces principes indépendamment de la technologie employée.

Le protocole de vérification, en cinq contrôles

Ce protocole se tient en une page et s'applique à toute écriture destinée à une juridiction, quelle que soit la source de la référence.

Le principe directeur est simple : aucune référence n'entre dans une écriture si elle n'a pas été ouverte dans une base et lue dans son texte. Une citation de seconde main ne suffit pas, même venant d'un confrère.

• Retrouver chaque décision dans une base de référence, à partir de son numéro et non de son intitulé.
• Lire le texte de la décision, pas seulement le résumé ou la formule citée.
• Vérifier que la solution invoquée figure bien dans la décision, et dans la portée annoncée.
• Contrôler que la décision n'a pas été renversée ou dépassée par une évolution postérieure.
• Conserver la trace du contrôle dans le dossier, avec la date et le nom du vérificateur.

L'usage qui reste sûr, et celui qui ne l'est pas

Un outil génératif est utile là où il ne produit pas de fait vérifiable : reformuler un paragraphe, structurer un plan de conclusions, proposer des objections adverses à anticiper, résumer une pièce que vous lui fournissez, préparer une liste de questions pour un rendez-vous client.

Il est inadapté dès qu'il devient la source d'un fait ou d'une référence. Demander une jurisprudence, un article de code, un délai de procédure ou un chiffre à un assistant généraliste revient à lui demander d'inventer quelque chose de crédible.

La différence pratique tient à un mot : un agent qui travaille sur vos pièces et vos bases raisonne sur des documents existants et cite leur source. Un assistant public interrogé sans document raisonne sur une mémoire statistique. Le premier peut être contrôlé, le second doit être refait.

• Usage sûr : reformulation, structuration, synthèse d'un document que vous fournissez.
• Usage sûr : préparation de questions, anticipation d'objections, relecture de forme.
• Usage à risque : demander une référence de jurisprudence sans document source.
• Usage à risque : demander un délai, un texte applicable ou un chiffre sans vérification.

Ce que le cabinet doit écrire, et qui le signe

Une charte interne de deux pages suffit, à condition qu'elle nomme les responsables. Elle indique quels usages sont autorisés, quels outils sont admis, quelles données ne sortent jamais du cabinet, et qui effectue le contrôle des références avant dépôt.

Le contrôle doit être nominatif. Un protocole qui dit que les références sont vérifiées sans dire par qui ne tient pas devant un incident.

Enfin, informez votre assureur de responsabilité civile professionnelle de vos usages. Une déclaration claire vaut mieux qu'une discussion après un sinistre, et le secret professionnel reste le premier critère de choix d'un outil : aucune pièce identifiante ne doit être versée dans un service dépourvu de contrat couvrant le cabinet.

Questions fréquentes

À lire ensuite