Citer des arrêts fournis par une IA sans vérifier qu'ils existent
Le modèle va inventer un arrêt, une référence et une citation, et te présenter les trois avec le même aplomb tranquille que pour les vrais.
Ceci n'est pas un conseil juridique. Sally critique des comportements et des cas d'usage en general, jamais votre situation precise, et rien ici ne remplace un vrai avocat. Les affaires sont reelles ; ce que vous en faites regarde vous et une personne habilitee a vous conseiller.
Déposer des conclusions avec des références de jurisprudence produites par un chatbot, sans confirmer de manière indépendante que chaque arrêt est réel.
Mata v. Avianca, Inc.
678 F. Supp. 3d 443 (S.D.N.Y. 2023) · US (S.D.N.Y.)
Deux avocats ont déposé des conclusions citant six décisions entièrement fabriquées par ChatGPT, puis ont persisté quand le tribunal n'a pas pu les retrouver.
Le juge Castel a constaté une mauvaise foi subjective, a infligé 5 000 dollars de sanctions au titre de la Rule 11 aux avocats et à leur cabinet, et leur a ordonné d'avertir les vrais juges faussement désignés comme auteurs.
C'est le récit édifiant fondateur de tout le genre. Des avocats ont déposé des conclusions citant six décisions entièrement fabriquées par un chatbot, citations bidon et juges fictifs compris. Demander au chatbot "sont-ils réels ?" et s'entendre répondre "oui" n'est pas une vérification. C'est la même machine qui te ment deux fois.
Une IA optimise pour produire un texte qui ressemble à une référence, pas une référence qui existe. Un numéro de recueil parfaitement formaté avec un nom d'affaire plausible est la chose la plus facile au monde à générer pour elle, et la plus difficile à mettre en doute pour une personne pressée.
“Tu as demandé à la machine si ses arrêts inventés étaient réels, elle a dit oui, et c'est étrangement à ce moment-là que tu as cessé de vérifier.”
- 01Récupère chaque arrêt dans une vraie base de données juridique et lis-le avant qu'il n'approche le moindre dépôt.
- 02Sers-toi de l'IA pour suggérer des termes de recherche et des angles, pas pour fournir une autorité que tu vas signer de ton nom.
- 03Si tu ne trouves pas l'arrêt dans un recueil, c'est qu'il n'existe pas. Pose ça comme principe par défaut, pas comme exception.
Pas un conseil juridique. Commentaire general sur un cas d'usage, pas sur votre situation. Parlez a un vrai avocat avant d'agir.