Dem hauseigenen KI-Tool deiner Kanzlei vertrauen, dass es die Fundstellen richtig hinbekommt
Eine Halluzination mit dem Logo deiner Kanzlei ist immer noch eine Halluzination. Das Branding macht die Fälle nicht echt.
Dies ist keine Rechtsberatung. Sally nimmt Verhalten und Anwendungsfalle allgemein aufs Korn, nie deine konkrete Situation, und nichts hier ersetzt einen echten Anwalt. Die Falle sind echt; was du daraus machst, ist Sache zwischen dir und jemandem, der dazu befugt ist, es dir zu sagen.
Annehmen, ein hauseigenes, kanzleieigenes KI-Tool sei sicher zu zitieren, weil es "unseres" und kein öffentlicher Chatbot ist.
Wadsworth v. Walmart Inc.
D. Wyo., sanctions order Feb. 2025 (docket-level) · US (D. Wyoming)
Drei Anwälte reichten Anträge ein, die neun Fälle zitierten, von denen acht nicht existierten, generiert über das hauseigene KI-Tool ihrer Kanzlei.
Der Richter verhängte insgesamt 5.000 $ Sanktionen, und der federführende Anwalt verlor seinen Pro-hac-vice-Status. Die Kanzlei entging der Sanktion, indem sie nachwies, dass sie inzwischen unabhängige Überprüfung vorgeschrieben hatte.
Sogar das interne KI-Tool einer Grosskanzlei produzierte Schriftsätze, die Fälle zitierten, die nicht existierten. "Es ist unser proprietäres System" bringt dir nichts, wenn niemand die Fälle aufgemacht hat. Der unterzeichnende Anwalt trägt weiterhin die Verantwortung, egal wessen Modell den Entwurf erzeugt hat.
Bemerkenswert: Die Kanzlei selbst entging einer Sanktion, indem sie nachwies, dass sie inzwischen unabhängige Überprüfung vorgeschrieben hatte. Das Tool war nicht die Absicherung. Die Vorschrift, jede Fundstelle zu prüfen, war es.
“Du hast dem Tool vertraut, weil der Name deiner Kanzlei draufstand. Auf den acht Fällen, die es erfunden hat, stand er auch.”
- 01Wende auf interne Tools denselben Prüfungsmassstab an wie auf jeden öffentlichen Chatbot. Gleiche Maschine, gleicher Fehlermodus.
- 02Schreibe unabhängige Zitatprüfungen als Kanzleirichtlinie vor, schriftlich, und halte dich auch tatsächlich daran.
- 03Mach "wer hat diesen Fall aufgemacht" zu einer Frage mit einem Namen daran, bevor irgendetwas eingereicht wird.
Keine Rechtsberatung. Allgemeiner Kommentar zu einem Anwendungsfall, nicht zu deiner Situation. Sprich mit einem echten Anwalt, bevor du handelst.