Urteile einer KI zitieren, ohne zu prüfen, ob sie existieren
Das Modell erfindet einen Fall, eine Fundstelle und ein Zitat und präsentiert alle drei mit derselben gelassenen Selbstsicherheit wie die echten.
Dies ist keine Rechtsberatung. Sally nimmt Verhalten und Anwendungsfalle allgemein aufs Korn, nie deine konkrete Situation, und nichts hier ersetzt einen echten Anwalt. Die Falle sind echt; was du daraus machst, ist Sache zwischen dir und jemandem, der dazu befugt ist, es dir zu sagen.
Einen Schriftsatz mit Fallzitaten einreichen, die ein Chatbot produziert hat, ohne unabhängig zu bestätigen, dass jeder Fall echt ist.
Mata v. Avianca, Inc.
678 F. Supp. 3d 443 (S.D.N.Y. 2023) · US (S.D.N.Y.)
Zwei Anwälte reichten einen Schriftsatz ein, der sechs komplett erfundene, von ChatGPT generierte Entscheidungen zitierte, und legten dann noch nach, als das Gericht sie nicht finden konnte.
Richter Castel stellte subjektive Bösgläubigkeit fest und verhängte 5.000 $ Strafe nach Rule 11 gegen die Anwälte und ihre Kanzlei und ordnete an, dass sie die echten, fälschlich als Verfasser genannten Richter benachrichtigen mussten.
Das ist die Urgeschichte des gesamten Genres. Anwälte reichten einen Schriftsatz ein, der sechs komplett erfundene Entscheidungen eines Chatbots zitierte, samt erfundenen Zitaten und erfundenen Richtern. Den Chatbot zu fragen "sind die echt?" und ein "Ja" zu bekommen, ist keine Überprüfung. Es ist dieselbe Maschine, die dich zweimal anlügt.
Eine KI optimiert für Text, der wie ein Zitat aussieht, nicht für ein Zitat, das existiert. Eine perfekt formatierte Aktenzeichennummer mit plausiblem Fallnamen ist das Einfachste der Welt für sie zu generieren und das Schwerste für einen beschäftigten Menschen anzuzweifeln.
“Du hast die Maschine gefragt, ob ihre erfundenen Fälle echt sind, sie sagte ja, und ausgerechnet das war der Moment, in dem du aufgehört hast zu prüfen.”
- 01Zieh jeden einzelnen Fall in einer echten juristischen Datenbank heraus und lies ihn, bevor er auch nur in die Nähe eines Schriftsatzes kommt.
- 02Nutze KI, um Suchbegriffe und Ansätze vorzuschlagen, nicht um Belege zu liefern, die du mit deinem Namen unterschreibst.
- 03Wenn du den Fall in keiner Entscheidungssammlung findest, existiert er nicht. Behandle das als Regel, nicht als Ausnahme.
Keine Rechtsberatung. Allgemeiner Kommentar zu einem Anwendungsfall, nicht zu deiner Situation. Sprich mit einem echten Anwalt, bevor du handelst.