At stole på dit firmas eget AI-værktøj til at få henvisningerne rigtige
En hallucination med dit firmas logo på er stadig en hallucination. Brandingen gør ikke sagerne ægte.
Dette er ikke juridisk radgivning. Sally haner adfaerd og brugsscenarier generelt, aldrig din specifikke situation, og intet her erstatter en rigtig advokat. Sagerne er virkelige; hvad du gor ved dem, er en sag mellem dig og en, der har bemyndigelse til at radgive dig.
At antage, at et internt, firma-bygget juridisk AI-værktøj er sikkert at citere fra, fordi det er "vores" og ikke en offentlig chatbot.
Wadsworth v. Walmart Inc.
D. Wyo., sanctions order Feb. 2025 (docket-level) · US (D. Wyoming)
Tre advokater indgav begæringer, der citerede ni sager, hvoraf otte ikke fandtes, genereret via deres firmas interne AI-værktøj.
Dommeren pålagde $5.000 i samlede sanktioner, og den ledende advokat mistede sin pro hac vice-status. Firmaet slap for sanktion ved at vise, at det siden havde gjort uafhængig verifikation obligatorisk.
Selv et stort firmas eget interne AI-værktøj producerede processkrifter, der citerede sager, som ikke fandtes. "Det er vores eget system" køber dig ingenting, hvis ingen åbnede sagerne. Den underskrivende advokat bærer stadig ansvaret, uanset hvis model der lavede udkastet.
Bemærkelsesværdigt nok slap firmaet selv for sanktion ved at vise, at det siden havde gjort uafhængig verifikation obligatorisk. Værktøjet var ikke garantien. Politikken om at tjekke hver henvisning var.
“Du stolede på værktøjet, fordi det havde dit firmas navn på. Det havde de otte sager, det opfandt, også.”
- 01Anvend samme verifikationsstandard på interne værktøjer, som du ville på en hvilken som helst offentlig chatbot. Samme maskine, samme fejltype.
- 02Gør uafhængige henvisningstjek til firmapolitik, skriftligt, og følg den rent faktisk.
- 03Gør "hvem åbnede denne sag" til et spørgsmål med et navn på, før noget bliver indgivet.
Ikke juridisk radgivning. Generel kommentar til et brugsscenarie, ikke din situation. Tal med en rigtig advokat, for du handler.