At citere sager fra en AI uden at tjekke, om de findes
Modellen opfinder en sag, en henvisning og et citat og serverer alle tre med samme rolige selvtillid, den bruger til de ægte.
Dette er ikke juridisk radgivning. Sally haner adfaerd og brugsscenarier generelt, aldrig din specifikke situation, og intet her erstatter en rigtig advokat. Sagerne er virkelige; hvad du gor ved dem, er en sag mellem dig og en, der har bemyndigelse til at radgive dig.
At indgive et processkrift med sagshenvisninger, en chatbot har produceret, uden selv at bekræfte, at hver sag er ægte.
Mata v. Avianca, Inc.
678 F. Supp. 3d 443 (S.D.N.Y. 2023) · US (S.D.N.Y.)
To advokater indgav et processkrift med seks fuldstændig opdigtede ChatGPT-genererede afgørelser og holdt fast, da retten ikke kunne finde dem.
Dommer Castel fandt subjektiv ond tro og pålagde $5.000 i Rule 11-sanktioner mod advokaterne og deres firma og pålagde dem at underrette de rigtige dommere, der fejlagtigt var udråbt som forfattere.
Det er hele genrens grundlæggende skrækhistorie. Advokater indgav et processkrift med seks fuldstændig opdigtede afgørelser, en chatbot havde produceret, komplet med falske citater og falske dommere. At spørge chatbotten "er disse ægte?" og få et "ja" er ikke verifikation. Det er den samme maskine, der lyver for dig to gange.
En AI optimerer for tekst, der ligner en henvisning, ikke for en henvisning, der findes. Et perfekt formateret journalnummer med et plausibelt sagsnavn er det letteste i verden for den at lave og det sværeste for en travl person at betvivle.
“Du spurgte maskinen, om dens opdigtede sager var ægte, den sagde ja, og på en eller anden måde var det øjeblikket, hvor du holdt op med at tjekke.”
- 01Hent hver eneste sag i en rigtig juridisk database og læs den, før den overhovedet kommer i nærheden af et processkrift.
- 02Brug AI til at foreslå søgeord og vinkler, ikke til at levere autoritet, du skriver dit navn under på.
- 03Hvis du ikke kan finde sagen i et journalregister, findes den ikke. Behandl det som udgangspunktet, ikke undtagelsen.
Ikke juridisk radgivning. Generel kommentar til et brugsscenarie, ikke din situation. Tal med en rigtig advokat, for du handler.