Citiranje sudskih predmeta iz AI-ja bez provjere postoje li uopće
Model će izmisliti predmet, citat i navod, i sva tri će vam predstaviti s istim mirnim samopouzdanjem kojim navodi i one prave.
Ovo nije pravni savjet. Sally ismijava ponasanja i slucajeve uporabe opcenito, nikada tvoju konkretnu situaciju, i nista ovdje ne zamjenjuje pravog odvjetnika. Slucajevi su stvarni; sto ces s njima uciniti, stvar je izmedu tebe i nekoga ovlastenog da ti to kaze.
Podnošenje podneska sa sudskim citatima koje je proizveo chatbot, bez neovisne potvrde da svaki predmet stvarno postoji.
Mata v. Avianca, Inc.
678 F. Supp. 3d 443 (S.D.N.Y. 2023) · US (S.D.N.Y.)
Dva su odvjetnika podnijela podnesak u kojem se citira šest potpuno izmišljenih odluka koje je generirao ChatGPT, a onda su ustrajali kad ih sud nije mogao pronaći.
Sudac Castel utvrdio je subjektivnu zlu vjeru i izrekao 5.000 dolara sankcija odvjetnicima i njihovoj firmi prema Pravilu 11, te im naložio da obavijeste prave suce koje su lažno naveli kao autore.
Ovo je utemeljujuća pouka cijelog žanra. Odvjetnici su podnijeli podnesak u kojem se citira šest potpuno izmišljenih odluka koje je proizveo chatbot, s lažnim navodima i lažnim sucima. Pitati chatbota "jesu li ovi stvarni?" i dobiti odgovor "da" nije provjera. To je isti stroj koji vas laže dvaput.
AI optimizira tekst koji izgleda kao citat, a ne citat koji postoji. Savršeno formatiran broj iz zbirke s uvjerljivim nazivom predmeta najlakša je stvar na svijetu da je generira, a najteža da u nju posumnja netko tko žuri.
“Pitali ste stroj jesu li njegovi izmišljeni predmeti stvarni, rekao je da jesu, i nekako je to bio trenutak kad ste prestali provjeravati.”
- 01Izvucite svaki pojedini predmet u pravoj pravnoj bazi i pročitajte ga prije nego se približi bilo kakvom podnesku.
- 02Koristite AI da predloži pojmove za pretragu i kutove gledanja, a ne da vam isporuči autoritet pod koji ćete staviti svoj potpis.
- 03Ako predmet ne možete pronaći u zbirci, on ne postoji. To tretirajte kao pravilo, a ne kao iznimku.
Nije pravni savjet. Opci komentar na slucaj uporabe, ne na tvoju situaciju. Razgovaraj s pravim odvjetnikom prije nego sto nesto poduzmes.