Citiranje slučajeva iz AI-a bez provere da li postoje
Model će izmisliti slučaj, citat i navod, i predstaviti sva tri sa istom mirnom uverenošću kojom predstavlja i one prave.
Ovo nije pravni savet. Sali ismeva ponasanja i slucajeve upotrebe uopsteno, nikada tvoju konkretnu situaciju, i nista ovde ne zamenjuje pravog advokata. Slucajevi su stvarni; sta ces s njima da uradis, stvar je izmedu tebe i nekoga ovlascenog da ti to kaze.
Predaješ podnesak sa citatima slučajeva koje je chatbot proizveo, a da nisi nezavisno potvrdio da svaki slučaj zaista postoji.
Mata v. Avianca, Inc.
678 F. Supp. 3d 443 (S.D.N.Y. 2023) · US (S.D.N.Y.)
Dvojica advokata predala su podnesak sa citatima šest potpuno izmišljenih odluka koje je generisao ChatGPT, pa su nastavili da insistiraju kad sud nije mogao da ih pronađe.
Sudija Castel je utvrdio subjektivnu zlu nameru i izrekao 5.000 dolara sankcija po Pravilu 11 advokatima i njihovoj firmi, i naložio im da obaveste prave sudije lažno navedene kao autore.
Ovo je osnivačka opomena celog žanra. Advokati su predali podnesak sa citatima šest potpuno izmišljenih odluka koje je chatbot proizveo, sa lažnim navodima i lažnim sudijama. Pitati chatbota "da li su ovi stvarni?" i čuti "da" nije provera. To je ista mašina koja te laže drugi put.
AI optimizuje za tekst koji liči na citat, a ne za citat koji postoji. Savršeno formatiran broj zbornika sa uverljivim nazivom slučaja najlakša je stvar na svetu za njega da generiše, a najteža za zauzetog čoveka da posumnja u nju.
“Pitao si mašinu da li su njeni izmišljeni slučajevi stvarni, rekla je da, i nekako je to bio trenutak kad si prestao da proveravaš.”
- 01Izvuci svaki pojedinačni slučaj u pravoj pravnoj bazi i pročitaj ga pre nego što se i približi podnesku.
- 02Koristi AI da predloži pojmove za pretragu i uglove, ne da ti isporuči autoritet pod kojim ćeš se potpisati.
- 03Ako ne možeš da nađeš slučaj u zborniku, on ne postoji. Tretiraj to kao podrazumevano, ne kao izuzetak.
Nije pravni savet. Opsti komentar na slucaj upotrebe, ne na tvoju situaciju. Razgovaraj sa pravim advokatom pre nego sto nesto preduzmes.