Cytowanie spraw z AI bez sprawdzenia, czy w ogóle istnieją
Model wymyśli sprawę, sygnaturę i cytat, a wszystkie trzy poda z tą samą spokojną pewnością, z jaką podaje te prawdziwe.
To nie jest porada prawna. Sally komentuje zachowania i przypadki uzycia ogolnie, nigdy twojej konkretnej sytuacji, i nic tutaj nie zastapi prawdziwego prawnika. Sprawy sa prawdziwe; co z nimi zrobisz, to kwestia miedzy toba a kims uprawnionym, by ci to doradzic.
Złożenie pisma procesowego z sygnaturami spraw wyprodukowanymi przez chatbota, bez samodzielnego potwierdzenia, że każda sprawa jest prawdziwa.
Mata v. Avianca, Inc.
678 F. Supp. 3d 443 (S.D.N.Y. 2023) · US (S.D.N.Y.)
Dwóch prawników złożyło pismo cytujące sześć całkowicie zmyślonych orzeczeń wygenerowanych przez ChatGPT, a potem upierało się przy nich, gdy sąd nie mógł ich odnaleźć.
Sędzia Castel stwierdził subiektywną zła wiarę i nałożył 5000 $ sankcji w trybie Rule 11 na prawników i ich kancelarię, oraz nakazał im powiadomić prawdziwych sędziów fałszywie wskazanych jako autorzy.
To założycielska przestroga całego gatunku. Prawnicy złożyli pismo cytujące sześć całkowicie zmyślonych orzeczeń wyprodukowanych przez chatbota, z fałszywymi cytatami i fałszywymi sędziami. Zapytanie chatbota "czy te sprawy są prawdziwe?" i usłyszenie "tak" to nie weryfikacja. To ta sama maszyna okłamująca cię dwa razy.
AI optymalizuje pod tekst, który wygląda jak sygnatura, nie pod sygnaturę, która istnieje. Idealnie sformatowany numer w repertorium z wiarygodną nazwą sprawy to najłatwiejsza rzecz na świecie do wygenerowania i najtrudniejsza do zakwestionowania dla zabieganej osoby.
“Zapytałeś maszynę, czy jej zmyślone sprawy są prawdziwe, powiedziała tak, i jakimś cudem właśnie wtedy przestałeś sprawdzać.”
- 01Wyciągnij każdą sprawę co do jednej z prawdziwej bazy prawnej i przeczytaj ją, zanim w ogóle zbliży się do pisma.
- 02Używaj AI, żeby podpowiadała hasła do wyszukiwania i ujęcia tematu, nie żeby dostarczała podstawy prawne, pod którymi się podpiszesz.
- 03Jeśli nie możesz znaleźć sprawy w zbiorze orzeczeń, ona nie istnieje. Traktuj to jako domyślne założenie, nie jako wyjątek.
To nie porada prawna. Ogolny komentarz do przypadku uzycia, nie do twojej sytuacji. Porozmawiaj z prawdziwym prawnikiem, zanim zaczniesz dzialac.