Wiara, że własne narzędzie AI twojej kancelarii poda sygnatury bezbłędnie
Halucynacja z logo twojej kancelarii to wciąż halucynacja. Branding nie sprawia, że sprawy stają się prawdziwe.
To nie jest porada prawna. Sally komentuje zachowania i przypadki uzycia ogolnie, nigdy twojej konkretnej sytuacji, i nic tutaj nie zastapi prawdziwego prawnika. Sprawy sa prawdziwe; co z nimi zrobisz, to kwestia miedzy toba a kims uprawnionym, by ci to doradzic.
Zakładanie, że firmowe, autorskie narzędzie prawne AI można bezpiecznie cytować, bo jest "nasze", a nie publiczny chatbot.
Wadsworth v. Walmart Inc.
D. Wyo., sanctions order Feb. 2025 (docket-level) · US (D. Wyoming)
Trzech adwokatów złożyło wnioski cytujące dziewięć spraw, z których osiem nie istniało, wygenerowanych przez wewnętrzne narzędzie AI ich kancelarii.
Sędzia nałożył łącznie 5000 $ sankcji, a główny adwokat stracił status pro hac vice. Kancelaria uniknęła sankcji, wykazując, że od tego czasu wprowadziła obowiązek niezależnej weryfikacji.
Nawet wewnętrzne narzędzie AI dużej kancelarii wyprodukowało pisma cytujące sprawy, które nie istniały. "To nasz autorski system" nic ci nie daje, jeśli nikt nie otworzył tych spraw. Podpisujący się adwokat wciąż ponosi odpowiedzialność, bez względu na to, czyj model napisał szkic.
Co istotne, sama kancelaria uniknęła sankcji, wykazując, że od tego czasu wprowadziła obowiązek niezależnej weryfikacji. To nie narzędzie było zabezpieczeniem. Zabezpieczeniem była zasada sprawdzania każdej sygnatury.
“Zaufałeś narzędziu, bo miało nazwę twojej kancelarii. Tak samo jak osiem spraw, które wymyśliło.”
- 01Stosuj wobec narzędzi wewnętrznych ten sam standard weryfikacji, co wobec każdego publicznego chatbota. Ta sama maszyna, ten sam tryb awarii.
- 02Wprowadź obowiązek niezależnego sprawdzania sygnatur jako pisemną zasadę kancelarii i faktycznie się jej trzymaj.
- 03Niech "kto otworzył tę sprawę" będzie pytaniem z przypisanym nazwiskiem, zanim cokolwiek zostanie złożone.
To nie porada prawna. Ogolny komentarz do przypadku uzycia, nie do twojej sytuacji. Porozmawiaj z prawdziwym prawnikiem, zanim zaczniesz dzialac.