Vertrouwen dat de interne AI-tool van je kantoor de verwijzingen klopt
Een hallucinatie met het logo van je kantoor erop is nog steeds een hallucinatie. De branding maakt de zaken niet echt.
Dit is geen juridisch advies. Sally roast gedrag en use-cases in het algemeen, nooit jouw specifieke situatie, en niets hier vervangt een echte advocaat. De zaken zijn echt; wat je ermee doet, is tussen jou en iemand met een vergunning om je dat te vertellen.
Aannemen dat een eigen, intern gebouwde juridische AI-tool veilig is om uit te citeren omdat het "de onze" is en geen publieke chatbot.
Wadsworth v. Walmart Inc.
D. Wyo., sanctions order Feb. 2025 (docket-level) · US (D. Wyoming)
Drie advocaten dienden verzoeken in die negen zaken citeerden, waarvan er acht niet bestonden, gegenereerd via de interne AI-tool van hun kantoor.
De rechter legde in totaal $5.000 aan sancties op en de hoofdadvocaat verloor zijn pro hac vice-status. Het kantoor ontkwam aan een sanctie door aan te tonen dat het inmiddels onafhankelijke verificatie verplicht had gesteld.
Zelfs de eigen interne AI-tool van een groot kantoor produceerde stukken die onbestaande zaken citeerden. "Het is ons eigen systeem" levert je niets op als niemand de zaken heeft opengeslagen. De tekenende advocaat draagt nog steeds de verantwoordelijkheid, ongeacht wiens model het concept genereerde.
Veelzeggend is dat het kantoor zelf aan een sanctie ontkwam door aan te tonen dat het inmiddels onafhankelijke verificatie verplicht had gesteld. De tool was niet de waarborg. Het beleid om elke verwijzing te checken was dat wel.
“Je vertrouwde de tool omdat de naam van je kantoor erop stond. Dat deden de acht zaken die hij verzon ook.”
- 01Hanteer voor interne tools dezelfde verificatienorm als voor elke publieke chatbot. Zelfde machine, zelfde faalwijze.
- 02Stel onafhankelijke verwijzingscontroles verplicht als kantoorbeleid, op schrift, en houd je er ook echt aan.
- 03Maak van "wie heeft deze zaak opengeslagen" een vraag met een naam eraan voordat er iets wordt ingediend.
Geen juridisch advies. Algemeen commentaar op een use-case, niet op jouw situatie. Praat met een echte advocaat voordat je handelt.