Zaken citeren uit een AI zonder te checken of ze bestaan
Het model verzint een zaak, een verwijzing en een citaat, en presenteert alle drie met dezelfde kalme overtuiging die het voor de echte gebruikt.
Dit is geen juridisch advies. Sally roast gedrag en use-cases in het algemeen, nooit jouw specifieke situatie, en niets hier vervangt een echte advocaat. De zaken zijn echt; wat je ermee doet, is tussen jou en iemand met een vergunning om je dat te vertellen.
Een processtuk indienen met jurisprudentieverwijzingen die een chatbot produceerde, zonder zelf te bevestigen dat elke zaak echt bestaat.
Mata v. Avianca, Inc.
678 F. Supp. 3d 443 (S.D.N.Y. 2023) · US (S.D.N.Y.)
Twee advocaten dienden een stuk in dat zes volledig verzonnen, door ChatGPT gegenereerde uitspraken citeerde, en hielden vol toen de rechtbank ze niet kon vinden.
Rechter Castel constateerde subjectieve kwade trouw en legde $5.000 aan Rule 11-sancties op aan de advocaten en hun kantoor, en gelastte hen de echte rechters in te lichten die ten onrechte als auteurs waren opgevoerd.
Dit is het stichtende waarschuwingsverhaal van het hele genre. Advocaten dienden een stuk in dat zes volledig verzonnen uitspraken citeerde die een chatbot produceerde, compleet met nepcitaten en nep-rechters. De chatbot vragen "zijn deze echt?" en "ja" te horen krijgen is geen verificatie. Het is dezelfde machine die twee keer tegen je liegt.
Een AI optimaliseert voor tekst die op een verwijzing lijkt, niet voor een verwijzing die bestaat. Een perfect opgemaakt vindplaatsnummer met een plausibele zaaknaam is het makkelijkste ter wereld om te genereren en het moeilijkste om in twijfel te trekken voor iemand met haast.
“Je vroeg de machine of zijn verzonnen zaken echt waren, hij zei ja, en op de een of andere manier was dat het moment waarop je stopte met checken.”
- 01Haal elke zaak op in een echte juridische database en lees hem voordat hij ook maar in de buurt van een processtuk komt.
- 02Gebruik AI om zoektermen en invalshoeken voor te stellen, niet om gezag aan te leveren waar je je naam onder zet.
- 03Kun je de zaak niet vinden in een vindplaats, dan bestaat hij niet. Behandel dat als de standaard, niet als de uitzondering.
Geen juridisch advies. Algemeen commentaar op een use-case, niet op jouw situatie. Praat met een echte advocaat voordat je handelt.