Denken dat een gehallucineerde verwijzing je alleen een boete oplevert
Een boete is de goedkope uitkomst. De dure is je naam op een doorverwijzing naar de tuchtcommissie.
Dit is geen juridisch advies. Sally roast gedrag en use-cases in het algemeen, nooit jouw specifieke situatie, en niets hier vervangt een echte advocaat. De zaken zijn echt; wat je ermee doet, is tussen jou en iemand met een vergunning om je dat te vertellen.
Door AI gehallucineerd gezag behandelen als een klein risico omdat het ergste geval "een sanctie" is.
Park v. Kim
91 F.4th 610 (2d Cir. 2024) · US (2d Circuit)
Een advocaat citeerde een onbestaande zaak die door ChatGPT was gegenereerd en kon hem niet overleggen toen ze erop werd aangesproken.
Het Second Circuit verwees de advocaat naar zijn klachtencommissie voor een tuchtonderzoek, bovenop elke geldelijke straf.
Een hof van beroep beboette een advocaat niet alleen voor het citeren van een onbestaande, door AI gegenereerde zaak. Het verwees haar naar zijn klachtencommissie voor een tuchtonderzoek. De plicht om redelijk onderzoek te doen voordat je een stuk tekent geldt onverkort voor AI-ondersteund onderzoek. Er bestaat geen "de computer deed het"-uitzondering.
De reputatieschade hakt er harder in dan het bedrag. Een gepubliceerde uitspraak die beschrijft hoe je een onbestaande zaak citeerde, blijft veel langer aan je naam plakken dan een sanctie met vijf cijfers.
“Je bespaarde twintig minuten onderzoek en spendeerde ze, plus rente, aan jezelf verantwoorden voor een klachtencommissie.”
- 01Verifieer gezag zelf voordat je indient, elke keer, hoe betrouwbaar het concept ook aanvoelde.
- 02Bouw een vaste controle in je werkwijze: er gaat geen verwijzing de deur uit die je niet persoonlijk hebt opengeslagen.
- 03Onthoud dat de plicht de jouwe is. Het schrijven uitbesteden aan een model besteedt de verantwoordelijkheid niet uit.
Geen juridisch advies. Algemeen commentaar op een use-case, niet op jouw situatie. Praat met een echte advocaat voordat je handelt.