Don'tCase Law & Litigation
ハルシネーションの引用はせいぜい少額の罰金で済むと思い込む
罰金は安く済む方の結末です。高くつくのは、懲戒委員会への付託にあなたの名前が載ることです。
By Cynical SallyIssue Nº 1
これは法的助言ではありません。サリーが皮肉るのは一般的な行動やユースケースであって、あなた個別の状況ではなく、ここにある内容が本物の弁護士の代わりになることはありません。事例は実在しますが、それにどう対処するかはあなたと、それを助言する資格を持つ者との間の問題です。
最悪でも「制裁」止まりだからと、AIがハルシネーションした権威を些細なリスクとして扱うこと。
This actually happenedA real case, in full
The receiptDecided
Park v. Kim
91 F.4th 610 (2d Cir. 2024) · US (2d Circuit)
What happened
ある弁護士がChatGPTの生成した実在しない判例を引用し、追及されてもそれを提示できませんでした。
The outcome
第2巡回区控訴裁判所は、金銭的制裁とは別に、その弁護士を懲戒調査のため苦情処理委員会へ付託しました。
Why
ある控訴裁判所は、実在しないAI生成の判例を引用した弁護士に罰金を科しただけではありませんでした。懲戒調査のために苦情処理委員会へ付託したのです。署名前に合理的な調査を行う義務は、AI支援の調査にも丸ごと適用されます。「コンピューターがやった」という例外はありません。
評判への打撃は金額よりも重くのしかかります。実在しない判例を引用した経緯を記した公刊判決は、5桁の制裁よりもはるかに長くあなたの名前についてまわります。
“あなたは20分の調査を節約し、それを利息つきで、苦情処理委員会に弁明する時間として使いました。”
What to do instead
- 01下書きがどれほど信頼できそうに感じても、提出前に自分で権威を毎回検証すること。
- 02ワークフローに固定のチェックを組み込むこと。自分で実際に開いていない引用は一つも世に出さない。
- 03義務はあなたのものだと忘れないこと。起草をモデルに委ねても、責任は委ねられません。
法的助言ではありません。あなたの状況ではなく、ユースケースへの一般的な論評です。行動する前に本物の弁護士に相談してください。