実在を確かめずにAIの判例を引用する
モデルは判例も引用番号も判決文の一節もでっち上げ、その三つを、本物に使うのと同じ穏やかな自信で差し出してきます。
これは法的助言ではありません。サリーが皮肉るのは一般的な行動やユースケースであって、あなた個別の状況ではなく、ここにある内容が本物の弁護士の代わりになることはありません。事例は実在しますが、それにどう対処するかはあなたと、それを助言する資格を持つ者との間の問題です。
チャットボットが出した判例引用を載せた書面を、各判例が実在するかを独自に確認せずに提出すること。
Mata v. Avianca, Inc.
678 F. Supp. 3d 443 (S.D.N.Y. 2023) · US (S.D.N.Y.)
2人の弁護士が、ChatGPTが生成した全くの架空の6つの判決を引用した書面を提出し、裁判所がそれらを見つけられなかった後も態度を改めませんでした。
カステル判事は主観的な悪意を認定し、弁護士と事務所にRule 11に基づく5,000ドルの制裁を科し、執筆者として虚偽の名前を挙げられた実在の裁判官たちへ通知するよう命じました。
これはこのジャンル全体の出発点となった戒めの物語です。弁護士たちは、チャットボットが作った全くの架空の6つの判決を、偽の引用と偽の裁判官名つきで引用した書面を提出しました。チャットボットに「これは本物?」と尋ねて「はい」と言われるのは検証ではありません。同じ機械が二度あなたに嘘をついているだけです。
AIは引用らしく見えるテキストに最適化されているのであって、実在する引用には最適化されていません。完璧な書式の判例集番号にもっともらしい事件名がついたものは、AIにとってこの世で最も生成しやすく、忙しい人間にとって最も疑いにくいものです。
“あなたは機械に、でっち上げた判例が本物か尋ね、機械は「はい」と答え、なぜかその瞬間にあなたは確認をやめました。”
- 01すべての判例を一つ残らず本物の法律データベースで引き出し、書面に近づける前に読むこと。
- 02AIは検索語や切り口の提案に使い、自分の名前で署名する権威の供給源にはしないこと。
- 03判例集で見つからない判例は、存在しません。それを例外ではなく初期設定として扱うこと。
法的助言ではありません。あなたの状況ではなく、ユースケースへの一般的な論評です。行動する前に本物の弁護士に相談してください。