事務所内製のAIツールが引用を正しく出すと信用する
事務所のロゴがついたハルシネーションも、やはりハルシネーションです。ブランドが判例を本物にするわけではありません。
これは法的助言ではありません。サリーが皮肉るのは一般的な行動やユースケースであって、あなた個別の状況ではなく、ここにある内容が本物の弁護士の代わりになることはありません。事例は実在しますが、それにどう対処するかはあなたと、それを助言する資格を持つ者との間の問題です。
事務所が自前で作った専有の法務AIツールは「うちのもの」で公開チャットボットではないから、引用元にしても安全だと思い込むこと。
Wadsworth v. Walmart Inc.
D. Wyo., sanctions order Feb. 2025 (docket-level) · US (D. Wyoming)
3人の弁護士が、事務所の内製AIツールで生成した9つの判例を引用した申立てを提出し、そのうち8つは実在しませんでした。
裁判官は合計5,000ドルの制裁を科し、主任弁護士はpro hac viceの資格を失いました。事務所は、その後独立検証を義務づけたことを示して制裁を免れました。
大手事務所自身の内製AIツールでさえ、実在しない判例を引用した書面を生み出しました。誰も判例を開いていなければ「うちの専有システムだから」では何の足しにもなりません。署名する弁護士は、誰のモデルが下書きを生成しようと、依然として責任を背負います。
注目すべきは、事務所自身はその後独立検証を義務づけたことを示して制裁を免れた点です。安全装置はツールではなく、すべての引用を確認するという方針でした。
“事務所の名前がついているからツールを信用しました。でっち上げた8つの判例にも、同じ名前がついていました。”
- 01内製ツールにも、公開チャットボットと同じ検証基準を適用すること。同じ機械、同じ故障様式です。
- 02独立した引用チェックを事務所の方針として文書で義務づけ、実際に守ること。
- 03提出前に「この判例を誰が開いたか」を、名前つきで答えられる質問にすること。
法的助言ではありません。あなたの状況ではなく、ユースケースへの一般的な論評です。行動する前に本物の弁護士に相談してください。