顧客対応のAIチャットボットに自社ポリシーを語らせる
ボットが約束したなら、あなたが買ったも同然。「AIが言った」は弁解ではなく、自白です。
これは法的助言ではありません。サリーが皮肉るのは一般的な行動やユースケースであって、あなた個別の状況ではなく、ここにある内容が本物の弁護士の代わりになることはありません。事例は実在しますが、それにどう対処するかはあなたと、それを助言する資格を持つ者との間の問題です。
ポリシーや返金に関する質問に答えさせるためにサイトへAIチャットボットを置き、それが顧客に何を言おうと鵜呑みにすること。
Moffatt v. Air Canada
2024 BCCRT 149 (B.C. Civil Resolution Tribunal) · Canada (British Columbia)
エア・カナダのサイトのチャットボットは、遺族割引を後から遡って請求できると、亡くした人を悼む顧客に伝えました。航空会社の実際のポリシーはそれを認めておらず、同社はチャットボットが別個の法人だと主張しました。
審判所はエア・カナダに過失による不実表示の責任を認め、「別個の法人」という主張を退け、顧客にCA$650.88の支払いを命じました。
ある企業は実際の審判所で、サイトのチャットボットは自分の発言に責任を持つ別個の法人だと主張しようとしました。審判所は笑い飛ばしはしませんでしたが、ぎりぎりのところでした。あなたのボットはあなた自身です。ボットの発言はすべて、あなたの会社がした表明です。
実在しない返金ポリシーを自信満々ででっち上げるAIは、ちょっと変わった助っ人ではありません。あなたが履行する羽目になる約束を量産する、責任発生マシンです。
“あなたは会社を代弁させるためにロボットを配備しておきながら、裁判所がそれを会社の代弁として扱ったらショックを受けたふりをしました。”
- 01ボットには実在する最新のポリシー本文だけを参照させ、言い換えさせるのではなく、そのページへリンクを貼らせること。
- 02お金、適格性、法的権利に触れるものには、必ず人間によるレビュー工程を挟むこと。
- 03ボットが顧客に何を言ったか記録すること。社用便箋に書いて出せない内容なら、ボットにも言わせてはいけません。
法的助言ではありません。あなたの状況ではなく、ユースケースへの一般的な論評です。行動する前に本物の弁護士に相談してください。