고객 응대 AI 챗봇이 당신 회사의 정책을 직접 인용하게 두는 것
당신의 봇이 약속했다면, 그건 당신이 산 거다. "AI가 그랬어요"는 변명이 아니라 자백이다.
이것은 법률 자문이 아닙니다. 샐리는 특정한 당신의 상황이 아니라 일반적인 행동과 사용 사례를 비꼬며, 여기 있는 어떤 것도 진짜 변호사를 대신하지 않습니다. 사례는 실제이지만, 그에 대해 무엇을 할지는 당신과 그것을 말해 줄 자격이 있는 사람 사이의 문제입니다.
정책과 환불 문의에 답하라고 사이트에 AI 챗봇을 올려놓고, 그 봇이 고객에게 뭐라고 말하든 그대로 믿는 것.
Moffatt v. Air Canada
2024 BCCRT 149 (B.C. Civil Resolution Tribunal) · Canada (British Columbia)
에어캐나다 웹사이트 챗봇이 상을 당한 고객에게 사별 할인을 소급해서 받을 수 있다고 말했다. 항공사의 실제 정책은 이를 허용하지 않았고, 항공사는 챗봇이 별개의 법인이라고 주장했다.
심판소는 에어캐나다에 과실에 의한 부실표시 책임이 있다고 보고, "별개 법인" 주장을 기각했으며, 고객에게 CA$650.88을 배상하라고 판결했다.
어느 회사는 실제 심판소에서 자사 웹사이트 챗봇이 제 발언에 책임지는 별개의 법인이라고 주장하려 했다. 심판소가 웃음을 터뜨리진 않았지만, 거의 그럴 뻔했다. 당신의 봇은 곧 당신이다. 봇이 하는 모든 말은 당신 사업체가 한 진술이다.
당신이 실제로 제공하지도 않는 환불 정책을 자신만만하게 지어내는 AI는 깜찍한 도우미가 아니다. 그건 당신이 떠안고 지켜야 할 약속을 찍어내는 책임 생산 기계다.
“당신은 회사를 대변하라고 로봇을 배치해 놓고, 법원이 그 로봇을 회사 대변인 취급하자 충격받은 척했다.”
- 01봇이 당신의 실제 최신 정책 텍스트에서만 정보를 끌어오도록 제한하고, 정책을 풀어서 말하게 하지 말고 그 페이지로 링크를 걸게 하라.
- 02돈, 자격 요건, 법적 권리에 닿는 모든 사안에는 사람이 검토하는 단계를 두라.
- 03봇이 사람들에게 뭐라고 말하는지 기록으로 남겨라. 공식 서한지에 적어 내보낼 수 없는 말이라면, 봇도 입에 담아선 안 된다.
법률 자문이 아닙니다. 당신의 상황이 아니라 사용 사례에 대한 일반적인 논평입니다. 행동하기 전에 진짜 변호사와 상담하세요.