Laisser un chatbot IA face aux clients citer vos propres conditions
Si ton bot le promet, tu l'as acheté. "C'est l'IA qui l'a dit" n'est pas une défense, c'est des aveux.
Ceci n'est pas un conseil juridique. Sally critique des comportements et des cas d'usage en general, jamais votre situation precise, et rien ici ne remplace un vrai avocat. Les affaires sont reelles ; ce que vous en faites regarde vous et une personne habilitee a vous conseiller.
Mettre un chatbot IA sur votre site pour répondre aux questions sur les conditions et les remboursements, et croire tout ce qu'il raconte aux clients.
Moffatt v. Air Canada
2024 BCCRT 149 (B.C. Civil Resolution Tribunal) · Canada (British Columbia)
Le chatbot du site d'Air Canada a dit à un client en deuil qu'il pouvait demander une réduction tarif deuil de façon rétroactive. La véritable politique de la compagnie ne le permettait pas, et elle a plaidé que le chatbot était une entité juridique distincte.
Le tribunal a tenu Air Canada responsable de déclaration inexacte par négligence, a rejeté l'argument de "l'entité distincte" et a accordé 650,88 CAD au client.
Une entreprise a réellement tenté de plaider devant un tribunal que le chatbot de son site était une entité juridique distincte, responsable de ses propres paroles. Le tribunal n'a pas ri, mais il s'en est fallu de peu. Ton bot, c'est toi. Tout ce qu'il dit est une déclaration faite par ton entreprise.
Une IA qui invente avec aplomb une politique de remboursement que tu ne proposes même pas n'est pas un petit assistant rigolo. C'est une machine à fabriquer de la responsabilité, qui génère des promesses que tu es ensuite obligé de tenir.
“Tu as déployé un robot pour parler au nom de ton entreprise, puis tu as joué les surpris quand un tribunal a considéré qu'il parlait au nom de ton entreprise.”
- 01Contrains le bot à puiser dans le texte réel et à jour de tes conditions, et fais-le renvoyer vers cette page au lieu de la paraphraser.
- 02Ajoute une étape de validation humaine sur tout ce qui touche à l'argent, à l'éligibilité ou à un droit juridique.
- 03Garde une trace de ce que le bot raconte aux gens. Si tu ne l'écrirais pas noir sur blanc sur du papier à en-tête, il ne devrait pas le dire non plus.
Pas un conseil juridique. Commentaire general sur un cas d'usage, pas sur votre situation. Parlez a un vrai avocat avant d'agir.