Lasciare che un chatbot AI rivolto ai clienti citi le tue stesse policy
Se il tuo bot lo promette, te lo compri tu. "L'ha detto l'AI" non è una difesa, è una confessione.
Questo non e un parere legale. Sally critica comportamenti e casi d'uso in generale, mai la tua situazione specifica, e niente qui sostituisce un vero avvocato. I casi sono reali; cosa farne e una questione tra te e qualcuno abilitato a dirtelo.
Mettere un chatbot AI sul tuo sito per rispondere a domande su policy e rimborsi, e fidarti di qualunque cosa dica ai clienti.
Moffatt v. Air Canada
2024 BCCRT 149 (B.C. Civil Resolution Tribunal) · Canada (British Columbia)
Il chatbot del sito di Air Canada ha detto a un cliente in lutto che poteva richiedere uno sconto per lutto in modo retroattivo. La policy reale della compagnia non lo permetteva, e ha sostenuto che il chatbot fosse un'entità giuridica separata.
Il tribunale ha ritenuto Air Canada responsabile per dichiarazioni colpose ingannevoli, ha respinto l'argomento dell'"entità separata" e ha riconosciuto al cliente CA$650,88.
Un'azienda ha provato a sostenere davanti a un vero tribunale che il chatbot del suo sito era un'entità giuridica separata, responsabile delle proprie parole. Il tribunale non si è messo a ridere, ma ci è andato vicino. Il tuo bot sei tu. Tutto ciò che dice è una dichiarazione che la tua azienda ha fatto.
Un'AI che con sicurezza si inventa una policy di rimborso che tu non offri davvero non è un assistente simpatico. È una macchina sforna-responsabilità che genera promesse che poi tocca a te onorare.
“Hai schierato un robot a parlare per la tua azienda, poi hai fatto la faccia sorpresa quando un tribunale lo ha trattato come se parlasse per la tua azienda.”
- 01Vincola il bot ad attingere dal testo reale e aggiornato delle tue policy, e fai in modo che colleghi quella pagina invece di parafrasarla.
- 02Metti un passaggio di revisione umana su tutto ciò che tocca soldi, ammissibilità o un diritto legale.
- 03Tieni un registro di ciò che il bot dice alle persone. Se non lo metteresti per iscritto su carta intestata, non deve dirlo nemmeno lui.
Non e un parere legale. Commento generale su un caso d'uso, non sulla tua situazione. Parla con un vero avvocato prima di agire.