Deixar um chatbot de IA virado para o cliente citar as suas próprias políticas
Se o seu bot promete, você paga. "A IA é que disse" não é defesa, é confissão.
Isto nao e aconselhamento juridico. A Sally critica comportamentos e casos de uso em geral, nunca a tua situacao especifica, e nada aqui substitui um advogado a serio. Os casos sao reais; o que fazes com eles e entre ti e alguem habilitado a dizer-te.
Colocar um chatbot de IA no seu site para responder a dúvidas sobre políticas e reembolsos, e confiar em tudo o que ele diz aos clientes.
Moffatt v. Air Canada
2024 BCCRT 149 (B.C. Civil Resolution Tribunal) · Canada (British Columbia)
O chatbot do site da Air Canada disse a um cliente em luto que ele podia pedir um desconto por falecimento de forma retroativa. A política real da companhia não permitia isso, e ela alegou que o chatbot era uma entidade jurídica separada.
O tribunal responsabilizou a Air Canada por declaração negligente enganosa, rejeitou o argumento da "entidade separada" e atribuiu ao cliente 650,88 dólares canadianos.
Uma empresa tentou argumentar, num tribunal real, que o chatbot do seu site era uma entidade jurídica separada, responsável pelas suas próprias palavras. O tribunal não riu, mas faltou pouco. O seu bot é você. Tudo o que ele diz é uma declaração feita pela sua empresa.
Uma IA que inventa com toda a confiança uma política de reembolso que você nem oferece não é um assistente engraçadinho. É uma máquina de criar passivos, a gerar promessas que você depois é obrigado a cumprir.
“Você pôs um robô a falar pela sua empresa e depois fingiu-se chocado quando o tribunal o tratou como se ele estivesse a falar pela sua empresa.”
- 01Limite o bot a ir buscar o texto real e atual das suas políticas, e faça-o ligar para essa página em vez de a parafrasear.
- 02Meta uma revisão humana em tudo o que mexa com dinheiro, elegibilidade ou um direito legal.
- 03Registe o que o bot diz às pessoas. Se não o poria por escrito em papel timbrado, também não o deve dizer.
Nao e aconselhamento juridico. Comentario geral sobre um caso de uso, nao sobre a tua situacao. Fala com um advogado a serio antes de agires.