Dejar que un chatbot de IA de cara al cliente cite tus propias politicas
Si tu bot lo promete, te lo quedas. "Lo dijo la IA" no es una defensa, es una confesion.
Esto no es asesoramiento legal. Sally critica comportamientos y casos de uso en general, nunca tu situacion concreta, y nada de esto sustituye a un abogado de verdad. Los casos son reales; lo que hagas al respecto es asunto tuyo y de alguien con licencia para decirtelo.
Poner un chatbot de IA en tu web para responder preguntas sobre politicas y reembolsos, y fiarte de lo que sea que le diga a los clientes.
Moffatt v. Air Canada
2024 BCCRT 149 (B.C. Civil Resolution Tribunal) · Canada (British Columbia)
El chatbot de la web de Air Canada le dijo a un cliente en duelo que podia reclamar un descuento por fallecimiento de forma retroactiva. La politica real de la aerolinea no lo permitia, y alego que el chatbot era una entidad legal aparte.
El tribunal declaro a Air Canada responsable de tergiversacion negligente, rechazo el argumento de la "entidad aparte" y concedio al cliente 650,88 dolares canadienses.
Una empresa intento argumentar en un tribunal real que el chatbot de su web era una entidad legal aparte responsable de sus propias palabras. El tribunal no se rio, pero le falto poco. Tu bot eres tu. Todo lo que dice es una declaracion que ha hecho tu negocio.
Una IA que se inventa con total seguridad una politica de reembolsos que en realidad no ofreces no es un ayudante simpatico. Es una maquina de generar responsabilidades, fabricando promesas que luego tienes que cumplir tu.
“Desplegaste un robot para hablar en nombre de tu empresa y luego te escandalizaste cuando un tribunal lo trato como si hablara en nombre de tu empresa.”
- 01Limita el bot a recuperar el texto real y actual de tus politicas, y haz que enlace a esa pagina en lugar de parafrasearla.
- 02Pon un paso de revision humana en cualquier cosa que toque dinero, elegibilidad o un derecho legal.
- 03Registra lo que el bot le dice a la gente. Si no lo pondrias por escrito en papel con membrete, tampoco deberia decirlo.
Esto no es asesoramiento legal. Comentario general sobre un caso de uso, no sobre tu situacion. Habla con un abogado de verdad antes de actuar.