Membiarkan chatbot AI yang menghadap pelanggan mengutip kebijakanmu sendiri
Kalau bot-mu menjanjikan sesuatu, kamu yang membelinya. "Kata si AI" bukan pembelaan, itu pengakuan.
Ini bukan nasihat hukum. Sally menyindir perilaku dan kasus penggunaan secara umum, bukan situasi spesifik Anda, dan tidak ada di sini yang menggantikan pengacara sungguhan. Kasusnya nyata; apa yang Anda lakukan terhadapnya adalah urusan antara Anda dan seseorang yang berlisensi untuk menasihati Anda.
Memasang chatbot AI di situsmu untuk menjawab pertanyaan soal kebijakan dan pengembalian dana, lalu percaya begitu saja apa pun yang dikatakannya ke pelanggan.
Moffatt v. Air Canada
2024 BCCRT 149 (B.C. Civil Resolution Tribunal) · Canada (British Columbia)
Chatbot situs Air Canada memberi tahu seorang pelanggan yang sedang berduka bahwa ia bisa mengklaim diskon dukacita secara surut. Kebijakan asli maskapai tidak mengizinkan itu, dan mereka berargumen bahwa chatbot adalah entitas hukum terpisah.
Majelis menyatakan Air Canada bertanggung jawab atas kelalaian dalam memberi keterangan keliru, menolak argumen "entitas terpisah", dan memenangkan pelanggan sebesar CA$650,88.
Sebuah perusahaan benar-benar mencoba berargumen di pengadilan bahwa chatbot situsnya adalah entitas hukum terpisah yang bertanggung jawab atas kata-katanya sendiri. Majelis tidak sampai tertawa, tapi nyaris. Bot-mu adalah kamu. Semua yang dikatakannya adalah pernyataan yang dibuat oleh bisnismu.
AI yang dengan percaya diri mengarang kebijakan pengembalian dana yang sebenarnya tidak kamu tawarkan bukanlah asisten lucu. Itu mesin pencetak masalah yang memproduksi janji-janji yang kemudian harus kamu tanggung sendiri.
“Kamu mengerahkan robot untuk bicara mewakili perusahaanmu, lalu pura-pura kaget waktu pengadilan menganggapnya benar-benar bicara mewakili perusahaanmu.”
- 01Batasi bot agar hanya mengambil dari teks kebijakanmu yang asli dan terkini, dan suruh ia menautkan ke halaman itu alih-alih memparafrasakannya.
- 02Tambahkan langkah peninjauan manusia untuk apa pun yang menyangkut uang, kelayakan, atau hak hukum.
- 03Catat apa yang dikatakan bot ke orang. Kalau kamu tidak akan menulisnya di atas kop surat resmi, bot juga tidak boleh mengatakannya.
Bukan nasihat hukum. Komentar umum atas sebuah kasus penggunaan, bukan situasi Anda. Bicaralah dengan pengacara sungguhan sebelum bertindak.