Mengutip putusan dari AI tanpa memastikan putusan itu benar ada
Modelnya akan mengarang kasus, kutipan sitasi, dan petikan, lalu menyajikan ketiganya dengan ketenangan yang sama persis seperti saat menyajikan yang asli.
Ini bukan nasihat hukum. Sally menyindir perilaku dan kasus penggunaan secara umum, bukan situasi spesifik Anda, dan tidak ada di sini yang menggantikan pengacara sungguhan. Kasusnya nyata; apa yang Anda lakukan terhadapnya adalah urusan antara Anda dan seseorang yang berlisensi untuk menasihati Anda.
Mengajukan memori hukum berisi sitasi kasus buatan chatbot, tanpa memastikan secara mandiri bahwa tiap kasusnya nyata.
Mata v. Avianca, Inc.
678 F. Supp. 3d 443 (S.D.N.Y. 2023) · US (S.D.N.Y.)
Dua pengacara mengajukan memori yang mengutip enam putusan ChatGPT yang sepenuhnya fiktif, lalu malah ngotot saat pengadilan tak bisa menemukannya.
Hakim Castel menemukan iktikad buruk secara subjektif dan menjatuhkan sanksi Rule 11 sebesar $5.000 kepada para pengacara dan firma mereka, serta memerintahkan mereka memberi tahu para hakim sungguhan yang secara keliru disebut sebagai penulis.
Inilah kisah peringatan paling awal dari seluruh genre ini. Pengacara mengajukan memori berisi enam putusan yang sepenuhnya fiktif hasil chatbot, lengkap dengan petikan palsu dan hakim palsu. Bertanya ke chatbot "apakah ini asli?" lalu dijawab "ya" bukanlah verifikasi. Itu cuma mesin yang sama berbohong dua kali kepadamu.
AI mengoptimalkan teks yang kelihatan seperti sitasi, bukan sitasi yang benar-benar ada. Nomor laporan dengan format sempurna dan nama kasus yang masuk akal adalah hal termudah di dunia baginya untuk dibuat, dan hal tersulit bagi orang sibuk untuk diragukan.
“Kamu tanya ke mesin apakah kasus karangannya asli, ia jawab ya, dan entah bagaimana itu jadi momen kamu berhenti mengecek.”
- 01Tarik setiap kasus dari basis data hukum sungguhan dan baca sebelum ia mendekati berkas pengadilan.
- 02Pakai AI untuk menyarankan kata kunci pencarian dan sudut pandang, bukan untuk memasok otoritas yang akan kamu tanda tangani.
- 03Kalau kamu tidak bisa menemukan kasusnya di laporan resmi, berarti kasus itu tidak ada. Jadikan itu asumsi bawaan, bukan pengecualian.
Bukan nasihat hukum. Komentar umum atas sebuah kasus penggunaan, bukan situasi Anda. Bicaralah dengan pengacara sungguhan sebelum bertindak.