Memercayai "pengacara AI" untuk membuat dokumen hukum sah tanpa pengawasan
"Pengacara robot" itu frasa pemasaran, bukan polis asuransi malapraktik. Robotnya tidak menanggung risiko. Kamu yang menanggung.
Ini bukan nasihat hukum. Sally menyindir perilaku dan kasus penggunaan secara umum, bukan situasi spesifik Anda, dan tidak ada di sini yang menggantikan pengacara sungguhan. Kasusnya nyata; apa yang Anda lakukan terhadapnya adalah urusan antara Anda dan seseorang yang berlisensi untuk menasihati Anda.
Memakai produk konsumen "pengacara AI" untuk membuat kontrak atau berkas hukum dan menganggap hasilnya setara kualitas pengacara.
FTC v. DoNotPay, Inc.
FTC consent order finalized Jan. 2025 · US (Federal Trade Commission)
DoNotPay memasarkan "pengacara AI" yang diklaim bisa membuat dokumen hukum sah dan menggantikan pengacara manusia, tanpa menguji akurasi atau merekrut pengacara untuk memverifikasi hasilnya.
Berdamai dengan ganti rugi $193.000, dilarang mengklaim layanannya bekerja seperti pengacara sungguhan tanpa bukti, dan harus memberi tahu pelanggan yang terdampak.
Sebuah regulator mengejar perusahaan yang memasarkan "pengacara AI" dengan klaim bisa membuat dokumen hukum yang sempurna sahnya dan menggantikan pengacara manusia, tanpa menguji akurasi atau melibatkan pengacara sungguhan untuk memverifikasi hasilnya. Memasarkan pekerjaan hukum AI sebagai setara pengacara tanpa bukti adalah masalah praktik menyesatkan.
Kontrak yang kelihatan seperti karya pengacara tapi diam-diam salah jauh lebih berbahaya ketimbang tidak ada kontrak sama sekali, karena ia memberimu rasa percaya diri tepat sampai detik ia menjatuhkanmu di depan orang yang membaca dokumen seperti itu untuk mencari nafkah.
“Ia mencetak kontrak dalam empat detik. Pengacara sungguhan butuh lebih lama karena ialah satu-satunya orang di ruangan itu yang akan bertanggung jawab saat kontraknya salah.”
- 01Pakai AI untuk membongkar isi dokumen, membuat draf kasar pertama, atau menyusun daftar pertanyaanmu. Lalu mintalah pengacara berkualifikasi meninjau apa pun yang benar-benar akan kamu andalkan.
- 02Perlakukan hasil AI sebagai draf awal, jangan pernah sebagai versi yang ditandatangani.
- 03Curigai setiap alat yang berjanji bisa menggantikan pengacara. Yang benar-benar bekerja justru memberi tahu kapan kamu harus mencari pengacara.
Bukan nasihat hukum. Komentar umum atas sebuah kasus penggunaan, bukan situasi Anda. Bicaralah dengan pengacara sungguhan sebelum bertindak.