Mengandalkan keluaran AI tentang orang nyata yang disebut namanya
Saat sebuah model mengarang kejahatan dan menempelkan nama orang nyata padanya, itu bukan kesalahan teknis. Di bawah hukum data, itu pelanggaran akurasi.
Ini bukan nasihat hukum. Sally menyindir perilaku dan kasus penggunaan secara umum, bukan situasi spesifik Anda, dan tidak ada di sini yang menggantikan pengacara sungguhan. Kasusnya nyata; apa yang Anda lakukan terhadapnya adalah urusan antara Anda dan seseorang yang berlisensi untuk menasihati Anda.
Memperlakukan pernyataan percaya diri AI tentang individu yang disebut namanya sebagai fakta, atau menerbitkannya.
noyb v. OpenAI (Holmen complaint)
Complaint filed Mar. 2025 (Danish DPA) · EU (data protection complaint)
ChatGPT secara keliru memberi tahu seorang pria Norwegia bahwa ia telah membunuh dua putranya dan menjalani 21 tahun penjara, dicampur dengan detail pribadi yang benar.
Sedang ditangani otoritas perlindungan data, menuduh pelanggaran kewajiban akurasi GDPR dan hak pembetulan. Kutip sebagai belum terselesaikan.
Sebuah model pernah memberi tahu seorang pria nyata bahwa ia telah membunuh anak-anaknya sendiri dan dipenjara puluhan tahun, dicampur dengan detail benar seperti kota asalnya dan keluarganya. Di bawah hukum data Uni Eropa, ini bukan sekadar pencemaran nama baik. Ini masalah akurasi data, dan ketidakmampuan mengoreksi atau menghapus kebohongan itu sendiri merupakan pelanggaran hak pembetulan.
Bidang ini masih dalam proses diputuskan, dan itulah intinya. Kewajiban akurasi dan pembetulan melekat pada pernyataan buatan AI tentang orang persis seperti melekat pada catatan basis data, dan "kata si model" tidak membebaskanmu darinya.
“Ia benar soal kota asalnya tapi mengarang seluruh riwayat kriminalnya, yang entah bagaimana lebih buruk daripada salah semuanya.”
- 01Jangan pernah menerbitkan atau bertindak atas klaim AI tentang orang tertentu tanpa konfirmasi mandiri dari sumber nyata.
- 02Bangun jalur koreksi. Kalau sistemmu menyatakan fakta tentang orang, orang butuh cara untuk memperbaikinya.
- 03Perlakukan detail percaya diri tentang individu yang disebut namanya sebagai keluaran berisiko tertinggi yang bisa dihasilkan sebuah model.
Bukan nasihat hukum. Komentar umum atas sebuah kasus penggunaan, bukan situasi Anda. Bicaralah dengan pengacara sungguhan sebelum bertindak.