Question 1

Membiarkan chatbot AI yang menghadap pelanggan mengutip kebijakanmu sendiri

Accepted Answer

Kalau bot-mu menjanjikan sesuatu, kamu yang membelinya. "Kata si AI" bukan pembelaan, itu pengakuan. Sebuah perusahaan benar-benar mencoba berargumen di pengadilan bahwa chatbot situsnya adalah entitas hukum terpisah yang bertanggung jawab atas kata-katanya sendiri. Majelis tidak sampai tertawa, tapi nyaris. Bot-mu adalah kamu. Semua yang dikatakannya adalah pernyataan yang dibuat oleh bisnismu. AI yang dengan percaya diri mengarang kebijakan pengembalian dana yang sebenarnya tidak kamu tawarkan bukanlah asisten lucu. Itu mesin pencetak masalah yang memproduksi janji-janji yang kemudian harus kamu tanggung sendiri.

Question 2

Memercayai "pengacara AI" untuk membuat dokumen hukum sah tanpa pengawasan

Accepted Answer

"Pengacara robot" itu frasa pemasaran, bukan polis asuransi malapraktik. Robotnya tidak menanggung risiko. Kamu yang menanggung. Sebuah regulator mengejar perusahaan yang memasarkan "pengacara AI" dengan klaim bisa membuat dokumen hukum yang sempurna sahnya dan menggantikan pengacara manusia, tanpa menguji akurasi atau melibatkan pengacara sungguhan untuk memverifikasi hasilnya. Memasarkan pekerjaan hukum AI sebagai setara pengacara tanpa bukti adalah masalah praktik menyesatkan. Kontrak yang kelihatan seperti karya pengacara tapi diam-diam salah jauh lebih berbahaya ketimbang tidak ada kontrak sama sekali, karena ia memberimu rasa percaya diri tepat sampai detik ia menjatuhkanmu di depan orang yang membaca dokumen seperti itu untuk mencari nafkah.

Question 3

Bertanya ke AI apakah perjanjian damai yang sudah kamu tanda tangani masih mengikat

Accepted Answer

Kamu yang menandatanganinya. Modelnya tidak. Tebak siapa yang dipedulikan pengadilan. Yang ini memang benar-benar belum jelas, dan justru itulah yang membuatnya berbahaya. AI yang memberi tahu seseorang bahwa perjanjian damai yang sudah ditandatangani dan dilepaskan "sebenarnya tidak mengikat" bisa memicu sengketa sungguhan, termasuk tuduhan campur tangan kontrak dan praktik hukum tanpa izin terhadap pembuat AI-nya. Sebuah model tidak tahu posisi acara kasusmu, bunyi pasti klausa pelepasannya, atau aturan yurisdiksimu. Ia hanya mencocokkan pola rasa percaya diri pada situasi yang, kalau salah, bisa membatalkan sesuatu yang sudah kamu setujui.

Question 4

Mengutip putusan dari AI tanpa memastikan putusan itu benar ada

Accepted Answer

Modelnya akan mengarang kasus, kutipan sitasi, dan petikan, lalu menyajikan ketiganya dengan ketenangan yang sama persis seperti saat menyajikan yang asli. Inilah kisah peringatan paling awal dari seluruh genre ini. Pengacara mengajukan memori berisi enam putusan yang sepenuhnya fiktif hasil chatbot, lengkap dengan petikan palsu dan hakim palsu. Bertanya ke chatbot "apakah ini asli?" lalu dijawab "ya" bukanlah verifikasi. Itu cuma mesin yang sama berbohong dua kali kepadamu. AI mengoptimalkan teks yang kelihatan seperti sitasi, bukan sitasi yang benar-benar ada. Nomor laporan dengan format sempurna dan nama kasus yang masuk akal adalah hal termudah di dunia baginya untuk dibuat, dan hal tersulit bagi orang sibuk untuk diragukan.

Question 5

Mengira sitasi halusinasi cuma berbuah denda kecil

Accepted Answer

Denda itu hasil yang murah. Yang mahal adalah namamu tercantum dalam rujukan ke majelis pendisiplinan. Sebuah pengadilan banding tidak cuma mendenda seorang pengacara yang mengutip kasus AI fiktif. Pengadilan itu merujuknya ke majelis pengaduannya untuk penyelidikan pendisiplinan. Kewajiban melakukan penyelidikan yang wajar sebelum kamu menandatangani berkas berlaku sepenuhnya pada riset berbantu AI. Tidak ada pengecualian "yang melakukan komputernya". Ongkos reputasi mendarat lebih keras ketimbang angka rupiahnya. Putusan terpublikasi yang menggambarkan bagaimana kamu mengutip kasus yang tidak ada akan mengikuti namamu jauh lebih lama daripada sanksi berdigit lima.

Question 6

Memercayai alat AI buatan firmamu sendiri untuk membuat sitasi yang benar

Accepted Answer

Halusinasi yang ada logo firmamu tetaplah halusinasi. Merek tidak membuat kasusnya jadi nyata. Bahkan alat AI internal milik firma besar pun menghasilkan berkas yang mengutip kasus yang tidak ada. "Ini sistem milik kami sendiri" tak membelimu apa pun kalau tak ada yang membuka kasusnya. Pengacara yang menandatangani tetap memikul tanggung jawab, tak peduli model siapa yang menyusun drafnya. Yang menarik, firmanya sendiri lolos dari sanksi dengan menunjukkan bahwa mereka sejak itu mewajibkan verifikasi mandiri. Alatnya bukan pengaman. Kebijakan mengecek setiap sitasi-lah pengamannya.

Question 7

Menyerahkan "riset" hasil AI ke pengacaramu sendiri untuk diajukan

Accepted Answer

Lalai dan ceroboh mendarat di tempat berbeda. Tak satu pun tempat yang enak untuk menjelaskan bagaimana kamu sampai ke sana. Ada garis sungguhan yang tipis di sini. Dalam satu perkara, seorang tergugat menyerahkan sitasi palsu dari chatbot ke pengacaranya, yang lalu mengajukannya. Hakim menolak menjatuhkan sanksi, menyebut perilaku itu lalai dan bukan iktikad buruk. Itu bukan pelabuhan aman. Itu nyaris celaka yang bergantung pada fakta-fakta spesifik. Kontrasnya dengan kasus-kasus sanksi terkenal itulah seluruh pelajarannya: beda antara denda dan lolos bisa berujung pada niat, dan kamu tak bisa memutuskan sendiri belakangan di sisi mana garis itu pengadilan akan menempatkanmu.

Question 8

Memakai AI untuk mencari sudut riset, lalu memverifikasi setiap kata

Accepted Answer

AI tempat yang bagus untuk memulai pencarian. Ia tempat yang fatal untuk mengakhirinya. Inilah versi yang benar-benar berhasil. Dipakai sebagai mitra curah gagasan, AI sungguh berguna: ia memunculkan sudut pandang, menyusun ringkasan dalam bahasa sederhana, dan membantumu membuat daftar hal yang perlu dicek. Bahayanya baru muncul saat saran itu jadi sitasi tanpa ada manusia di antaranya. Seluruh genre bencana ini ada karena orang melewatkan langkah verifikasi. Pertahankan langkah itu dan alat yang sama berubah jadi aset alih-alih liabilitas. Keterampilannya adalah tahu output mana yang butuh sumber dan mana yang tidak.

Question 9

Melatih atau menyuapi AI dengan data pribadi tanpa dasar hukum

Accepted Answer

"Itu ada di internet" bukan dasar hukum. Di Uni Eropa itu nyaris bukan alasan pun. Sebuah otoritas perlindungan data menjatuhkan denda besar berdigit delapan atas pelatihan AI dengan data pribadi tanpa dasar hukum yang sah, disertai kegagalan transparansi dan kelalaian melaporkan pelanggaran data. Itu penalti besar pertama untuk AI generatif di bawah hukum data Uni Eropa, dan tak akan jadi yang terakhir. Naluri bahwa publik berarti bebas dipakai tidak bertahan begitu bersentuhan dengan GDPR. Data pribadi membawa kewajiban tak peduli di mana kamu menemukannya: dasar yang sah, transparansi soal apa yang kamu lakukan, dan cara bagi orang untuk menjalankan hak mereka.

Question 10

Mengandalkan keluaran AI tentang orang nyata yang disebut namanya

Accepted Answer

Saat sebuah model mengarang kejahatan dan menempelkan nama orang nyata padanya, itu bukan kesalahan teknis. Di bawah hukum data, itu pelanggaran akurasi. Sebuah model pernah memberi tahu seorang pria nyata bahwa ia telah membunuh anak-anaknya sendiri dan dipenjara puluhan tahun, dicampur dengan detail benar seperti kota asalnya dan keluarganya. Di bawah hukum data Uni Eropa, ini bukan sekadar pencemaran nama baik. Ini masalah akurasi data, dan ketidakmampuan mengoreksi atau menghapus kebohongan itu sendiri merupakan pelanggaran hak pembetulan. Bidang ini masih dalam proses diputuskan, dan itulah intinya. Kewajiban akurasi dan pembetulan melekat pada pernyataan buatan AI tentang orang persis seperti melekat pada catatan basis data, dan "kata si model" tidak membebaskanmu darinya.

Question 11

Mengira "tersedia untuk umum" berarti bebas di-scrape dan dilatihkan

Accepted Answer

Terlihat dan diizinkan bukan kata yang sama. Orang terus membayar pengacara untuk belajar bedanya. Gugatan kelompok berskala luas mengajukan teori bahwa men-scrape miliaran kata dan detail pribadi untuk melatih model, tanpa persetujuan, menyangkut hak privasi dan data. Beberapa gugatan itu gugur pada soal prosedur, jadi anggaplah sebagai penetap teori ketimbang kemenangan. Tapi teorinya sendiri kini sudah jelas berada di atas meja. Keterlihatan publik soal akses, bukan izin. Sebuah foto, unggahan, atau profil yang bisa dijangkau tak mengatakan apa pun soal apakah kamu boleh menyerapnya ke model komersial. Pertanyaan kedua itu punya aturannya sendiri, dan aturannya sedang mengetat.

Question 12

Memberi alat AI hanya data yang benar-benar dibutuhkannya

Accepted Answer

Data pribadi paling aman adalah data pribadi yang tak pernah kamu masukkan. Minimalkan dulu, prompt belakangan. Inilah kebiasaan membosankan yang menjauhkanmu dari kisah-kisah peringatan. Denda dan larangan berkumpul di sekitar organisasi yang menyuapi model dengan lebih banyak data pribadi ketimbang yang punya dasar. Minimalisasi data, prinsip hanya memakai yang sungguh kamu butuhkan, adalah kepatuhan termurah yang akan pernah kamu lakukan. Sebagian besar tugas AI sebenarnya tak butuh nama, alamat, atau catatan lengkap. Yang dibutuhkan adalah fakta yang relevan. Pisahkan keduanya dan sebagian besar paparan privasimu lenyap sebelum kamu sempat menekan kirim.

Question 13

Mengklaim hak cipta atas karya yang sepenuhnya dibuat AI

Accepted Answer

Mesin tak bisa jadi pencipta. Kamu tak bisa mengklaim hak cipta atas sesuatu yang tak dibuat manusia, sebagus apa pun prompt-nya. Seorang pria menghabiskan bertahun-tahun mencoba mendaftarkan karya seni hasil AI dengan menyebut mesin sebagai penciptanya. Pengadilan menolak, sampai tingkat tertinggi, karena hak cipta menuntut adanya pencipta manusia sejak awal. Mahkamah Agung menolak menyentuhnya, yang menjadikannya hukum yang tetap: karya yang sepenuhnya dibuat AI tanpa kepenciptaan manusia tidak bisa didaftarkan. Ini tidak menyelesaikan soal kolaborasi manusia dengan AI, di mana seseorang sungguh membentuk hasilnya. Tapi keluaran mesin murni yang berdiri sendiri tidak punya hak cipta untuk dimiliki siapa pun, termasuk kamu.

Question 14

Mengklaim hak cipta atas karya berbantu AI yang sebagiannya kamu kerjakan

Accepted Answer

Kamu bisa melindungi bagian yang kamu buat. Bagian buatan mesin ikut gratis, dalam kedua arti kata itu. Saat seseorang mendaftarkan novel grafis berisi gambar buatan AI, kantor hak cipta hanya membiarkan perlindungannya berlaku untuk teks ciptaan manusia serta pemilihan dan penyusunannya. Gambar AI-nya sendiri tak dapat apa-apa. Memberikan prompt ke sebuah generator dinyatakan tidak benar-benar membentuk gambar hasilnya dalam pengertian kepenciptaan. Jadi karyanya terlindungi sepotong-sepotong. Tulisanmu, kurasimu, tata letakmu, itu milikmu. Aset mentah yang dihasilkan di antaranya bukan, dan kamu tak boleh menyatakan bahwa itu milikmu.

Question 15

Melatih AI komersial dengan materi berhak cipta milik pesaing

Accepted Answer

Membangun pengganti produk seseorang dari karya berhak ciptanya sendiri bukanlah transformatif. Itu cuma persaingan dengan langkah ekstra plus gugatan. Sebuah pengadilan menghasilkan putusan federal AS pertama yang menolak pembelaan penggunaan wajar untuk pelatihan AI, di mana sebuah perusahaan melatih alat riset hukum dengan headnote berhak cipta milik pesaing. Penggunaannya dinilai tidak transformatif dan jadi substitusi pasar, yang kira-kira kombinasi kata terburuk yang bisa kamu dengar dalam analisis penggunaan wajar. Penggunaan wajar bersandar pada apakah penggunaanmu mentransformasi karya aslinya dan apakah ia merugikan pasar untuk karya itu. Latih dengan materi pesaing untuk membangun produk saingan dan kamu sudah menjawab kedua pertanyaan itu melawan dirimu sendiri.

Question 16

Memakai materi bajakan sebagai data pelatihan

Accepted Answer

Cara kamu mendapatkan buku itu sama pentingnya dengan apa yang kamu lakukan dengannya. Perpustakaan bajakan bukan saluran data. Sebuah pengadilan menemukan bahwa melatih dengan buku yang diperoleh secara sah bisa jadi penggunaan wajar, tapi memakai salinan bajakan tidak. Perusahaannya kemudian berdamai dengan jumlah yang dilaporkan sekitar 1,5 miliar dolar, penyelesaian hak cipta terbesar dari jenisnya. Cacat fatalnya bukan metode pelatihan. Cacatnya rantai pasok. Inilah bagian yang dilewatkan tim saat mereka bergerak cepat: asal-usul datanya. Teknik yang bisa dipertahankan, dibangun di atas sumber yang tak bisa dipertahankan, runtuh begitu seseorang bertanya dari mana berkasnya berasal.

Question 17

Mengira aturan hak cipta AI sama di setiap negara

Accepted Answer

Di mana pelatihan terjadi bisa menentukan siapa menang. Hukumnya tidak berubah di perbatasan, ia berubah di server. Dalam sebuah kasus di Inggris, pengadilan memutuskan bahwa bobot model AI bukanlah salinan dari gambar pelatihan, dan seorang pemegang hak besar sebagian besar kalah setelah meninggalkan klaim utamanya soal pelanggaran pelatihan, sebagian karena ia tak bisa membuktikan pelatihan terjadi di Inggris. Itu kontras mencolok dengan cara pertanyaan yang sama diperdebatkan di AS. Jadi fakta yang sama bisa menghasilkan hasil berbeda tergantung di mana pelatihannya berjalan dan hukum siapa yang berlaku. Memperlakukan jawaban satu yurisdiksi sebagai universal adalah cara proyek AI lintas batas berjalan masuk ke kejutan.

Question 18

Membiarkan alat rekrutmen AI menyaring berdasarkan usia atau ciri terlindungi lain

Accepted Answer

Mengotomatiskan diskriminasi tidak mencucinya jadi bersih. Algoritmanya cuma melakukan hal ilegal lebih cepat dan berskala besar. Sebuah alat rekrutmen otomatis menolak pelamar perempuan di atas 55 dan pelamar laki-laki di atas 60, menyingkirkan lebih dari dua ratus orang. Itu ketahuan saat seseorang melamar lagi hanya dengan mengubah tanggal lahirnya dan tiba-tiba dapat wawancara. Regulator memperlakukannya sebagai pelanggaran diskriminasi usia yang gamblang, karena memang persis begitu adanya. Menaruh bias di dalam perangkat lunak tidak membuatnya netral. Kalau sebuah saringan menolak orang berdasarkan karakteristik terlindungi, atau proksi seperti tanggal lahir, itu keputusan ilegal yang sama seperti kalau seorang manusia melakukannya dengan tangan.

Question 19

Mengira vendor penyaring AI yang menanggung risiko diskriminasi

Accepted Answer

Vendornya mungkin ikut bertanggung jawab. Itu tidak sama dengan kamu lepas tangan, dan gugatan bersama tetaplah gugatanmu. Sebuah pengadilan mengizinkan klaim dampak tak setara berlanjut terhadap vendor penyaring AI dengan teori bahwa vendor bisa bertanggung jawab langsung sebagai agen pemberi kerja yang memakainya. Itu pergeseran nyata soal siapa yang bisa digugat. Tapi bacalah dengan benar: ia memperluas tanggung jawab, bukan memindahkannya jauh dari dirimu. Bidang ini masih dalam proses diputuskan, dengan kolektif berskala nasional yang sudah disahkan. Bacaan aman bagi pemberi kerja adalah kamu dan vendormu sama-sama bisa terjerat, jadi "kami pakai alat pihak ketiga" bukan perisai seperti yang orang kira.

Question 20

Memakai AI untuk menyusun deskripsi pekerjaan, dengan pemeriksaan bias oleh manusia sebelum ia menyaring siapa pun

Accepted Answer

AI menulis lowongan itu tidak apa-apa. AI memutuskan siapa yang ditolak, tanpa diaudit, adalah cara kamu berakhir di catatan kasus. Inilah jalur amannya. Memakai AI untuk menyusun lowongan, mengetatkan bahasa, atau menandai kata yang mungkin membuat kandidat enggan adalah berisiko rendah dan sungguh membantu. Bahayanya hidup satu langkah kemudian, saat antusiasme yang sama diarahkan untuk otomatis menolak pelamar tanpa ada yang memeriksa polanya. Jaga model di sisi penulisan dan manusia di sisi pengambilan keputusan, dan kamu mendapat produktivitasnya tanpa paparan dampak tak setara. Semua penyelesaian peringatan itu punya satu ciri sama: tak ada yang mengaudit apa yang disingkirkan otomatisasi itu.

Sally's Law