استناد به پروندههایی از یک هوش مصنوعی بدون بررسی اینکه وجود دارند
مدل یک پرونده، یک ارجاع، و یک نقلقول اختراع میکند، و هر سه را با همان آرامش و اعتماد به نفسی ارائه میدهد که برای پروندههای واقعی به کار میبرد.
این مشاوره حقوقی نیست. سلی رفتارها و موارد کاربرد را بهطور کلی به سخره میگیرد، نه وضعیت خاص شما را، و هیچچیز اینجا جای یک وکیل واقعی را نمیگیرد. پروندهها واقعیاند؛ اما اینکه با آنها چه میکنید میان شما و کسی است که مجوز دارد به شما بگوید.
ثبت یک لایحه با ارجاعات پرونده که یک چتبات تولید کرده، بدون تأیید مستقلِ اینکه هر پرونده واقعی است.
Mata v. Avianca, Inc.
678 F. Supp. 3d 443 (S.D.N.Y. 2023) · US (S.D.N.Y.)
دو وکیل یک لایحه ثبت کردند که به شش تصمیمِ کاملاً ساختگیِ تولیدشده توسط چتجیپیتی استناد میکرد، بعد هم وقتی دادگاه نتوانست آنها را پیدا کند بر حرفشان پافشاری کردند.
قاضی کاستل سوءنیتِ ذهنی تشخیص داد و ۵٬۰۰۰ دلار جریمه طبق قاعدهی ۱۱ بر وکلا و شرکتشان تحمیل کرد، و دستور داد به قضات واقعیای که بهدروغ بهعنوان نویسنده نام برده شده بودند اطلاع بدهند.
این داستان عبرتآموزِ بنیادینِ کل این ژانر است. وکلایی یک لایحه ثبت کردند که به شش تصمیمِ کاملاً ساختگی استناد میکرد که یک چتبات تولید کرده بود، با نقلقولهای جعلی و قضات جعلی. پرسیدن از چتبات که «اینها واقعیاند؟» و شنیدن «بله» راستیآزمایی نیست. همان ماشین است که دو بار به تو دروغ میگوید.
هوش مصنوعی متنی را بهینه میکند که شبیه ارجاع به نظر برسد، نه ارجاعی که وجود داشته باشد. یک شمارهی گزارش با قالببندی بینقص و نامِ پروندهای محتمل آسانترین چیز در دنیا برای ساختن است و سختترین چیز برای شک کردنِ یک آدم پرمشغله.
“از ماشین پرسیدی پروندههای ساختگیاش واقعیاند، گفت بله، و یکجوری همان لحظه بود که از بررسی کردن دست کشیدی.”
- 01هر تکپرونده را در یک پایگاهدادهی حقوقی واقعی بیرون بکش و قبل از اینکه نزدیک یک لایحه شود بخوانش.
- 02از هوش مصنوعی برای پیشنهاد عبارات جستوجو و زاویهها استفاده کن، نه برای تأمین مرجعی که زیرش امضا میکنی.
- 03اگر نمیتوانی پرونده را در یک گزارش پیدا کنی، وجود ندارد. این را پیشفرض بگیر، نه استثنا.
مشاوره حقوقی نیست. تفسیری کلی درباره یک مورد کاربرد است، نه وضعیت شما. پیش از هر اقدامی با یک وکیل واقعی صحبت کنید.