الاستشهاد بقضايا من الذكاء الاصطناعي دون التحقق من وجودها
سيخترع النموذج قضية ومرجعاً واقتباساً، ويقدّم الثلاثة بالثقة الهادئة نفسها التي يستخدمها للحقيقية منها.
هذه ليست استشارة قانونية. تسخر سالي من السلوكيات وحالات الاستخدام بشكل عام، لا من وضعك الخاص، ولا شيء هنا يحل محل محامٍ حقيقي. القضايا حقيقية؛ أما ما تفعله حيالها فهو شأن بينك وبين شخص مرخّص له أن يخبرك بذلك.
تقديم مذكرة فيها استشهادات بقضايا أنتجها روبوت محادثة، دون التأكد بشكل مستقل من أن كل قضية حقيقية.
Mata v. Avianca, Inc.
678 F. Supp. 3d 443 (S.D.N.Y. 2023) · US (S.D.N.Y.)
قدّم محاميان مذكرة استشهدت بست قرارات ملفّقة بالكامل ولّدها ChatGPT، ثم تماديا حين عجزت المحكمة عن إيجادها.
وجد القاضي كاستل سوء نية ذاتياً وفرض عقوبات بمبلغ 5,000 دولار بموجب القاعدة 11 على المحاميين وشركتهما، وأمرهما بإخطار القضاة الحقيقيين الذين نُسبت إليهم زوراً كتابة تلك القرارات.
هذه هي الحكاية التحذيرية المؤسِّسة للنوع كله. قدّم محامون مذكرة استشهدت بست قرارات ملفّقة بالكامل أنتجها روبوت محادثة، باقتباسات وقضاة وهميين. أن تسأل الروبوت "هل هذه حقيقية؟" فيقول "نعم" ليس تحققاً. إنها الآلة نفسها تكذب عليك مرتين.
الذكاء الاصطناعي يُحسّن نصاً يبدو كمرجع، لا مرجعاً موجوداً فعلاً. رقم مجلّة أحكام منسّق تماماً باسم قضية معقول هو أسهل شيء على الإطلاق ليولّده، وأصعب شيء على شخص مشغول أن يشكّ فيه.
“سألت الآلة إن كانت قضاياها الملفّقة حقيقية، فقالت نعم، وبطريقةٍ ما كانت تلك اللحظة التي توقفت فيها عن التحقق.”
- 01اسحب كل قضية على حدة من قاعدة بيانات قانونية حقيقية واقرأها قبل أن تقترب من أي مذكرة.
- 02استخدم الذكاء الاصطناعي لاقتراح مصطلحات بحث وزوايا، لا لتزويدك بمرجع ستوقّع باسمك تحته.
- 03إن لم تجد القضية في مجلّة أحكام، فهي غير موجودة. اعتبر ذلك القاعدة، لا الاستثناء.
ليست استشارة قانونية. تعليق عام على حالة استخدام، لا على وضعك. تحدّث مع محامٍ حقيقي قبل أن تتصرف.